Wikimania 2018: AI can be sexist and racist — it’s time to make it fair (English, Hebrew)

See also
Article in Nature https://www.nature.com/articles/d41586-018-05707-8

מה דיוק של מערכות זיהוי פנים מסחריות? כמו Facebook, IBM ,Microsoft?

ב2014 פייסבוק שיחררו מאמר על Deepface ששיפר את הדיוק של זיהוי פנים נכון בכ-20%. על BENCHMARK שהיה סטנרדטי אז הוא השיג דיוק של 97.35%.

היום למערכת של IBM יש דיוק של 87.9%, Microsoft 93.7%,
Face++ הסיני
90%.

על פניו זה נראה בסדר.

הדרים מתחילים להראות אחרת אם מתחילים לבדוק את הדיוק על תתי אולוכיות כמו נשים או שחורים. ומה קורה עם נשים שחורות?

מסתבר שכולם נופלות, הדיוק נופל בצורה דרמטית.

למה זה קורה?

מסתבר שBENCHMARK הוא היה בעיתי. הוא מוטה לגברים ואנשים לבנים. בBENCHMARK לעיל, למשל, כ77.5% היו גברים וכ83.5% היו אנשים לבנים.