2.7.2015

גורילות בגוגל תמונות: גזענות לדיראון עולם

יישום התמונות של גוגל תייג אפרו-אמריקנים בתור גורילות. ג'קי אלסין, מתכנת ניו-יורקי המתמחה בבינה מלאכותית, הבחין שענק החיפוש לא מבדיל בין קוף גדול ובין החברה שלו. הוא העלה את התגלית לטוויטר וסחט תגובה בלתי-אופיינית מאחד הגוגלרים: "הולי פאק"


גוגל היתה מאוד גאה ביישום התמונות החדש שלה, ובעיקר ביכולת שלו לזהות תמונות ולתייג אותן במהירות, באופן אוטומטי לגמרי. אבל להתבלבל בין בחורה אפרו-אמריקנית ובין גורילה, זה סיוט יחסי-ציבור שלא כתוב באף מדריך.

ג'קי אלסין, מתכנת אפרו-אמריקני יליד 1993 המתגורר בברוקלין, והמעיד על עצמו כבעל שורשים המגיעים עד האיטי, לא שמר את העלבון לעצמו. הוא העלה אותו לטוויטר והדליק אינספור נורות אדומת במטה גוגל בקליפורניה: "גוגל תמונות, כולכם פישלתם. החברה שלי היא לא גורילה".




התגובה מגוגל היתה מהירה: תדהמה והתנצלות. מתכנת בכיר בגוגל, יונתן זונגר, עלה מולו בטוויטר ואמר: "הולי פאק. גוגל פלוס קליפורניה כאן. לא, זו לא הדרך שבה קובעים את קהל היעד של מישהו. זה מאה אחוז לא בסדר". עלבון עמוק שכזה לא תועד בהיסטוריה של גוגל מעולם.

בעקבות הסקנדל התקשורתי והתדמיתי, ניסו צוותים גוגל לטפל באלגוריתם בצורה מהירה, אך לא הצליחו עד כה. לכן הוחלט, בטווח הקצר, להסיר לגמרי את תיוג הגורילות, ולהמשיך לפתח את המערכת כדי שהדבר לא יחזור על עצמו בעתיד.

אולי מילון אבן-שושן יכול לעזור קצת למומחי האלגוריתמים המבריקים-באמת של גוגל:


כך נראית גורילה, מהנדסים יקרים

כמו כן, יש לחדד שני מושגים נוספים, החשובים להבנת המקרה. ראשית, יש להבין מהו אפריקני, לפחות ברמה שיטחית:




לסיום, חשוב לגוגל להכיר מושג עברי ייחודי נוסף, "דראון-עולם", שאותו ניתן לתרגם לאנגלית בקלות ל-Eternal disgrace:




מוצר תוכנה רשמי כמו "גוגל תמונות" (Google Photos), שעליו עמלו מיטב המוחות ברחבי העולם, לא אמור לפשל בדרגה חמורה שכזאת. ברור שברוב המקרים, תיוג אפריקנים כבני-אדם רגילים עבד יפה. אבל עצם העובדה שהיישום נכשל במשימה כה פשוטה (זיהוי אדם כאדם), מעיד על כך שהחברה כנראה לא ערכה את הבדיקות הנכונות בשווקים הנכונים.
האפליקציה החדשה, "גוגל פוטוז" (Google Photos)

ההבדל בין בינה מלאכותית ובין גזענות מלאכותית נחצה הפעם. טוב יעשו האנשים הטובים בגוגל, ויימנעו מכל חידוש טכנולוגי שעשוי להכניס את החברה להיסטוריה של האפליה הגזענית בארה"ב. "היתה לנו בעבר בעיה עם עם אנשים מכל הגזענים, שתויגו על ידי המערכת בתור כלבים", הודה יונתן זונגר בראיון נפרד.

בינה מלאכותית היא תחום מורכב ביותר, שעשה צעדים משמעותיים ביותר בשנים האחרונות. בעיקר בזכות כוח-מיחשוב אדיר, יכולת הדיוק של מחשבים בזיהוי פרצופים וחפצים הולכת ומשתפרת. אבל עצם העובדה שאנחנו באמצע 2015 וגוגל מתבלבל בין גורילה ובין אדם, היא אכן דוגמה מעולה לחשיבותה של ענווה, התכונה האנושית העתיקה שכל כך חסרה בצמרת גוגל.

הוסף רשומת תגובה
כל הזכויות שמורות לבלוג חופש החיפוש 2007-2012