אלפי פרצופים מופיעים בכל יום על קיר המסכים בחדר האבטחה של קזינו River Spirit בטולסה, אוקלהומה. כל אחד מהם נבדק מול רשימת המעקב של הקזינו הכוללת אנשים לא רצויים שם, בין אם אלה רמאים, פושעים ידועים או עובדי עבר ממורמרים המבקשים לגרום נזק למקום.
מערכת האבטחה של הקזינו מופעלת בטכנולוגיית זיהוי פנים מתוצרת סטארט-אפ המעקב הישראלי Oosto. החברה, שנקראה בעבר AnyVision, עלתה לכותרות ב-2019 לאחר שסיפקה טכנולוגיה שממשלת ישראל השתמשה בה כדי לפקח על גבול הגדה המערבית. אבל כעת, החברה שינתה את שמה והעבירה את המיקוד שלה לחברות פרטיות – כולל בתי קזינו.
בביקור שלנו במרכז הבקרה, נחשפנו לפעילות המערכת: מסגרת כחולה הופיעה סביב ראשה של אישה הלובשת מסכה. ואז הפכה המסגרת לירוקה. במקרה של התוכנה הזאת – משמעותה של מסגרת ירוקה היא דגל אדום. למרות המסכה, טכנולוגיית זיהוי הפנים של אוסטו זיהתה אותה ברמת וודאות גבוהה שהיא פרסונה נון גרטה. "היא מנסה להסתיר את זהותה, בוודאות, כי קיבלנו ציון ממש גבוה", אמר טראוויס תומפסון, מנהל תאימות ומעקב של Muscogee Nation Gaming Enterprises, והצביע על מסך שמריץ את התוכנה של אוסטו. לדבריו, לאחר שהקזינו מקבל איתות מהתוכנה, זהותו של האדם נבדקת באופן אישי. אם הוא ברשימת מנועי הכניסה, ינפיק צוות האבטחה טופס שיזכיר למבקשי הכניסה שהם לא רצויים ושהם נמצאים במאגר המידע של זיהוי הפנים של הקזינו. אחר כך הם ילוו מהמקום.
מיו"ש לעו"ש
סוג המעקב הזה מתרחש כעת בחצרות פרטיים ובמרחבים ציבוריים בכל רחבי אמריקה, שכן הטכנולוגיה החזקה הזו מופעלת לא רק בידי המשטרה והממשלה הפדרלית, אלא גם נמכרת לגופים פרטיים, בין אם הם בתחום הימורים, או חנויות קמעונאיות. בעוד שחברות משקיעות כסף בכדי להפוך את האבטחה הפיזית שלהן לאוטומטיות, הפרטת הכלים, שפעם שימשו בעיקר רשויות מודיעין ואכיפת חוק, מרגיזה את חסידי ההגנה על הפרטיות. "מכירת טכנולוגיית זיהוי פנים לחברות פרטיות יכולה למעשה להגביר את הסיכון שהמשטרה תעשה שימוש לרעה בטכנולוגיה", אומר ג'ייק ווינר, עורך דין העוסק במעקבים ביתיים במרכז המידע לפרטיות אלקטרונית (EPIC). "באופן כללי, זיהוי פנים הורס את הפרטיות: ככל שמשתמשים בו יותר – קל יותר לעקוב אחרי אנשים במרחבים פרטיים או ציבוריים".
למרות ההתנגדויות, אוסטו מקווה להיות הספקית המובילה לשוק הגופים פרטיים שרוצים להפוך את המעקב שלהם לחלק יותר, לא רק בארה"ב, אלא גם מעבר לאוקיינוס האטלנטי. החברה, שגייסה מימון של 380 מיליון דולר מאז הקמתה ב-2015 מחברות כמו SoftBank ו-Qualcomm Ventures, החלה כאמור את חייה בתור AnyVision אך נקלעה למחלוקת בגלל לקוחותיה. בשנת 2019 דיווח עיתון "הארץ" שטכנולוגיות המעקב סייעו בזיהוי פלסטינים בגבול הגדה המערבית, ולאחר מכן זרוע המימון של מיקרוסופט M12 משכה את החזקותיה במניות. (אוסטו הגיבה בזמנו שהטכנולוגיה שלה לא ביצעה מעקב המוני אלא ביצעה "בקרת גישה" בגבול, כשזיהתה פנים בזמן שאנשים עברו בין הגדה המערבית לישראל).
מאז הדיווחים הללו, אוסטו לא רק שינתה את המיתוג שלה אלא העבירה את המיקוד למגזר הפרטי, ומשרתת מגוון חברות ברחבי העולם. נכון לעכשיו משגיחה הטכנולוגיה שלה על מעריצים שהולכים לראות את קבוצת הכדורגל של ניו אורלינס סיינטס, תיירים בטאג' מאהל בהודו, מבקרים בבית החולים הפרטי "רפאל" שבתל אביב וצופים ב-Australian Turf Club, מסלול מרוצי סוסים בסידני.
בתי קזינו הם חלק עיקרי מהעסקים הפרטיים שהחברה משרתת. באוסטו טוענים שהם מספקים שירות לכמה מבתי הקזינו הגדולים ביותר בלאס וגאס, אם כי הם מסייגים שהם לא יכולים לספק את שמות הלקוחות שלהם בעיר החטאים. הם גם מספקים זיהוי פנים לקזינו הפרטי Les Ambassadeurs בלונדון. שם, הטכנולוגיה של אוסטו לא רק מיועדת לאיתור טיפוסים מפוקפקים, אלא לזיהוי ומתן שירות לאורחי VIP.
אבל הבעלים של קזינו ריבר ספיריט החליטו שלא להשתמש בו כדי לזהות לקוחות VIP, בגלל חששות אתיים. "אנחנו רוצים שתהיה אווירה ידידותית ללקוח, אז אנחנו לא רוצים שהם ירגישו כאילו האח הגדול צופה בהם כל הזמן. ולא בשביל זה המערכת שלנו נמצאת כאן בשימוש", אומר תומפסון.
במקום זאת, הוא אומר שהקזינו החליט לאמץ זיהוי פנים כדי לתמוך בצוות האבטחה. "האחריות הזו הייתה על המאבטחים שלנו, שהיו צריכים לזכור את הפרצופים של מנועי הכניסה, ולנסות לזהות אותם בין ים של אנשים בכל יום", אומר תומפסון. הוא אומר שהקזינו עבד עם גורמי אכיפת החוק, ומערכת זיהוי הפנים סייעה בהכנסת אנשים לכלא שהיו מעורבים בפרשיות הונאה בקזינו.
דיוק בעייתי
בעוד שבקזינו אומרים שהטכנולוגיה תשמש רק כדי להגן על בסיס הלקוחות התמים ברובו, שפניהם לא יאוחסנו במערכות שלו, מבקרי טכנולוגיית זיהוי הפנים אומרים שאמצעים כאלה אינם מספיקים כדי להגן על פרטיותם של אנשים. בעוד גופי משטרה וסוכנויות ממשלתיות כפופות לבקשות חופש מידע וצורות אחרות של פיקוח, ישויות פרטיות אינן כפופות לו, למרות שיש להן את הכוח להכניס כל אחד לרשימת מעקב ולעזור להכניס אנשים לכלא.
"לכל הפחות, אוסטו צריכה לשמור תיעוד של חיפושים והחלטות שניתנו", אומר ג'ייק ווינר מ-Epic. "אם נמנעה מאדם כניסה לאירוע, או גרוע מכך, נעצר כתוצאה מזיהוי פנים של אוסטו, אותו אדם אמור לדעת כיצד הוא זוהה".
יחד עם מגמת השיפור הקשורה לסריקת פנים של מאות אלפי אנשים מדי יום, לטכנולוגיה יש היסטוריה של אי יכולת לזהות בהצלחה אנשים שאינם לבנים. בעבר, תוצאות כוזבות הובילו למעצרים לא חוקיים של גברים שחורים, ומוקדם יותר השנה, סנאטורים קראו לסוכנויות הפדרליות להפסיק להשתמש בטכנולוגיה מכיוון שהיא "מהווה איומים ייחודיים לקהילות שחורות, קהילות אחרות וקהילות מהגרים".
טראוויס תומפסון: "אנחנו רוצים שהלקוחות יחוו אווירה ידידותית, ולא שהם ירגישו שהאח הגדול צופה בהם כל הזמן. לא בשביל זה המערכת שלנו נמצאת כאן בשימוש"
התנועה נגד אימוץ פרטי של טכנולוגיות זיהוי פנים הובילה לאיסור או להקפאה חלקית על השימוש בו ברחבי ארה"ב. איסורים על שימוש בזיהוי פנים נאכפו ברחבי ורמונט ובפורטלנד, אורגון, שם נאסר על המשטרה ועל ארגונים פרטיים להשתמש בטכנולוגיה. כמה איסורים אמורים לפוג בחודשים הקרובים. בקליפורניה נאסר על המשטרה להשתמש כעת בזיהוי פנים ובסורקים ביומטריים במצלמות הנלבשות על הגוף, אלא רק עד ינואר בשנה הבאה. וירג'יניה, שאסרה שימוש בזיהוי פנים בקרב המשטרה, תבטל את האיסור ביולי הקרוב, אם כי החוק החדש של המדינה מתיר רק מוצרים ש"יש להם ציון דיוק של לפחות 98% בכל הקבוצות הדמוגרפיות".
סמנכ"ל השיווק של אוסטו, דין ניקולס, אומר שנושא ההטיה התגבר במידה רבה בקרב הספקים הגדולים. "אם תאמן את הבינה המלאכותית שלך על חבורה של בחורים לבנים בגיל העמידה, זה יהיה ממש טוב באיסוף ובזיהוי בחורים לבנים בגיל העמידה, אבל אולי לא יצליח כל כך עם נשים אפרו-אמריקניות. ההטיות הללו בוטלו במידה רבה. אם אתה מסתכל על כל השחקנים המובילים בזיהוי פנים, יש להם כמעט אפס הטיה אתנית או שקשורה לגיל". החברה סירבה לספק נתונים כלשהם המראים כיצד הטכנולוגיה שלה מתפקדת בבדיקות הטיה. מחקר של DHS שפורסם בשנה שעברה גילה שלאלגוריתמים הטובים ביותר יש דיוק של למעלה מ-95% בזיהוי אנשים ללא קשר לגוון העור שלהם, אם כי בסך הכל, הטכנולוגיה המשיכה לתפקד טוב יותר בזיהוי גברים לבנים.
עם זאת, ניקולס אומר שאוסטו לא מקפידה רק על זיהוי פנים. היא מתכננת מעבר לתחום השנוי במחלוקת לא פחות של זיהוי התנהגות. אומנם יש כמות הולכת וגוברת של ראיות המראות שתוכנה יכולה לזהות פנים ברמת דיוק גבוהה יותר מ-90%, אבל עדיין לא הוכח שקוד יכול לקבוע אם אדם מתנהג בצורה מסוכנת או לקבוע את מצבו הנפשי של אדם על ידי ניתוח דפוסי התנועה שלו.
פורבס דיווח בשנה שעברה על פטנט של אוסטו להצבת חיישני זיהוי הפנים שלה על מל"טים, ולקחת את יכולות המעקב לשמיים. עם זאת, היא עדיין לא הוציאה את הטכנולוגיה הזו לפועל.
אם אוסטו תמשיך לנסות לקדם עוד טכנולוגיית מעקב, זה יתקל במחסומים טכנולוגיים ואתיים קשים עוד יותר. כאשר מיקרוסופט החליטה להיפרד מהחברה ב-2020, גם לאחר שהתובע הכללי לשעבר אריק הולדר קבע שההשקעה לא מפרה אף אחת מהמדיניות האתית של ענקית הטכנולוגיה, היא הבהירה את הסיכונים בהפצת הטכנולוגיה. "עבור מיקרוסופט, תהליך הביקורת חיזק את האתגרים בלהיות משקיעת מיעוט בחברה שמוכרת טכנולוגיה רגישה", כתבה החברה, לפני שהודיעה כי לא תיקח על עצמה עוד השקעות מיעוט בעסקי זיהוי פנים.
