Sans-serif

Aa

Serif

Aa

Font size

+ -

Line height

+ -
Light
Dark
Sepia

המוסר חשוב, עד שמגיע הכסף: כך מסבכות את גוגל השקעותיה בחברות AI

גוגל, כמו חברות רבות העוסקות ב-AI מקפידות להציג לעולם עמדה מוסרית ברורה. לא תמיד הן מצליחות לעמוד ברף הגבוה שהן מציבות - ולעובדים שלהן יש מה לומר
תומאס ברווסטר

ביוני 2018 הבטיח מנכ”ל גוגל סונדר פיצ’אי בבלוג שכותרתו “AI ב-Google: העקרונות שלנו”, כי גוגל לא תפתח בינה מלאכותית שתשמש עבור “נשק או טכנולוגיות אחרות שמטרתן העיקרית או יישומן הם לפגוע ישירות באנשים”.

ההתחייבות של פיצ’אי לא הפתיעה: מוקדם יותר באותה השנה מחו העובדים על השתתפות החברה בפרויקט Maven, יוזמה של מחלקת ההגנה האמריקאית (DOD) בעלת פוטנציאל הכנסות של 250 מיליון דולר בשנה עבור גוגל. הפרויקט משתמש ב-AI לזיהוי מבנים ויעדים אחרים “שמעניינים” את הצבא מתוך צילומי מזל”טים. במטה גוגל במאונטן וויו היה מי שרתח מזעם. יותר משלושת אלפים חתמו על מכתב לפיצ’אי וכתבו “אנו מאמינים שגוגל לא צריכה לעסוק במלחמה”. בסופו של דבר גוגל ויתרה על החוזה.

פיצ’אי אולי הבטיח ש-Google AI לא תפגע באנשים, אך הוא לא אמר דבר על חברת האם של גוגל, אלפאבית. בסוף 2019 הפך פיצ’אי למנכ”ל אלפאבית, בעודו שומר על תפקידו כמנכ”ל גוגל – ובאמצעות השקעות של גוגל ושל אגף ההון סיכון שלה, GV) Google Ventures לשעבר), אלפאבית עדיין מעורה מאוד בעסקי המלחמה.

GV מציבה את עצמה כ”קרן עצמאית ומונעת תשואה” עם 5 מיליארד דולר תחת ניהול. אבל החברה הוצאה מגוגל עוד בשנת 2009 והכל למעשה שייך לאלפאבית. כפי שמצויין באתר האינטרנט שלה, “GV היא זרוע הון הסיכון של אלפבית”, ואלפאבית היא “השותפה המוגבלת היחידה” של  החברה. GV ופיצ’אי סירבו לבקשות חוזרות ונשנות להגיב.

גם לגוגל וגם ל-GV יש מניות מיעוט בחברות המספקות כלי פיקוח צבאיים. בשנת 2016 רכשה GV מניות ב-Orbital  Insight שפועלת מפאלו אלטו ובשנת 2017 גוגל הקיעה ב-Planet, שפועלת מסן פרנסיסקו. יחד, בשלוש השנים האחרונות, שתי החברות זכו בחוזים של משרד ההגנה בשווי של לפחות 30.5 מיליון דולר, לצד עסקאות עם סוכנויות מודיעין חלל, לפרויקטים שניתן לומר כי הם “מאפשרים פגיעה ישירה”.

לווייני ריגול בגודל כיכר לחם

Orbital היא חברת תוכנה שהוקמה על ידי מנהל Google Books לשעבר ג’יימס קרופורד. טכנולוגיית ה-AI שלו מסננת בין המוני תמונות לוויין, צילומי מזל”ט ונתוני מיקום מצטברים של טלפונים חכמים מ-800 מיליון מכשירים ברחבי העולם במטרה לתאר ללקוחותיה מה השתנה פיזית על כדור הארץ ולמה זה חשוב. השימושים הם רבים. Orbital יכולה, למשל, לעקוב אחר אתרי גרעין בצפון קוריאה או מחנות אימונים של הטליבאן. אבל יש לה גם שימושים שלווים כמו ניטור כריתת יערות באמזונס, מיפוי קו המים או התפשטות שכונות עוני בערים. היא מקבלת את צילומי הלוויין שלה ממגוון ספקים, כולל Planet, שנמצאת גם היא בפורטפוליו של גוגל.

פיצאי. העקרונות ברורים, ההתנהלות מעט פחות | צילום: Maurizio Pesce

ל-Planet, שהוקמה על ידי מהנדסי נאס”א, יש 150 לווייני צילום פעילים, והיא טוענת שהם מהווים את קבוצת לווייני הצילום הגדולה ביותר. הדבר המרכזי שהחברה יכולה להציע הוא היכולת לשלוח במהירות ובזול לוויינים קטנים לחלל. יש לה את לווייני Doves – בערך בגודל של כיכר לחם – ולווייני Skysat – בערך בגודל של מיני מקרר. שניהם מסוגלים להקרין תמונות איכותיות חזרה ארצה. שווי הסטארט-אפ הוערך בכמעט 1.8 מיליארד דולר לאחר סבב מימון בשנת 2018, על פי נתוני PitchBook. גוגל רכשה 16% מהחברה, לאחר שמכרה בשנת 2017 את חברת הבת שלה לצילום לוויני Terra Bella ל-Planet. האחזקה דוללה כעת ל-13%.

שתי החברות עובדות עם צבא ארה”ב וסוכנויות ביון שונות. ל-Planet יש חוזים עם סוכנויות מודיעין חלל, ועל פי שני עובדים לשעבר, Orbital התחרתה במכרז על אותו פרויקט שנוי במחלוקת של Maven.

רישומי ההתקשרות הממשלתיים מראים כי בין פברואר 2017 ליולי 2020 קיבלה אורביטל 10 מיליון דולר לפיתוח טכנולוגיית AI לתוכנית של משרד ההגנה בשם Datahub. Datahub לוקח תמונות לוויין ו”מבצע מעקב אחר דפוסי חייו של האויב 24/7, בכל מזג האוויר, ביום ובלילה על פני אזורים גדולים של אחריות במהירות של מכונה”, כך על פי מסמכי התקציב של הפנטגון. המודיעין שהתקבל ישמש לזירוז גישה טקטית של משרד ההגנה המכונה Find-Fix-Finish-Exploit-Analyse) F3EA), לפיה יעד נמצא, מתבצע אחריו מעקב, הוא נלכד או נהרג, נחקר ואז נעשה ניתוח של המידע כדי למצות הזדמנויות עתידיות. מודיעין שמקורו ב-Datahub ישמש גם לאוטומציה של פריסת הנשק של משרד ההגנה “עבור מתקפות בזמן מדויק”.

ההשקעות מאיימות להיות בעייתיות עבור גוגל ואלפאבית – גם כאשר הן נעשות באמצעות אגף ההון סיכון ה”בלתי תלוי” שלה. גוגל מעדה שוב ושוב בניסיון לעמוד בציפיות של כוח העבודה האידיאליסטי שלה. היה את פרויקט Maven והיה את פרויקט Dragonfly בשנת 2017, כאשר גוגל תכננה כלי חיפוש שהגיע עם צנזורה סינית מובנית. ואז היו מחאות פנימיות על חוזים עם סוכנויות ההגירה, שעזרו לחוקק את מדיניות ממשל טראמפ בשנת 2019. רק בחודש דצמבר האחרון פיטורה של החוקרת טימניט גברו, שחקרה הטיה גזעית אפשרית ב-AI הובילה למהומה ציבורית. גברו טענה שהיא פוטרה בגלל שפרסמה את תסכולה מנסיגה של החברה מאחד ממאמריה. יותר מ-2,500 עובדי גוגל חתמו על עצומה בדרישה שמעסיקם יהיה שקוף בנוגע לפיטוריה של גברו.

דובר גוגל אמר: “כאשר אנו מבצעים בדיקת נאותות שלנו לפני השקעה כלשהי, אנחנו עובדים עם יזמים כדי להבין את הטכנולוגיה, התוכניות העסקיות והצוות שלהם, ובמידת הצורך, לחפש עקביות עם עקרונות ה-AI עליהם הכרזנו בשנת 2018”.

מאינדונזיה לאפגניסטן

GV היתה מעורבת בכל סבבי הגיוס של אורביטל מאז הקמת חברת צילומי הלוויין בשנת 2013. היא השקיעה בכל ארבע הגיוסים של אורביטל, האחרון, סבב D בסך 50 מיליון דולר בנובמבר 2019. בסך הכל גייסה אורביטל 130 מיליון דולר, והוערכה לאחרונה לפי שווי של 480 מיליון דולר, על פי נתוני PitchBook. לפי הערכת פורבס, GV מחזיקה ב-13% בחברה שנכללה ברשימת חדי הקרן הבאים של פורבס ב-2017. קרן Sequoia היא בעלת העניין הגדולה ביותר מבחוץ עם מעל 20%, על פי גורם הבקיא ההשקעות.

כבר בתחילת דרכה, אורביטל עבדה על פרויקטים הומניטריים. יחד עם הבנק העולמי היא מנסה לכמת עוני על ידי ספירת מבנים חדשים, כבישים וקרקע חקלאית במדינות פחות מפותחות. היא עקבה אחר יערות העולם עם World Resources Institute. בשנה שעברה טכנולוגיית ה-AI שלה עקבה אחר הרחבת מחנות “החינוך מחדש” בסין באזור שינג’יאנג.

תמונת לוויין של Planet שעקבה אחר שריפות יער באוסטרליה. שימושים אזרחיים, לצד צבאיים | צילום: Planet

אבל הכסף הגדול במשחק הזה שוכן בקופת הממשלה ובנוסף לעבודה האלטרואיסטית שלה, אורביטל יצרה קשרים רבים עם סוכנויות הביון והצבא האמריקאיות.

In-Q-Tel, זרוע ההשקעות של ה-CIA, העניקה לה מימון של 5 מיליון דולר בשנת 2015. זמן קצר לאחר שקומץ עובדי In-Q-Tel עברו לאורביטל, והמנהל השותף של הקרן, ג’ורג’ הוים, הפך למשקיף בדירקטוריון, על פי Crunchbase.

לא כולם בתוך אורביטל שמחים על קשריה עם הצבא. התחייבות האתיקה של אורביטל עצמה קובעת שהחברה לא מפתחת ואין לה שום כוונה להיות מעורבת במיזמים שיכולים לפגוע באנושות. לדברי אחד העובדים הבכירים בחברה לשעבר, אורביטל אמרה כי הטכנולוגיה שלה לא תיושם על דברים כמו “מיקוד לפצצה”, אך “ברגע שתזהה בניין, [הממשלה] תעשה איתו מה שהיא רוצה”. לטענתו, “טיפשי להמציא את הכללים המזויפים האלה. פשוט היו כנים בנוגע למה שאתם עושים”. הוא הוסיף כי החברה עברה מ”הצלת שימפנזים באינדונזיה” ל”מציאת יעדים באפגניסטן”.

דובר מטעם אורביטל אמר כי “כמה עובדים הביעו דאגה מהעבודה הממשלתית”, אך הוסיף כי לחברה יש ועד אתיקה בראשות המייסד קרופורד, הבודק כל חוזה. כאשר ממשלה רצתה להטיס רחפנים מעל ספינות ולהשתמש באורביטל לצורך זיהוי פנים, למשל, החברה סירבה לבצע את העבודה, מכיוון שהיא אינה עוקבת אחר אנשים פרטיים. הדובר הוסיף כי החברה “סיימה בהצלחה” את עבודתה בתוכנית Datahub.

לגבי עבודתה הכוללת בפנטגון, הוסיף הדובר: “עבודתה של Orbital Insight עם משרד ההגנה האמריקני מסייעת לו להתקרב לעולם הפיזי ולפקח על הפעילות הגלובלית, כך שיוכל להימנע מהפתעות ולטפל באופן יזום במצבים קריטיים. גילוי מדויק של שינויים וזיהוי ותמונה מדויקת של המתרחש בשטח חיונית לשמירה על ביטחון מדינתנו עם תגובות אבטחה ותקשורת יעילות”.

אורביטל אולי לא תעבוד עוד ב-Datahub (עובדים בכירים לשעבר טוענים שהחברה איבדה את החוזה), אך הסטארט-אפ ממשיך לחפש באופן פעיל את העבודה הממשלתית. הרשומות הרשמיות מראות כי מאז שנת 2018, אורביטל הוציאה 300 אלף דולר על שתדלנות בקונגרס, ודיברה עם מחוקקים על השימושים ב-AI גיאו-מרחבי.

ביולי 2020 היא חתמה על החוזה הממשלתי הידוע ביותר שלה עד כה: עסקה של 22 מיליון דולר עם סוכנות המכס והגנת הגבולות (CBP), שאת פרטיה השיג ג’ק פולסון, פרופסור למתמטיקה לשעבר בסטנפורד, שנהג לעבוד בגוגל. מסמכי החוזה מצביעים על כך ש-CBP משתמשת בכלי אורביטל לניתוח נתונים המגיעים ממזל”טים, בלוני מעקב ולוויינים המנטרים אותות תדרי רדיו. על פי רישומי החוזה, עבודת הגבולות של אורביטל תערב “מעקב גיאו-מרחבי” קלאסי עם סיוע חיפוש והצלה, כאשר חיפוש והצלה מכוסה בחוזה נפרד של 3 מיליון דולר. דובר אורביטל אמר כי מדובר בפרויקט מחקר ופיתוח עם CBP שמטרתו “למנוע אובדן חיים של אנשים שנתקעו לאורך הגבול הדרומי ולספק לקצינים מודעות רבה יותר למצב באזורים מרוחקים”. דובר CBP אמר כי מקרה השימוש “העיקרי” נועד לחיפוש והצלה.

עזבו או לא עזבו?

Planet גייסה סכום גבוה יותר מאורביטל, מעל 400 מיליון דולר מאז הקמתה בשנת 2010. לווייני ה- Doves שלה, שתופסים טרמפים לחלל על טילים של SpaceX ו-Rocket Lab, עוקבים אחר כל פיסת אדמה ונתחים גדולים מהאוקיאנוסים בכדור הארץ, כולל ים סין דרומי והמפרץ הפרסי, כל יום.

כמו אורביטל, העסק של Planet הוא שילוב של חוזים הומניטריים, פרטיים וקבלנות ממשלתית. בין הפרויקטים הממשלתיים שלה נמצאים חוזי תמונות לווין עבור National Geospatial-Intelligence Agency. בשלוש השנים האחרונות היא השלימה שורה של ניסויים ופיילוטים עם חיל הים, חיל האוויר וצבא היבשה האמריקאי, שבדקו כיצד ניתן להשתמש בצורה הטובה ביותר בתמונות הלוויין שלה. כל זה בחוזים בשווי של יותר מ-15 מיליון דולר.

תמונת לווין של Orbital. ניתוח AI של מטוסי קרב. יכולת שסוכנויות ביטחון מוכנות לשלם עליה הרבה מאוד | צילום: Orcital

כמו באורביטל, שלושה עובדים בכירים לשעבר ב-Planet אומרים שהיתה תסיסה בחברה בשל החוזים עם הצבא ומספר עובדים מצומצם עזב כתוצאה מכך. “בתחילה הם היו מאוד אלטרואיסטים. הם שיגרו לוויינים לטובת כולם בעולם”, אמר אחד העובדים לשעבר. “ואז הם גילו שבעצם היחידים שבאמת רוצים לשלם את הכסף הגדול עבור נתוני לוויין הן ממשלות”.

דוברת מטעם Planet אמרה כי לא היה שום שינוי, וכי לקוחותיה הראשונים היו סוכנויות צבא ומודיעין, ואין לה “שום תיעוד פנימי של עובד שעזב בגלל עבודתנו מול ממשלות”. היא גם ציינה את קוד האתיקה של החברה שבו נכתב: “השותפים שלנו אינם רשאים להשתמש במוצרינו לצורך פעולות נוספות המממנות פגיעה, ניצול לרעה, תוקפנות, אלימות או הפרות אחרות של זכויות אדם”. לחברה יש גם ועדת אתיקה ש”בוחנת התקשרויות בנושאים אתיים והיא ביטלה חוזים פוטנציאליים במגזר הפרטי והציבורי בגלל חששות מוסריים”. Planet סירבה לספק מידע כלשהו על אותם חוזים.

כל המפגעים האתיים המסובכים הללו לא מנעו מאלפאבית של פיצ’אי להשקיע עוד יותר בשוק הגיאו-מרחבי. GV השתתפה בסבבי גיוס של 40 מיליון דולר ו-35 מיליון דולר בשנת 2018 ו-2020 עבור SpinLaunch. לסטארט-אפ יש רעיון חדשני להכניס לוויינים למסלול באמצעות זרוע ענקית ומסתובבת שזורקת אותם לחלל. הודות לכספי אלפאבית ולחוזה משנת 2019 בסך 2.5 מיליון דולר עם תכנית של DoD, הטכנולוגיה שעדיין לא הוכחה עשויה לסייע לפנטגון לפרוס עוד לווייני ריגול צבאיים לפיקוח על כדור הארץ.

כשפיצ’אי הגדיר את עקרונות ה-AI של החברה שלו, הוא השתמש בנימה תועלתנית לתיאור גבולותיה המשתנים במהירות. “כאשר קיים סיכון מהותי לפגיעה, נמשיך רק במקום שבו אנו סבורים כי היתרונות עולים באופן משמעותי על הסיכונים ונשלב אילוצי בטיחות מתאימים”, כתב. אבל זה לא בסמכותה של גוגל ליישם את האילוצים הלא מוגדרים האלה על החברות שבהן היא משקיעה או על הלקוחות שלהן.

צילום תמונת קאבר: Orbital