הבינה המלאכותית כבר חזקה מספיק כדי שבידיים הלא נכונות היא תוכל להוביל לאסון בקנה מידה חסר תקדים – כך מזהיר ביל גייטס, מייסד-שותף של Microsoft, שקורא למעורבות ממשלתית בפיקוח על הטכנולוגיה ולא להשאיר את האחריות בידי חברות ה-AI בלבד.
בראיון ל"פגוש את העיתונות" (בגירסה האמריקנית שלה) של NBC נשאל גייטס על אזהרות מצד עובדים בתעשיית ה-AI, לפיהן הטכנולוגיה עלולה בעתיד להביא אפילו להכחדת האנושות. לדבריו, AI כבר ״חזק מספיק כדי להניע אירועים שיגרמו למותם של מיליארד בני אדם״. הוא הוסיף כי מעולם לא היה נשק רב-עוצמה כמו השילוב בין אנשים בעלי כוונות זדוניות לבין כלי ה-AI המתקדמים ביותר.
מבחינת גייטס, הסיכונים האלה אינם יכולים להישאר באחריות התעשייה בלבד. ״אף אחד לא חושב שרגולציה עצמית מספיקה״, אמר, והבהיר כי נדרשת חקיקה וכי רשויות אכיפת החוק והפוליטיקאים צריכים לקחת חלק בקביעת מנגנוני ההגנה והפיקוח על AI.
הקריאה להאט את המרוץ
גייטס אינו היחיד שקורא להציב גבולות ברורים יותר להתפתחות ה-AI. לאחרונה פרסם מנכ״ל Anthropic, דריו אמודיי, מאמר שבו קרא לחברות שמפתחות את המודלים המתקדמים ביותר להאט את קצב ההתקדמות שלהן ולפעול יחד, באופן וולונטרי, לקביעת סטנדרטים משותפים. גם אמודיי הדגיש כי בסופו של דבר נדרשת מעורבות ממשלתית, אך הזהיר מפער הזמנים: חקיקה היא תהליך איטי, בעוד שהטכנולוגיה מתקדמת במהירות.
כשנשאל על הצעתו של אמודיי, גייטס הבהיר כי מבחינתו, שיתוף פעולה וולונטרי בין חברות אינו יכול להספיק. לדבריו, נדרשת חקיקה שתגדיר כיצד ייראו מנגנוני ההגנה והפיקוח על מערכות AI – ותכניס גם את הממשלות ורשויות האכיפה לתמונה.
אלא שבארה״ב, השאלה אם חקיקה כזו בכלל תתקדם נותרה פתוחה. הנשיא טראמפ הביע התנגדות חריפה להגבלות על AI ואף תיאר את הקריאות לרגולציה כ״תרמית״, בעוד שבכירים רפובליקנים בקונגרס הפגינו עד כה מעט דחיפות לקדם רגולציה חדשה בתחום. על הרקע הזה, האזהרה של גייטס מגיעה בדיוק כשהפער בין חלק מבכירי תעשיית ה-AI לבין הממשל סביב שאלת הפיקוח הולך ומעמיק.
וושינגטון נכנסת לתמונה
הדיון מגיע כעת גם לבית הלבן. לפי מספר דיווחים, טראמפ צפוי להיפגש בקרוב עם יו״ר בית הנבחרים מייק ג׳ונסון ועם בכירים בתעשיית ה-AI, אם כי עדיין לא ברור מי בדיוק ישתתף בפגישה ומה יהיה הנושא המרכזי שלה. ג׳ונסון אמר בעבר כי הוא מעוניין שטראמפ ומנכ״לי חברות ה-AI ״ייכנסו לחדר גדול, יסגרו את הדלת ויפתרו את זה״, ובהמשך ציין כי נדרש דיון מסודר באחריותן של החברות לשמור על בטיחות ובשאלה איזה תפקיד, אם בכלל, צריכה הממשלה למלא.
בקונגרס לא ממהרים לפעול
למרות האזהרות, גם בקונגרס האמריקאי לא ניכרת בינתיים תחושת דחיפות. יו״ר בית הנבחרים מייק ג׳ונסון ומנהיג הרוב בסנאט ג׳ון ת׳ון לא מיהרו לקדם חקיקה חדשה בתחום. ג׳ונסון אף המעיט בחששות מפני תרחיש שבו AI עלול להביא להכחדת האנושות וכינה אותם ״תרמית״, ואילו ת׳ון, שקידם בעבר חקיקה בנושא, אמר באמצע ספטמבר כי עדיין לא ברור אם הסנאט יצליח להעביר חוק AI עד סוף השנה, בין היתר בשל סדרי עדיפויות אחרים של הקונגרס.
עם זאת, הנושא לא ירד מהפרק. ת׳ון סיפר כי הסנאטורית הדמוקרטית איימי קלובשר, שהייתה שותפה להצעת החוק שהגיש ב-2023, פועלת לגייס תמיכה דמוקרטית נוספת לקראת הגשתה מחדש. בנוסחה המקורי, ההצעה כללה בין היתר דרישה לביצוע הערכות סיכונים למערכות AI, כללי שקיפות לתוכן שנוצר באמצעות בינה מלאכותית והליכי הסמכה למערכות AI קריטיות, לצד מחקר ממשלתי נוסף על זיהוי תוכן שנוצר באמצעות AI ועל מנגנוני ההגנה הנדרשים לתעשייה.
גם אם ההצעה תחזור לשולחן, עדיין לא ברור אם תצליח לעבור בקונגרס – ואם טראמפ יסכים לחתום עליה. ת׳ון, מצדו, טען כי להערכתו הנשיא פתוח יותר לאפשרות של הצבת מגבלות על AI מכפי שעולה מהתבטאויותיו הפומביות.
אלא שגם רגולציה אמריקאית לא תפתור את הבעיה כולה. גוף רגולטורי שיוקם בארה״ב יוכל לפקח על החברות הכפופות לסמכותו, בעוד שחברות ומפתחות AI במדינות אחרות – ובראשן סין – לא בהכרח יהיו כפופות לאותם כללים. לכן, הפער בין קצב התפתחות הטכנולוגיה לבין היכולת להסדיר אותה אינו האתגר היחיד; גם היכולת ליצור כללי משחק שחלים מעבר לגבולותיה של מדינה אחת נותרת שאלה פתוחה.
סיכוי של 10% להכחדה
הדיון סביב הסיכונים של AI התחדד בשבועות האחרונים גם בעקבות אזהרות חריגות מתוך החברות שמפתחות את הטכנולוגיה. בתחילת ספטמבר הודיע ג׳ייקוב קוקסון, חוקר לשעבר ב-Anthropic, כי עזב את החברה, וטען כי האנשים שעובדים כיום על פיתוח מערכות AI מאמינים ברצינות שהטכנולוגיה עלולה להביא להכחדת האנושות כבר עד סוף העשור.
אוון האבינגר, שמוביל את תחום ה-Alignment Science ב-Anthropic, חיזק את הדברים וטען כי להערכתו קיים סיכוי של יותר מ-10% שבינה מלאכותית תביא להכחדת האנושות בתוך העשור הקרוב. לדבריו, גם Anthropic עדיין אינה מחזיקה בתוכנית שתפתור את בעיית ה-alignment במקרה של סופר-אינטליגנציה – כלומר, כיצד להבטיח שמערכת מתקדמת בהרבה מבני אדם תפעל בהתאם למטרות ולגבולות שנקבעו עבורה.
האזהרות הגבירו את הלחץ הציבורי על התעשייה ואת הדרישות לפיקוח. על רקע זה, Google, OpenAI ו-Anthropic החלו לגבש תוכניות להקמת גוף שיעסוק בבטיחות AI, ובמקביל קראו בכירי התעשייה לשיתוף פעולה רחב יותר בין מדינות. בכינוס האו״ם השבוע הדגישו מנכ״ל OpenAI סם אלטמן ומנכ״ל Anthropic דריו אמודיי את הצורך בסטנדרטים בינלאומיים, כאשר אמודיי טען שההחלטות בנוגע לטכנולוגיה צריכות להתקבל באמצעות תהליכים דמוקרטיים ועל ידי ממשלות שאחראיות כלפי הציבור.
האזהרה של גייטס, אם כן, אינה מגיעה בחלל ריק. ככל שמערכות ה-AI נעשות מתקדמות יותר, הוויכוח כבר אינו מתמקד רק במה שהטכנולוגיה מסוגלת לעשות, אלא גם בשאלה מי יקבע את הגבולות שלה – והאם ממשלות יצליחו לעשות זאת בקצב שבו היא מתפתחת.
