בחדר ישיבות חסר ייחוד בתוך המשרדים של OpenAI בסן פרנסיסקו, נשיא החברה, גרג ברוקמן, סוקר את "רמת האנרגיה" של הצוות המפקח על מודל הבינה המלאכותית החדש של החברה, ChatGPT. "איך אתם מרגישים בין: 'הכל בוער וכולם נשרפים' לבין 'כולם חזרו מהחגים והכל טוב'. מה הספקטרום?", הוא שואל.
"הייתי אומר שהחגים הגיעו בדיוק בזמן הנכון", עונה עובד אחד. זהו אנדרסטייטמנט. בתוך חמישה ימים מהשקת ChatGPT, מיליון משתמשים העמיסו על השרתים שלה בשאלות טריוויה, בקשות כתיבת שירה ובקשות מתכונים. ברוקמן, 34, והבוס שלו, המנכ"ל סם אלטמן, 37 – הפכו לפנים של תקופה יוצאת דופן.
"בינה מלאכותית עומדת להיות הנושא החם ביותר של 2023", אמר ביל גייטס, האדם האחראי למהפכה דומה קודמת, מהפכת התוכנה. "זה חשוב לא פחות מהלפטופ ומהאינטרנט".
והשווקים מסכימים עם גייטס: OpenAI מוערכת ב-29 מיליארד דולר בעקבות התחייבות השקעה בסך 10 מיליארד דולר ממיקרוסופט.
מפסק אוטומטי
ב-2019, ברוקמן והצוות שלו הבינו שהם לא יכולים לשלם עבור המחשוב בקנה מידה ש-GPT זקוק לו, עם הכסף שהם הצליחו לגייס כמוסד ללא מטרות רווח, כולל מאנשים כמו פיטר ת'יל ואילון מאסק.
OpenAI הקימה תאגיד מסחרי כדי לספק לעובדיה הון עצמי, לגייס משקיעים נוספים, ואלטמן נכנס לתמונה במשרה מלאה. מנכ"ל מיקרוסופט, סאטיה נאדלה, התחייב באותה תקופה להעביר מיליארד דולר ל-OpenAI, לצד בסיס לקוחות גדל בשירות הענן שלו, Microsoft Azure.
ההשקעה של מיקרוסופט ב-OpenAI, שמגיעה עם הסכם חלוקת רווחים עד שתחזיר את השקעתה, בתוספת נתח מוגבל של רווחים נוספים, היא חסרת תקדים, כולל הבטחתה למייסדי OpenAI לחזור בסופו של דבר לשליטה במוסד ללא כוונת רווח. (אלטמן וברוקמן, בהתאמה, קוראים לזה "עקיפה בטיחותית" ו"מפסק אוטומטי" כדי למנוע מ-OpenAI לשלוט בכוח גדול מדי).
הוויכוח הגדול סביב עידן הבינה המלאכותית החדש כולל מושג נוסף:AGI (Artificial General Intelligence) בינה מלאכותית חזקה או בינה מלאכותית כללית – טכנולוגיה מבוססת למידה עצמית שיכולה באופן תיאורטי לעלות על יכולותיה של הבינה האנושית. הסיוע בפיתוח טכנולוגיה בטוחה לאנושות נותר משימת הליבה ב-OpenAI, אומרים מנהליה. "השאלה החשובה ביותר היא לא איך להתקדם טכנולוגית, אלא אילו ערכים יהיו שם?", אומר ברוקמן.
ב-OpenAI מצביע ברוקמן על הסעיף באמנת המוסד ללא מטרות רווח של החברה שמבטיח שאם חברה אחרת תהיה קרובה יותר להשיג טכנולוגיית AGI, הם יפסיקו את העבודה ב-OpenAI וימזגו אותה עם הפרויקט המתחרה. "לא ראיתי מישהו אחר שמאמץ את הגישה הזאת", אומר ברוקמן. גם אלטמן אינו מוטרד מהמרוץ אחר הבינה המלאכותית. האם ChatGPT תעקוף את מנוע החיפוש של גוגל? "אנשים לגמרי מפספסים את ההזדמנות, אם הם מתרכזים בחדשות של אתמול", הוא מהרהר. "מעוניין אותי יותר לחשוב על מה שמגיע הרבה מעבר".
תרומה קטנה – אבל אמיתית
מי שתפקידו לחשוב ב-OpenAI על העתיד שמעבר הוא איליה סוצקבר, המדען הראשי של החברה ואחד ממייסדיה. "ייתכן שבעשור הקרוב יכולותיהן של מערכות הבינה המלאכותית יעלו על רמת המיומנות של המומחים ברוב התחומים", חוזה איליה סוצקבר, בשיחה עם פורבס ישראל.
את השלב הבא של הבינה המלאכותית הוא מכנה – Superintelligence (אינטליגנציית-על). לדבריו, זו תהייה טכנולוגיה חזקה יותר מטכנולוגיות אחרות שהאנושות התמודדה איתן בעבר. "אומנם אנחנו חייבים לצמצם את הסיכונים של טכנולוגיית הבינה המלאכותית של היום, אבל אינטליגנציית-העל תדרוש טיפול ותיאום מיוחדים".
לאחרונה שוחררה GPT-4, הגרסה האחרונה של מערכת הבינה המלאכותית הענקית של OpenAI, שלמדה מיליארדי מילים של טקסט – יותר ממה שכל אדם יכול לקרוא במהלך חייו. הגרסה הזו מקדמת את המהפכה של OpenAI, בכך שהופכת זמינה לכולם במנוע החיפוש bing, וכן ניתן להשתמש בה גם בשפה העברית. הגרסה החדשה גם מציינת את המקורות ברשת שעל פיהן חיברה את התשובה, מה שמגביר את תחושת האמינות של מנוע הבינה המלאכותית החדש, והיא כוללת יכולות משודרגות ביחס לגרסאות הקודמות.
GPT הם ראשי התיבות של Generative Pre-trained Transformer שלוש מילים חשובות בהבנת הטכנולוגיה הזו. ההכשרה של המנוע העוצמתי הזה מתבצעת באמצעות סריקת נפח עצום של טקסט, המלמדת אותו את הדפוסים והיחסים הבסיסיים של השפה. בקיצור, ההכשרה הזו מלמדת אותו להבין את העולם. אלגוריתם חזק, בשם טרנספורמר נמצא ברקע, והוא יכול ליצור מחשבות חדשות מבסיס הידע הזה.
סוצקבר הוא אחד המוחות העיקריים מאחורי מודל השפה הגדול GPT-4, והמוצר הציבורי שמבוסס עליו – ChatGPT. עוד כשהתגורר עם משפחתו בישראל, כילד צעיר, התעניין במדעי המחשב. "נולדתי ברוסיה, גדלתי בישראל ואז כנער, היגרה המשפחה שלי לקנדה", הוא מציין בראיון לפורבס. "ההורים שלי אומרים שהתעניינתי בבינה מלאכותית מגיל צעיר. הייתי סקרן לגבי דברים שיכולים לעזור לי להבין אותה טוב יותר.
"מוקדם מאוד, עוד כשהייתי בן 17, התחלתי לעבוד עם ג'ף הינטון (אחד ממייסדי תחום הלמידה העמוקה – סוג הבינה המלאכותית שמאחורי GPT-4, ופרופסור באוניברסיטת טורונטו באותה תקופה). עברנו לקנדה, ואני מיד הצלחתי להצטרף לאוניברסיטת טורונטו. מאוד רציתי לעסוק בלמידת מכונה, כי זה נראה כמו ההיבט החשוב ביותר של בינה מלאכותית שבאותה תקופה לא היה נגיש לחלוטין.
"זה היה בשנת 2003. היום אנחנו לוקחים את זה כמובן מאליו שמחשבים יכולים ללמוד, אבל ב-2003 יצאנו מנקודת הנחה שמחשבים לא יכולים ללמוד. ההישג הגדול ביותר של הבינה המלאכותית אז היה Deep Blue, מנוע השחמט של IBM, שניצח את אלוף העולם גארי קספרוב ב-1997.
"אז איך עובדת האינטליגנציה המלאכותית בכלל? איך אנחנו יכולים לגרום למחשבים להיות אפילו מעט אינטליגנטיים? הייתה לי כוונה מאוד מפורשת לתרום תרומה קטנה מאוד, אבל אמיתית, לבינה המלאכותית. המניע שלי היה 'האם אוכל להבין איך האינטליגנציה הזאת עובדת, ואיך אוכל לתרום לה?'. זו הייתה המוטיבציה הראשונית שלי. זה היה לפני כמעט 20 שנה.
"בקצרה, הבנתי שאם אתה מאמן רשת עצבית גדולה ועמוקה על מערך נתונים גדול מספיק שמפרט משימה מסובכת שאנשים עושים, כמו ראייה למשל, אז אתה בהכרח תצליח. אנו יודעים שהמוח האנושי יכול לפתור את המשימות הללו ויכול לפתור אותן במהירות. והמוח האנושי הוא רק רשת עצבית עם נוירונים איטיים".
עתיד בלתי צפוי
כיצד ישפיעו המוצרים של OpenAI על מקצועות שונים? יוצרי תוכן, מתכנתים, גרפיקאים – כולם צפויים להישאר מובטלים?
"קשה לחזות את ההשפעה על משרות, מכיוון שהיא תלויה באופי המדויק של התפקידים וביכולות והמגבלות המדויקות של הבינה המלאכותית. בטווח הקרוב, אנו מצפים שהיצע המשרות יגדל ויתווספו משרות המשלבות בינה מלאכותית, כאשר שיתוף פעולה יגדיל את הפרודוקטיביות של רוב המשרות. אנחנו כבר רואים כמה משתמשים של ChatGPT הופכים פרודוקטיביים יותר בעבודתם היום – אבל בטווח הארוך יותר, ככל שהבינה המלאכותית תיעשה חזקה יותר – עלינו לצפות להשפעה משמעותית יותר על משרות. אבל הכל עוד בלתי צפוי".
חוקיות סטטיסטית
כששאלנו את ChatGPT על עצמנו, המנוע זיהה שאנחנו עיתונאים, אבל התיאור ממשיך עם הישגים שמעולם לא הגענו אליהם. והכל נראה מאוד יפה, אבל מעט ממנו מתחבר למציאות הבסיסית. האם יש משהו שנעשה כדי לטפל בזה?
"אני לא כל כך בטוח שהמגבלות האלה, שאנחנו רואים היום עדיין יהיו איתנו בעוד שנתיים. אבל חשוב להדגיש, שהמודלים האלה פשוט לומדים חוקיות סטטיסטית, ולכן הם לא באמת יודעים מה טבעו של העולם. עם זאת, דעתי האישית היא שלמידת החוקיות הסטטיסטית היא עניין הרבה יותר גדול ממה שנראה לעין.
"חיזוי היא גם תופעה סטטיסטית, ובכל זאת כדי לחזות אתה צריך להבין את התהליך הבסיסי שהפיק את הנתונים. אתה צריך להבין יותר ויותר את העולם שיצר את הנתונים.
זה לא מסוכן שאנשים יסתמכו על המידע המוטעה שהם מקבלים מ-ChatGPT?
"למרות היכולות שלו, ל-ChatGPT יש מגבלות ואנו שואפים להיות שקופים ככל האפשר, ולהזהיר שהוא לא תמיד יהיה מדויק והוא לא צריך להיות מקור האמת היחיד. שיפור הדיוק העובדתי הוא עיסוק מרכזי ב-OpenAI, ואנחנו מריצים כמה מחקרים מרגשים בתחום. עם זאת, אנו מכירים בכך שיש עוד הרבה עבודה לעשות כדי להפחית עוד יותר את הסבירות לטעויות, ולהסביר לציבור את המגבלות הנוכחיות של כלי הבינה המלאכותית הללו".
המשוב האנושי
אחת המגבלות של הרשתות העצביות הללו היא הנטייה להזיות. הסיבה לכך היא שמודל שפה מצוין בלמידת העולם, אבל הוא קצת פחות טוב בהפקת תוצאות טובות. ויש לכך סיבות טכניות שונות. "זו הסיבה, למשל, שלמערכת כמו ChatGPT, שהיא מודל שפה, יש תהליך אימון חיזוק נוסף. אנו קוראים לזה חיזוק למידה ממשוב אנושי", מסביר איליה.
המלכ"ר שסופר מזומנים
כבר ב־2015 הבין אילון מאסק את האיום שרובוטים בעלי תכונות אנושיות עלולים להציב למין האנושי. הוא חבר למספר משקיעים, ביניהם מכרו מפייפאל, פיטר ת'יל; וסאם אלטמן, מהאקסלרטור Y קומבינייטור; והקים ארגון ללא מטרות רווח שיוקדש לחקר הבינה המלאכותית – OpenAI.
לאחר שחברת טסלה שבבעלותו הודיעה על פיתוח בינה מלאכותית עבור מכוניות אוטונומיות, התפטר מאסק מדירקטוריון OpenAI, בפברואר 2018, בשל "ניגוד עניינים עתידי פוטנציאלי". עם זאת, נותר מאסק תורם לארגון.
ב־2019 הוחלט להפוך את הארגון ל"חברה בעלת רווח מוגבל", מודל שמציע לכל משקיע, החזר ורווח עבור השקעתו, עד פי 100 מסכום ההשקעה. נכון להיום מורכבת מעבדת המחקר מהתאגיד למטרות רווח OpenAI LP ומחברת האם שלה, OpenAI Inc.
בחודש יולי שבאותה השנה הודיעה OpenAI כי מיקרוסופט השקיעה בה מיליארד דולר, ומאוחר יותר הגדילה את השקעתה בעוד 10 מיליארד דולר לפי שווי של 29 מיליארד דולר. “מיקרוסופט חולקת את החזון שלנו ואת הערכים שלנו", אמר לאחרונה לפורבס ישראל המדען הראשי והמייסד השותף של OpenAI – איליה סוצקבר. "השותפות שלנו היא גורם מכריע להתקדמות. ההשקעה נתנה לנו גישה להרבה יותר כוח מחשוב, מה שמאפשר לנו להתקדם רבות בתחום", הוסיף.
הרביעיה המנהלת היום את OpenAI הם המנכ"ל סאם אלטמן, הנשיא גרג ברוקמן, המדען הראשי איליה סוצקבר ומנהלת הטכנולוגיה הראשית מירה מוראטי.
בנובמבר האחרון נחשף הציבור הרחב לאחד ממוצרי הדגל של החברה – גרסה מוקדמת של ChatGPT: צ'אטבוט מבוסס בינה מלאכותית אשר ניתן לתקשר עימו בהתכתבות.
"אנו יכולים לומר שבתהליך ההכשרה, אתה רוצה ללמוד הכל על העולם. עם למידת חיזוק ממשוב אנושי, אכפת לנו מהתוצאות. בכל פעם שהפלט לא הגיוני, אומרים למודל שלא יעשה זאת שוב. והוא לומד במהירות לייצר תוצאות טובות.
"יש למודלים הללו נטייה להמציא דברים מדי פעם, וזה משהו שגם מגביל מאוד את התועלת שלהם. אבל אני די מקווה שבאמצעות המשוב האנושי, נוכל ללמד אותם לא להזות.
"הדרך שבה אנחנו עושים דברים היום היא שאנחנו שוכרים אנשים שילמדו את הרשת העצבית שלנו להתנהג. אתה פשוט מתקשר איתה ומהתגובה שלך היא מסיקה מסקנות".
הרעיון הזה של צבא של מאמנים אנושיים שעובדים עם ChatGPT או מודל שפה גדול כדי להנחות אותו, רק באופן אינטואיטיבי, זה לא נשמע כמו דרך יעילה ללמד מודל.
"אני לא מסכים עם הניסוח. אני טוען שהמודלים שהוכשרו מראש כבר יודעים את כל מה שהם צריכים לדעת על המציאות הבסיסית. יש להם כבר את הידע הזה בשפה, וגם ידע רב על התהליכים הקיימים בעולם שמייצרים את השפה הזו.
"מה שמודלים יצרניים גדולים לומדים על הנתונים שלהם – ובמקרה הזה, מודלים של שפות גדולות – הם ייצוגים דחוסים של התהליכים בעולם האמיתי שיצרו את הנתונים האלה, כלומר לא רק אנשים ומשהו על המחשבות שלהם, או משהו על הרגשות שלהם, אלא גם משהו על המצב שבו אנשים נמצאים ועל האינטראקציות שקיימות ביניהם. המצבים השונים שבהם אדם יכול להיות.
"גם צבא האנשים שמספקים משוב לבינה המלאכותית נעזרים בבינה מלאכותית. הם עובדים עם הכלים שלנו והכלים עושים את רוב העבודה. אבל אתה צריך פיקוח; אתה צריך שאנשים יבדקו את ההתנהגות כי אתה רוצה להגיע בסופו של דבר לרמה גבוהה מאוד של אמינות.
"יש הרבה מוטיבציה לעשות את זה כמה שיותר יעיל ומדויק כדי שמודל השפה המתקבל יתנהג בצורה הכי טובה שאפשר".
אינטראקציה עם העולם
סוצקבר אומר שהמשימה של OpenAI היא להבטיח שהשלב הבא של בינה מלאכותית, הבינה המלאכותית הכללית (AGI), יועיל לאנושות כולה. "מגבלות שחשבנו שקיימות לפני מספר שנים כבר לא קיימות, כך שקשה לחזות בדיוק מתי נגיע ל-AGI", הוא מוסיף. "בינה מלאכותית כללית ואמיתית תצטרך לקיים אינטראקציה עם העולם הפיזי, עם בני אדם, לרדוף אחרי מטרות ארוכות טווח והדבר הקריטי – להיות בטוחה ומתואמת היטב לערכים האנושיים. למרות שההתקדמות הייתה מהירה מאוד, יש לנו עוד מסע לעבור".
לאן זה הולך, באיזה מחקר אתה מתמקד עכשיו?
"אני לא יכול לדבר בפירוט על המחקר הספציפי שעליו אני עובד, אבל אני יכול להזכיר חלק מהמחקר בקווים כלליים. אני מאוד מעוניין להפוך את המודלים האלה לאמינים יותר, ניתנים לשליטה ולגרום להם ללמוד מהר יותר".
ציינת שאתם זקוקים למעבדים מהירים יותר כדי להרחיב את קנה המידה שעליו פועלת הבינה המלאכותית. נראה שאנחנו מגיעים לגבול של אספקת הכוח הנדרש כדי לאמן את המודלים האלה.
"אני לא זוכר את ההערה המדויקת שאליה אתם מתכוונים, אבל אתה תמיד רוצה מעבדים מהירים יותר. כמובן כשהכוח ממשיך לעלות – באופן כללי גם העלות עולה.
"והשאלה שהייתי שואל היא לא האם העלות גבוהה, אלא האם הדבר שגורם לנו לשלם את העלות הזו מפיק את התועלת. אם אתה מקבל משהו מאוד שימושי, משהו בעל ערך רב, משהו שיכול לפתור הרבה בעיות שיש לנו, שאנחנו באמת רוצים לפתור – אז ניתן להצדיק את העלות".
דמוקרטיה על סטרואידים
למרות שסירב להתייחס לקונפליקט הפוליטי בו מצויה כעת החברה הישראלית, מוכן איליה להסביר איך לדעתו תשפיע הבינה המלאכותית על הדמוקרטיה. "זו שאלה כל כך גדולה, כי היא שאלה הרבה יותר עתידית. אני חושב שעדיין ישנן דרכים רבות שבהן המודלים שלנו יהפכו למשוכללים יותר ממה שהם עכשיו.
"לא ניתן לצפות בדיוק כיצד ממשלות ישתמשו בטכנולוגיה הזו כמקור לעצות מסוגים שונים. אני חושב שלשאלת הדמוקרטיה, דבר אחד שלדעתי יכול לקרות בעתיד – אנחנו נבין שרצוי שיהיה איזשהו תהליך דמוקרטי שבו, נניח, אזרחי מדינה יספקו מידע כלשהו לבינה המלאכותית על איך הם רוצים שהדברים יתנהלו, ואז היא תוכל לנתח את כל המשתנים בצורה חכמה יותר. זו יכולה להיות צורה של דמוקרטיה ברוחב פס רחב מאוד. זה פותח הרבה שאלות, אבל זה משהו שצפוי לקרות בעתיד.
"מה זה אומר לנתח את כל המשתנים? בסופו של דבר תהיה בחירה שצריך לעשות איפה המשתנים האלה נראים ממש חשובים. באילו מהם רוצים להעמיק. כי אני יכול לקרוא מאה ספרים ברפרוף, או שאני יכול לקרוא ספר אחד, לאט ובזהירות רבה, ולהפיק ממנו יותר.
"בכל פעם שיש מצב מסובך כלשהו, אפילו בחברה בינונית, זה כבר מעבר להבנה של כל אדם בודד. ואני חושב שאם נבנה את מערכות הבינה המלאכותית שלנו בצורה הנכונה, אני חושב שבינה מלאכותית יכולה לעזור כמעט בכל מצב".
בתחילת הראיון ציינת שטכנולוגיית העתיד, אינטליגנציית-העל, תדרוש "טיפול ותיאום מיוחדים". מה זה כולל?
"ראשית, אנו זקוקים לרמה מסוימת של תיאום בין מאמצי הפיתוח המובילים כדי להבטיח שפיתוח אינטליגנציית-העל יתרחש באופן המאפשר לנו גם לשמור על בטיחות וגם לעזור לשילוב חלק של מערכות אלה עם החברה.
"שנית, סביר שנצטרך להקים בסופו של דבר משהו כמו הסוכנות הבינ"ל לאנרגיה אטומית – רשות בינלאומית שיכולה לבחון מערכות, לדרוש ביקורת, לבדוק עמידה בתקני בטיחות, להציב הגבלות על דרגות פריסה, רמות אבטחה ועוד.
"כמו כן, אנו זקוקים ליכולת הטכנית שתהפוך את האינטליגנציה הזאת לבטוחה. זוהי שאלת מחקר פתוחה שאנו ואחרים משקיעים בה מאמץ רב".
