Forbes Israel Logo

לחנך את המכונות: כך נתמודד עם הסכנות הטמונות בבינה המלאכותית

למרות שקשה לנו לקבל זאת, גם אנחנו "מכונה" | צילום: Shutterstock
למרות שקשה לנו לקבל זאת, גם אנחנו "מכונה" | צילום: Shutterstock
לצד ההבטחה הגדולה של הבינה המלאכותית קיימת גם סכנה גדולה: עליית עידן המכונות, שיהיו כל כך יותר חכמות מאיתנו שאולי יחליטו שאנו מיותרים ושאפשר להיפטר מהמין האנושי • אולי תופתעו לגלות שאם זה יקרה, זו לא תהיה הפעם הראשונה בהיסטוריה האנושית

פרויקט מיוחד: מסע במרחב הבינה המלאכותית

לאחרונה החל העולם כולו לדבר על בינה מלאכותית (Artificial Intelligence, או בקיצור AI). הרעיון אומנם ישן – המאמרים הראשונים שדיברו על שימוש במחשבים כדי ליצור מכונות אינטליגנטיות, הופיעו כבר בשנות החמישים של המאה העשרים (כולל מושגים כמו למידת מכונה, רשתות נוירונים וכדומה) – אבל האבן שנזרקה לשווקי העולם בדמות ה־ChatGPT, עשתה את מה שדורות של חכמים לא הצליחו לעשות בעבר: הבינה המלאכותית הפכה לשיחת היום.

ברור כיום כמעט לכל אחד שבינה־מלאכותית־יוצרת (Generative Artificial Intelligence) יכולה לשפר את חיינו, כמעט בכל תחום. עצם היכולת לתת למחשב לקרוא ולנתח מספר עצום של נתונים, בכמות שהיא מעבר ליכולת העיכול של המוח הביולוגי, ולהוציא מהן תובנות "בעצמו" ללא הנחיית בני אנוש, משנה לחלוטין שטחים רבים.

פתאום נפתחו תחומים חדשים כמו מכוניות ללא נהג אנושי (רכב אוטונומי), פיתוח תרופות שיתאימו באופן אישי למידע הגנטי והקליני הספציפי של חולה מסוים, או אפילו ניתוח תשדורות שאנו קולטים מהחלל והבחנה בין אותות שנוצרו על ידי הטבע ובין כאלה שנשלחו על ידי יצורים אינטליגנטיים (אם יש כאלה ברחבי החלל החיצון).

עידן המכונות?

לצד ההבטחה קיים גם חשש גדול. האם טמונות סכנות בטכנולוגיה החדשה? ואם כן, האם יש בידינו להגביל אותן ולא לבנות ולשחרר מוצרים העלולים לגרום לאסון? או – הסכנה הגדולה מכל – אולי יגיע הרגע בו המכונות יהיו כל כך יותר חכמות מאיתנו עד שהן יחליטו כי אין להן יותר צורך בנו, וייפטרו מאיתנו? האם יכול להיות שסוף התהליך, שתחילתו בתיבה שפתחנו, יביא כליה על המין האנושי? בקצרה – האם נגיע לעידן המכונות?

עליית המכונות: הכתבה המלאה מופיעה בגיליון מאי של פורבס – לרכישת הגיליון

לפני שנמשיך הלאה, הרשו לי לגלות לכם שאם זה יקרה, לא תהיה זו הפעם הראשונה בהיסטוריה האנושית.

אני מניח שהקורא שהגיע עד כאן זוקף גבה. כיצד אינו יודע שפעם כבר היו על כדור הארץ מכונות אינטליגנטיות שהיו יותר חכמות מהאנשים שחיו אז, ושניצלו את עליונותן השכלית כדי להתגבר על בני האנוש ובסופו של דבר אף השמידו אותם?

כדי להשיב על שאלה זו, הרשו לי להתעכב קצת על המושג "מכונה". מהי מכונה? בהקשר של מחשב ספרתי, אנו מדברים כיום על משהו המורכב מרכיבים רבים ובעיקר מטרנזיסטורים העשויים מסיליקון וחומרים אחרים. כל טרנזיסטור מכיל "ביט" (bit) אחד: אם עובר בו זרם, אנו אומרים שערך הביט הוא 1, ואם לא עובר בו זרם, ערך הביט הוא 0. מתקיים היום מרוץ לפיתוח טכנולוגיות אחרות של חישוב, ובראשן הטכנולוגיות הקוונטיות. שם האלמנט המרכזי אינו מכיל ביט אחד (כמו בטרנזיסטור) אלא תערובת של 1 ו־0 בו זמנית. אנו מכנים אלמנט כזה בשם קיוביט (Qbit) שהינו קיצור של Quantum BIT.

לפי הידוע לנו כיום, אנו מניחים שהטבע כולו (כולל מוח האדם) הוא קוונטי, וכי החישוב הדיגיטלי שאנו עושים כיום עם ביטים (שיש להם רק שני מצבים) הוא פרימיטבי ביחס למה שמתבצע בטבע. כך או כך, גם אם מוח האדם עצמו הוא מחשב קוונטי "מתקדם" ולא מחשב דיגיטלי "נחות" כמו אלה שאנו בונים מטרנזיסטורים, עדיין הוא מכונה. המכונה הזו אינה בנויה מסיליקון, היא הרבה יותר מורכבת מהמחשבים הספרתיים שהמצאנו, ונכון למצב כיום, היא בדרך כלל יותר אינטליגנטית מהם. אבל היא עדיין מכונה העשויה מחומרים (ביולוגיים) המצויים בטבע, וכפופה לחוקי הטבע.

האם המכונות יהיו כל כך יותר חכמות מאיתנו עד שהן יחליטו כי אין להן יותר צורך בנו, וייפטרו מאיתנו? | צילום: Shutterstock

יצורים דמויי אדם (הומינידיים) החלו להתהלך על כדור הארץ כבר לפני כמה מיליוני שנים. רק לפני כרבע מיליון שנה נוצרה מוטציה חדשה, אי שם במרכז אפריקה, של זן חדש שאנו קוראים לו הומו־סאפיינס. אחד מיתרונותיו העיקריים היה נפח מוח גדול יותר, מה שהתבטא באינטליגנציה גבוהה יותר. התהליך האבולוציוני הביא לכך שהמכונה החדשה (הומו־סאפיינס) הלכה והשתלטה על העולם תוך שהיא דוחקת את רגליהן, ואף מביאה להיעלמותן של מכונות ישנות יותר (כמו הומו־ארקטוס או האדם הניאנדרטאלי, למשל).

למרות שקשה לנו לקבל זאת, גם אנחנו "מכונה" במובן שתיארתי לעיל. יתרה מכך, גם אנחנו מכונה לומדת. ההתנהגות שלנו אינה מוכתבת רק על ידי התוכנה הפנימית איתה נולדנו (כמו הדנ"א), אלא גם על ידי הניסיון שאנו אוספים בחיינו שמביא להשתנות התנהגותנו. ולא רק זאת, אלא שאנו גם יודעים כיצד "לייצר" מכונות חדשות כאלה: אנחנו קוראים להן "ילדים".

ברגע שאנו מבינים זאת, נעשה ברור מאליו שמכונה אינטליגנטית יכולה גם יכולה לגרום לדברים בלתי צפויים, שלחלקם יהיו תוצאות שליליות ביותר. בגלל התכונה הבסיסית של שינוי ההתנהגות של המכונות שאנו יוצרים (ילדים), כתוצאה מניסיון חיים שהם לומדים ללא שליטה של ההורים, ברור לנו גם שבעיקרון לא ניתן להבטיח שמכונות שנוצרו כך, לעולם לא יעשו רע.

תארו לעצמכם שבעולם עתידי כלשהו, לא יהיה מותר לעשות ילדים ללא רישיון מהממשלה, וכי הממשלה לא תיתן רישיון כזה, למי שלא יוכיח שהילד שיווצר לעולם לא יעשה רע. ברור מהטיעון לעיל שזה בלתי אפשרי בעיקרון.

ממשלות רבות בעולם מנסות כיום, לצד קידום מואץ של טכנולוגיות הבינה המלאכותית, גם לשלוט בפיתוח על ידי רגולציה שלא תאפשר נזק עתידי בידי הטכנולוגיות הללו. אבל, כמו שהסברתי לעיל, זה בלתי אפשרי. מכונה אינטליגנטית אינה עוד "מכאנית" במובן הישן: פעולתה היא בלתי צפויה בעיקרון.

עם זאת, יש הרבה מה לעשות בתחום זה, כמו שאנו עושים עם המכונות הנבונות הלומדות המְכֻנּוֹת ילדים. אנו צריכים למצוא דרך "לחנך" את המכונות וללמדן לא רק מה אפשר לעשות, אלא גם מה אסור לעשות. יתכן גם שנצטרך להעניק להן כוח רק בהדרגה, לאחר שניווכח כי הן "מחונכות היטב". אתיקה של בינה מלאכותית היא איפוא חלק בלתי נפרד מפיתוח היכולת.

זו אגב הסיבה לכך, שהאתיקה והרגולציה נכללו כאחד מן הנושאים העיקריים בתוכנית הלאומית לבינה מלאכותית שהוגשה לממשלה לפני מספר שנים. לצערנו, אי היציבות וההידרדרות של המערכת הפוליטית בשנים אלה, הביאה לכך שהתוכנית לא יושמה למעשה.

למרות שהפסדנו מספר שנים, עדיין לא מאוחר להרים את המקל ולהתחיל לרוץ. זה יהיה גם אחד הנושאים העיקריים שידונו בכנס שבוע הסייבר שייערך בקמפוס אוניברסיטת תל אביב בשבוע האחרון של חודש יוני הקרוב.


אלוף (מיל.) פרופסור יצחק בן ישראל הוא ראש מרכז הסייבר ע"ש בלווטניק, אוניברסיטת תל אביב

הרשמה לניוזלטר

באותו נושא

הרשמה לניוזלטר

מעוניינים להישאר מעודכנים? הרשמו לרשימת הדיוור שלנו.