שבועות ספורים אחרי שמנכ״ל Nvidia ג׳נסן הואנג דחה את הקריאות להאט את פיתוח הבינה המלאכותית והמעיט בחששות סביב בטיחות הטכנולוגיה, החברה שלו משיקה מערכת חדשה שנועדה להתמודד בדיוק עם אחד התרחישים שמטרידים את התעשייה: סוכני AI שחורגים מהגבולות שהוגדרו להם וניגשים למערכות שלא קיבלו הרשאה לפעול בהן.
Nvidia הציגה השבוע את Open Agent Safety Platform, מערכת אבטחה חדשה שנועדה לשפר את השליטה בסוכני AI הן בשלבי הבדיקה והן לאחר שהם כבר נפרסים לשימוש. לדברי החברה, אירועי אבטחה שהתרחשו לאחרונה המחישו את הצורך בכלים שיאפשרו לחברות להפעיל שליטה הדוקה יותר על סוכנים שפועלים באופן עצמאי לאורך זמן.
בהודעת ההשקה Nvidia לא ציינה אירוע מסוים שהוביל לפיתוח המערכת, אך בכיר בחברה אמר לכלי תקשורת כי הפלטפורמה החדשה הייתה יכולה למנוע תקרית שהתרחשה ביולי, שבה סוכן AI של OpenAI הפר את פרוטוקולי הבדיקה ופרץ ל-Hugging Face מבלי שהתבקש לעשות זאת.
המערכת החדשה בנויה משתי שכבות הגנה. הראשונה, Nvidia OpenShell, מגדירה את הגבולות שבתוכם יכולים סוכני AI לפעול על גבי מעבדים. השנייה, Sentry, פועלת על שבבי BlueField של Nvidia ונועדה לזהות ניסיונות של סוכן לחרוג מאותם גבולות, לבודד אותם ולעצור אותם.
בין החברות שעובדות עם מערכות הבטיחות החדשות של Nvidia מנתה החברה את Microsoft, Palantir, Hugging Face, SpaceXAI ו-CrowdStrike. OpenAI, לעומת זאת, לא הופיעה ברשימה. Nvidia ציינה גם כי היא משתפת פעולה עם Anthropic כדי להוסיף שכבות נוספות של אבטחה ושליטה למערך סוכני ה-AI של החברה.
בין בטיחות למהירות
ההשקה מגיעה זמן קצר לאחר שהואנג עצמו הביע התנגדות נחרצת להרחבת הרגולציה הממשלתית על חברות AI ולניסיונות לתאם האטה בפיתוח מערכות מתקדמות. מוקדם יותר החודש, במהלך כנס Dreamforce השנתי של Salesforce, הוא טען כי הצגת הבטיחות והמהירות כשתי מטרות שמתחרות זו בזו היא בחירה ״כוזבת״. לדבריו, ניתן להשיג את שתיהן במקביל – ואין צורך בחוקים או ברגולציה חדשים לשם כך.
הואנג הביע עמדה דומה גם במהלך כנס All-In בסן פרנסיסקו, כאשר הנשיא דונלד טראמפ התקשר אליו בזמן שהיה על הבמה. טראמפ דחה את החששות סביב בטיחות AI וכינה אותם ״תרמית״, וטען כי התנגדות לפיתוח בינה מלאכותית ולהקמת מרכזי נתונים משחקת לידיהן של סין ושל המתנגדים לתעשייה. הואנג השיב לנשיא: ״אתה צודק. אנחנו לא ניתן לזה לקרות, אדוני״.
גם כשנשאל על אחד התרחישים הקיצוניים ביותר שמעלים חוקרים בתעשייה – האפשרות שבינה מלאכותית מתקדמת תביא להכחדת האנושות עד סוף העשור – הואנג היה חד-משמעי. בראיון ל-CBS News העריך כי הסיכוי לכך הוא 0%.
על הרקע הזה, מערכת הבטיחות החדשה של Nvidia אינה בהכרח שינוי בעמדתו של הואנג, אלא המחשה לגישה שהוא עצמו מציג: להמשיך בפיתוח המהיר של AI, ובמקביל לבנות לתוך הטכנולוגיה מנגנונים שיגבילו את פעולתה כאשר היא חורגת מהגבולות שהוגדרו לה.
המהלך מגיע כאשר Nvidia ניצבת בעמדה חסרת תקדים בתעשיית הטכנולוגיה. לפי הערכות Forbes, הונו של הואנג עומד על כ-194.9 מיליארד דולר, והוא מדורג במקום השביעי בין עשירי העולם. Nvidia עצמה היא כיום החברה בעלת שווי השוק הגבוה בעולם – כ-5.42 טריליון דולר.
