מי ישמור על סוכני ה-AI? שכבת השליטה שמפקחת עליהם בארגונים

מייסדי Onyx: מקסים בר קוגן (מימין) וגיל אלבז | צילום: נתנאל טוביאס
מייסדי Onyx: מקסים בר קוגן (מימין) וגיל אלבז | צילום: נתנאל טוביאס
כש-Onyx Security הוקמה ב-2024, סוכני AI כמעט ולא פעלו בתוך ארגונים. שנתיים אחר כך הם כבר מקבלים גישה למערכות, מבצעים פעולות ומקבלים יותר עצמאות. החברה, שגייסה 153 מיליון דולר וצמחה ביותר מפי ארבעה מאז יציאתה מ-Stealth, רוצה לתת לארגונים דרך לראות, לנטר ולשלוט בכל מה שהם עושים

כניסתן של סוכני AI לחברות והשינוי בסוג המשימות שהם מבצעים – כולל כתיבת קוד, גישה למערכות רגישות, קבלת החלטות וביצוע פעולות שונות – יחד עם אוטונומיות הולכת וגדלה, מעוררות אתגרים חדשים: איך בכלל יודעים מה בדיוק הם עושים, ובעיקר – איך עוצרים אותם כשהם חורגים מהמשימה?

כאן נכנסת לתמונה Onyx Security, שמפתחת שכבת שליטה שמאפשרת לארגונים לגלות אילו סוכני AI פועלים אצלם, לנטר את הפעולות שלהם ולהבין בזמן אמת אם הן לגיטימיות. "ככל שהמודלים נהיים חכמים יותר, צריך לוודא שלנו – בני האדם – יש עדיין שליטה בהם", אומר מקסים בר קוגן, מייסד-שותף ומנכ"ל החברה.

קוגן הגיע לעולם הזה אחרי שנים בסייבר. הוא עסק במחשבים מגיל צעיר, למד מתמטיקה ומדעי המחשב, שירת ב-8200 ובהמשך מילא תפקידי ניהול מוצר ופיתוח. את גיל אלבז, מייסד-שותף ו-CAIO של Onyx, הכיר אחרי הצבא, דרך קהילת ה-AI בישראל.

אחד הדברים שחיברו ביניהם היה גם האהבה לריצה. במהלך הריצות המשותפות חזרו השיחות תמיד לסוכני AI ולעתיד שלהם בתוך ארגונים. "כל ריצה היינו מדברים על זה המון", מספר קוגן. "ואז הפסקנו לרוץ, כי כבר אין זמן לרוץ, אבל עכשיו אנחנו מטאפורית רצים ביחד".

השניים הגיעו לרעיון מזוויות שונות. קוגן עסק במחשבים ובסייבר מגיל צעיר, למד מתמטיקה ומדעי המחשב ושירת ב-8200, ובהמשך מילא תפקידי ניהול מוצר ופיתוח. אלבז הגיע מ-NVIDIA, שם עבד תחת ה-CTO הגלובלי על תשתיות ומוצרי AI. "ראינו שם מקרוב את הפערים: אייג'נטים שנוגעים בתשתיות קריטיות וב-data centers, בלי יכולת אמיתית לנהל ולשלוט בהם", אומר אלבז. "הבנתי שהבעיה שאנחנו חווים שם היא בעיה שכל ארגון בעולם יחווה בעתיד הקרוב".

החברה הוקמה ב-2024, בתקופה שבה גם מנהלי אבטחה רבים עדיין לא היו משוכנעים שסוכני AI יהפכו לבעיה דחופה. במהלך חודשים של שיחות עם מנהלי אבטחה בחברות גדולות בארה"ב, התגובה השתנתה בהדרגה מ"זה לא פוגש אותנו עדיין" לבקשות לעבוד עם החברה כלקוחות.

הטכנולוגיה שפיתחה Onyx, נועדה להתמודד עם סוכנים אוטונומיים שמסוגלים לבצע מספר עצום של פעולות. במקום להגדיר מראש רשימת חוקים של מותר ואסור, החברה בונה מודלים שמנתחים את ההקשר: מה תפקידו של הסוכן, מה ביקשו ממנו לעשות, כיצד הוא התנהג בעבר והאם הפעולה הנוכחית הגיונית ביחס למשימה.

הילה זיגמן, שותפה מנהלת CyberStarts | צילום: שירי גרופר
זיהתה את הפוטנציאל בשלב מוקדם. הילה זיגמן, שותפה מנהלת CyberStarts | צילום: שירי גרופר

במקביל, פיתחה החברה Guardian Agents – סוכני AI שתפקידם להשגיח על סוכנים אחרים ואף לנתב אותם חזרה כשהם סוטים מהמסלול. "אם זה סוכן AI שפשוט יצא משליטה, Onyx גם תדע להחזיר אותו למסלול", מסביר קוגן.

מבחינת Onyx, היכולת להחזיר סוכן למסלול היא רק חלק מהאתגר. "אנחנו מגינים גם מתוקפים, אבל גם בראש ובראשונה מה-AI עצמו, מזה שה-AI עצמו יצא משליטה", אומר קוגן. "זה בעצם הרבה יותר עניין של בעיית שליטה מאשר רק בעיית סייבר".

מי שזיהתה את הפוטנציאל בשלב מוקדם הייתה הילה זיגמן, שותפה מנהלת בקרן ההון סיכון Cyberstarts, המתמחה בהשקעות בסייבר והובילה את סבב ה-Seed של Onyx. זיגמן פגשה את קוגן בסוף 2023, כשסוכני AI עוד נראו כמו מדע בדיוני, ומספרת שכבר אז ידעה שהוא יהיה ההשקעה הראשונה שלה בקרן. "העומק הטכנולוגי שהוא הציג, והיכולת שלו לתאר Vision לאן הוא חושב שהשוק הולך, היה משהו חריג".

מאז היציאה מ-Stealth במרץ 2026, הגדילה Onyx את הכנסותיה ביותר מפי ארבעה, והיא עובדת עם חברות גדולות בארה"ב ובאירופה, בהן Revolut. החברה גייסה עד היום 153 מיליון דולר, מהם 113 מיליון דולר בסבב B ב-2026.

"אנחנו הולכים לעולם שבו כמעט כל שירות שאנחנו משתמשים בו ביומיום או נשענים עליו יהיה מבוצע באמצעות AI", אומר קוגן. "Onyx אמורה להיות household name", הוא מדגיש. "Onyx הצליחה להגיע לא רק לשליטה מאוד עמוקה במודלים, אלא גם להבנה מאוד עמוקה בהם, להבין למה הם עושים את הדברים שהם עושים, ולעזור לעולם לייצר מודלים בטוחים וטובים יותר".

הרשמה לניוזלטר

באותו נושא