התשוקה להבין איך דברים עובדים החלה אצל בועז טויטו בגיל 10, כשאביו, ד"ר למדעי המחשב, לימד אותו את שפת התכנות LISP. כשחבריו שיחקו כדורגל, בועז צפה בקלטות וידאו של הרצאות מ-MIT, ובגיל 15 כבר החל תואר ראשון במדעי המחשב באוניברסיטת תל-אביב, מסלול שהוביל אותו ליחידת העילית 8200 (מסלול אר"מ), שם שירת חמש שנים.
הפריצה הגדולה הגיעה ב-2022. בעוד העולם עמד בתור להתנסות ב-ChatGPT, טויטו כבר היה שקוע בשאלה שונה לחלוטין: מה מריץ את הקסם הזה מאחורי הקלעים? “הייתי חייב להבין איך זה עובד", הוא אומר. “זו התשוקה שלי. אני מסתכל על העולם ורוצה לפתוח את מכסה המנוע כדי להבין איך הוא פועל".
התשוקה הזו להבין לעומק איך הדברים עובדים הביאה אותו לזהות את אחת הבעיות הקריטיות של עולם ה-AI. “זיהיתי בעיית חומרה שתעצור את ההתקדמות", הוא אומר, “פשוט לא יהיו מספיק צ’יפים וחשמל כדי לגרום ל-AI לעבוד בקנה מידה עולמי".
כדי לפתור את צוואר הבקבוק הזה, הוא חבר לנועם זלינגר (לשעבר בכיר בגרנולייט) והשניים הקימו את Impala AI, כשנועם משמש כמנכ"ל ובועז כסמנכ"ל טכנולוגיות."יש לנו ראייה טכנולוגית עמוקה וגם ראייה עסקית", הוא אומר. “כל אחד מאיתנו רואה את כל הצדדים ואיך הכל משתלב ביחד".
החברה, שגייסה 11 מיליון דולר בסבב סיד בהובלת הקרנות Viola Ventures ו-NFX, בונה את התשתית הקריטית להרצת מודלי שפה גדולים (LLMs). הפלטפורמה של אימפלה מייעלת את ניצול כוח העיבוד ולפי נתוני החברה מורידה את עלויות ההרצה פי 13 לכל טוקן, הישג דרמטי בשוק שבו חברות מוציאות עשרות מיליוני דולרים רק על זמן מחשב.
למרות החזון הגלובלי, החברה נטועה עמוק בתל-אביב. טויטו, שבין לבין מנסה לחזור לנגינה בפסנתר (“חיי הפאונדרים לא מיטיבים עם תחביבים"), מאמין שהחברה שהקים היא לא רק חלק מהגל, היא בונה את התשתית שעליה ירכב הגל הבא.
