מהפכת ה-AI יצרה מרוץ כמעט בלתי פוסק אחר כוח מחשוב: מודלים גדולים יותר, יותר משתמשים ויותר מידע שצריך לעבד בכל רגע. אך בעוד התעשייה התמקדה במשך שנים בהגדלת כוחם של המעבדים, צוואר הבקבוק מתחיל לעבור למקום אחר – הזיכרון. ככל שמודלי AI נדרשים להחזיק כמויות גדולות יותר של מידע והקשר בזמן אמת, גם המעבד החזק ביותר מוגבל בכמות המידע שאליה הוא יכול לגשת ובמהירות שבה הוא מקבל אותה.
הפתרון המקובל כיום הוא לחבר עוד ועוד מעבדים ושרתים, אבל זה בא במחיר מערכות ענק, שצורכות כמויות עצומות של חשמל. ״יחידת העיבוד הבסיסית שמגיעה היום מ-NVIDIA היא מחשב ששוקל בערך טון וחצי, עולה שבעה-שמונה מיליון דולר וצורך יותר מ-200 קילוואט״, מסביר עופר שחם, מייסד-שותף ומנכ״ל Majestic Labs. ״זה כמו להטעין יותר מ-20 מכוניות טסלה במקביל. כשחוות שרתים נדרשות להפעיל עוד ועוד מערכות כאלה, צריכת החשמל הופכת למגבלה בפני עצמה. אי אפשר להמשיך לבנות ככה״.
ב-Majestic Labs החליטו לגשת למרוץ הזה מכיוון אחר. במקום להמשיך להוסיף עוד ועוד כוח עיבוד, החברה, שהוקמה בסוף 2023, מתמקדת בזיכרון וביכולת של המעבדים לגשת במהירות לכמויות גדולות של מידע. מוצר הדגל שלה, שרת ה-Prometheus, מתוכנן לתמוך בעד 128 טרה-בייט של זיכרון – לעומת כ-0.2-0.3 טרה-בייט במעבדי GPU ו-TPU קיימים, לפי החברה. הארכיטקטורה שפיתחה מאפשרת ליחידות החישוב לעבוד מול מרחב זיכרון גדול ומשותף, וכך לצמצם את הצורך לפצל מידע בין שרתים רבים ולהעביר אותו הלוך ושוב ביניהם – פעולה שגוזלת זמן, אנרגיה וכסף. כך, לפי החברה, ניתן להפעיל מערכות AI גדולות ומורכבות יותר, תוך צמצום משמעותי בעלויות ובצריכת האנרגיה.
את הגישה הזו מובילים שלושה מייסדים שכבר בילו חלק ניכר מהקריירה שלהם בבניית חומרה בקנה מידה עצום. עופר שחם, מסומי ריינדרס ושה רביי הכירו בגוגל, שם היו שותפים להקמת קבוצת הסיליקון של החברה ולעבודה על שבבים ששולבו בין היתר בשרתי גוגל ויוטיוב, במכשירי Pixel ובמכוניות Waymo. בהמשך הקימו גם את קבוצת הסיליקון של Meta עבור משקפי המציאות הרבודה שלה. יחד, צברו השלושה ניסיון בפיתוח והשקה של שבבים בעשרות מוצרים, לצד יותר מ-130 פטנטים. עבור ריינדרס, שהגיעה לעולם הזה דווקא מרקע משפטי ועסקי, העבודה המשותפת גם עיצבה את הדרך שבה היא תופסת את תפקידה בתוך חברת Deep Tech. ״הנכונות שלי לומר ׳אני לא יודעת׳ היא אחת החוזקות הגדולות שלי״, היא אומרת, ״זה מאלץ אחרים להסביר את הערך למשתמש הקצה, ולא את המורכבות או ההישג ההנדסי, וכמעט תמיד הופך דיון טכני לדיון על מוצר וערך ללקוח״.
השותפות הארוכה בין השלושה היא גם חלק מהאופן שבו החברה נבנתה. אחרי שנים שבהן עבדו יחד בתוך ענקיות הטכנולוגיה, הקמת חברה משותפת הייתה מבחינתם המשך טבעי למערכת היחסים המקצועית שנוצרה ביניהם. ״עבדנו יחד והיינו חברים וקולגות במשך הרבה מאוד זמן, כך שהרעיון שנעשה שוב משהו יחד תמיד היה שם ברקע״, מספרת ריינדרס.
את הניסיון הזה הם מביאים לחברה גם בחלוקת התפקידים ביניהם: שחם מוביל אותה כמנכ״ל, רביי כנשיא וריינדרס כסמנכ״לית התפעול, כשהפעילות עצמה מתחלקת בין ישראל לקליפורניה. עבור ריינדרס, דווקא ההבדלים ביניהם הם חלק מהיתרון של הצוות. ״רבגוניות במומחיות ובדעה יוצרת ערך ייחודי. את לא צריכה להיות טכנולוגית מבריקה אם הנדסה היא לא התפקיד שלך״, היא אומרת, ״אני מכירה בטכנולוגים שסביבי וסומכת עליהם. כשמחברים את תחומי האחריות השונים יחד, הם הופכים למרקם התפעולי של צוות ההנהגה שלנו״.
ככל שעולם ה-AI עובר מאימון מודלים לשימוש שוטף בהם עבור מיליוני משתמשים, אפליקציות וסוכנים, גם העלות וצריכת האנרגיה של התשתית הופכות לקריטיות יותר. לפי Majestic Labs, הארכיטקטורה שפיתחו עשויה לאפשר עד פי 50 יותר משתמשים לכל קילוואט ופי 50 יותר טוקנים לכל דולר שמושקע בדאטה סנטר.
כעת החברה נערכת להביא את הדור הראשון של שרתי Prometheus ללקוחות ולשותפים האסטרטגיים, ולדבריה כבר מחזיקה בהזמנות ונמצאת בתהליכי עבודה והערכה עם גופים מובילים בעולמות הענן, הפיננסים וה-AI. מאז הקמתה גייסה החברה יותר מ-100 מיליון דולר ומעסיקה כ-50 עובדים, כמחציתם בישראל. בטווח הארוך, השאיפה היא להפוך את ארכיטקטורת הזיכרון שפיתחה לתשתית שעליה יוכלו לפעול מערכות AI גדולות ומורכבות יותר, בעולם שבו הדרישה לכוח מחשוב ממשיכה לצמוח בקצב שקשה לתשתיות הקיימות להדביק.
