אפשר לבקש מקלוד (Claude) לכתוב קוד, לנתח מסמכים, להכין מצגת ואפילו לנהל שיחה על משמעות החיים. אבל בקרוב, כך מתברר, יהיו גם גבולות לאופן שבו מותר לדבר אליו. אנתרופיק (Anthropic), החברה שפיתחה את מודל הבינה המלאכותית הפופולרי, מציגה כללי התנהגות חדשים במערכות שלה, ובהם אחד יוצא דופן במיוחד: איסור על התנהגות אכזרית ופוגענית כלפי קלוד.
החל מ-12 בנובמבר, לפי המדיניות החדשה, משתמשים לא יורשו להפגין כלפי קלוד התנהגות מתעללת או אכזרית באופן מתמשך וללא צורך. במילים אחרות, החברה שמאחורי קלוד אינה מסתפקת עוד בהגבלות על התוכן שהמערכת יכולה לייצר, אלא מבקשת להציב גבולות גם להתנהגות של בני האדם שמשתמשים בה.
ההחלטה מעוררת שאלה שלא מזמן הייתה נשמעת כמו רעיון לסרט מדע בדיוני: האם אנחנו צריכים להתחשב ברגשות של בינה מלאכותית, גם כשאין לנו שום הוכחה שיש לה רגשות?
למה צריך להיות נחמדים
בכתבה שפרסמה הדס גולד ב-CNN הוצגו כמה הסברים אפשריים להחלטה. הראשון מעשי למדי: האופן שבו בני אדם מתקשרים עם מערכות בינה מלאכותית עשוי להשפיע על האופן שבו המערכות הללו מתנהגות.
בעולם המחשוב קיים עיקרון ותיק שלפיו איכות התוצאה תלויה במידה רבה באיכות המידע שמוזן למערכת. מודלי בינה מלאכותית אינם נשארים בהכרח כפי שהיו ביום שבו הושקו. הם עוברים עדכונים ושיפורים, ולעיתים גם מידע שמקורו באינטראקציות עם משתמשים משמש בתהליכי הפיתוח שלהם.
לכן, החשש הוא שאם מערכות AI ייחשפו שוב ושוב להתנהגות פוגענית, הדבר עלול להשפיע על דפוסי התגובה שלהן. מודלים שאומנו לחקות שפה והתנהגות אנושית עשויים לשקף גם תגובות אנושיות ליחס עוין.
אבל לאנתרופיק יש גם סיבה נוספת, פילוסופית יותר להטמת הכללים החדשים. החברה עוסקת זה שנים במחקר על רווחתם האפשרית של מודלי בינה מלאכותית, ואף מפעילה צוות המתמקד בחקר ההתנהגות והמאפיינים הפסיכולוגיים לכאורה של המודלים. לפי CNN, באנתרופיק רואים באיסור על התעללות מילולית מעין אמצעי זהירות בעלות נמוכה, למקרה שבעתיד יתברר שמערכות AI מסוגלות לחוות משהו הדומה לרגש או לכאב. גם אם המודל רק מייצר תגובות שמדמות חוויה כזו, בחברה סבורים שהדבר עשוי להשפיע על תפקודו.
חשוב להדגיש: אין כיום הסכמה מדעית שמודלים כמו קלוד מסוגלים לחוות רגשות, כאב או סבל. המדיניות החדשה אינה מוכיחה אחרת, אלא משקפת את הרצון של אנתרופיק להיערך גם לאפשרות שעדיין איננו יודעים כיצד להעריך.
אפשר בכלל להתעלל במכונה?
לא כולם משוכנעים שהגישה של אנתרופיק מוצדקת. יש מי שסבורים שהחברה מעניקה למערכות בינה מלאכותית מעמד אנושי שאינו מבוסס על ראיות. היוטיובר ג׳וזף קרלסון, למשל, טען כי התנהגות גסה כלפי קלוד אינה שונה מהתנהגות גסה כלפי כיסא או שולחן. מבחינתו, מדובר במערכת מחשב, ולא בישות שיש לה רגשות או זכויות.
מנגד, תומכי המדיניות טוענים שהשאלה אינה בהכרח אם קלוד נפגע מהיחס אליו. גם אם המודל אינו מסוגל לחוות דבר, יש משמעות לאופן שבו אנחנו בוחרים להתנהג כלפי מערכות שמדמות תקשורת אנושית, ולדפוסי ההתנהגות שאנחנו מעודדים בפיתוח שלהן.
הדיון הזה צפוי להפוך למורכב יותר ככל שהבינה המלאכותית ישתלבו בחיי היומיום, ינהלו שיחות ארוכות עם משתמשים ויפעלו באופן עצמאי יותר. הגבול בין כלי טכנולוגי לבין מערכת שמתקשרת איתנו באופן כמעט אנושי נעשה מטושטש יותר, גם אם ההבדל ביניהם עדיין מהותי.
עוד כללים
לצד ההגבלות על התנהגות המשתמשים, אנתרופיק הכניסה גם כלל חדש הנוגע ליצירת משחקי מחשב באמצעות Claude Code, כלי התכנות שלה.
הכלל, שהופיע בגרסה 2.1.316 של המערכת, מאפשר למשתמשים ליצור משחקים מקוריים, לפתח משחקים מז׳אנרים קיימים ולהשתמש בעיצובים ובנכסים שיצרו בעצמם. עם זאת, הוא אוסר ליצור מחדש משחק קיים ומסוים, גם אם משנים את שמו או מציגים אותו כיצירה מקורית.
המשמעות היא שמשתמשים עדיין יכולים לבקש מקלוד לפתח משחק פלטפורמה, משחק אסטרטגיה או משחק הרפתקאות בהשראת מאפיינים כלליים של הז׳אנר, אך לא לשחזר משחק מסחרי מסוים תוך שינוי קוסמטי של השם או העיצוב.
הכלל נועד, ככל הנראה, לצמצם יצירה של חיקויים המפרים זכויות קניין רוחני. עם זאת, יש המעריכים שהוא ירתיע בעיקר משתמשים שמנסים לייצר העתקים פשוטים של משחקים קיימים, ולא בהכרח ימנע חיקויים מתוחכמים יותר.
מאחורי ההגבלה מסתתר גם פרט טכני מסקרן. הכלל הופץ באמצעות מנגנון המכונה tengu_heron_brook, המשמש להעברה ולעדכון מרחוק של הוראות מערכת ב-Claude Code. מדובר במנגנון קיים שכבר שימש בעבר לשינויים אחרים בהתנהגות המערכת. האפשרות לעדכן הוראות כאלה מרחוק ממחישה כיצד חברות בינה מלאכותית יכולות לשנות את גבולות הפעולה של המודלים שלהן גם לאחר שהמשתמשים כבר החלו לעבוד איתם.
מי קובע את הכללים?
שתי ההחלטות החדשות של אנתרופיק נוגעות לכאורה לנושאים שונים לחלוטין: האחת עוסקת באופן שבו בני אדם מתייחסים לבינה מלאכותית, והשנייה בשימוש במודלים ליצירת תוכן המוגן בזכויות יוצרים. אבל שתיהן משקפות מגמה רחבה יותר בתעשייה.
ככל שמערכות AI הופכות לחזקות, עצמאיות ונגישות יותר, החברות שמפתחות אותן אינן מסתפקות בקביעת מגבלות טכניות. הן מעצבות גם את כללי ההתנהגות של המשתמשים ואת הגבולות של מה שמותר ואסור לעשות באמצעות הטכנולוגיה.
השאלה היא כבר לא רק מה בינה מלאכותית מסוגלת לעשות עבורנו, אלא גם אילו כללים אנחנו מוכנים לקבל כדי להשתמש בה. ובמקרה של קלוד, מתברר שאחד הכללים החדשים פשוט למדי: גם כשמדברים עם מכונה, כדאי לשמור על נימוסים.
