סוכן כפול: קלוד יסמן טקסטים וקבצים שנוצרו על ידי בינה מלאכותית

מרי וויטפיל רואלופס

Anthropic הודיעה כי תתחיל להטמיע סימני מים בלתי נראים בטקסטים, תמונות וקבצים שנוצרו באמצעות Claude, במהלך שנועד לעמוד בדרישות רגולטוריות של האיחוד האירופי. אלא שההחלטה כבר מעוררת ביקורת מצד משתמשים שחוששים כי מעתה ניתן יהיה לזהות שימוש ב-AI גם בעבודות שבהן Claude שימש רק לעריכה או הגהה.

המדיניות החדשה, שעליה הודיעה Anthropic תכניס סימון מובנה לתכנים שנוצרו באמצעות Claude. בטקסטים שיוצר המודל יוטמע סימן מים בלתי נראה שאמור להישאר צמוד לטקסט גם כאשר מעתיקים ומדביקים אותו במקום אחר. קבצים אחרים שיוצר Claude, ובהם תמונות, יכללו מטא-דאטה חתום דיגיטלית.

עדיין לא ברור לחלוטין כיצד ניתן יהיה לזהות את הסימונים בפועל. Anthropic הודיעה כי תפרסם בהמשך מידע נוסף שיסביר כיצד לזהות אותם, ובמקביל מבהירה שהמערכת אינה חסינה מפני הסרה. עריכה משמעותית של טקסט עשויה למחוק את סימן המים, ומטא-דאטה של קבצים עלול להיעלם בעקבות שינוי פורמט, צילום מסך או פעולות אחרות.

המשתמשים גם לא יוכלו לבחור שלא להשתתף במהלך. המדיניות תחול על כל המודלים והמוצרים של Claude ברחבי העולם, כולל Claude Code ו-Claude Cowork.

ואם זו סתם הגהה?

הודעת החברה נתקלה מיד בביקורת ברשתות החברתיות. חלק מהמשתמשים כינו את המהלך ״בעייתי מאוד״, ואחרים טענו שהוא מסמן את סופו של עידן שבו לא ניתן היה להוכיח בוודאות שטקסט נכתב באמצעות AI.

חלק גדול מהביקורת הגיע דווקא ממשתמשים שטוענים שהם אינם משתמשים ב-Claude כדי לכתוב עבורם מאפס, אלא כדי לערוך ולהגיה טקסטים שהם עצמם כתבו. גם מפתחים הביעו חשש מהשפעת הוספת חתימות קריפטוגרפיות לקוד שמייצר המודל.

מגיש הרדיו והבלוגר אריק אריקסון, למשל, כתב כי עבר מ-Grammarly ל-Claude לצורכי הגהה משום שלדעתו הוא עושה עבודה טובה יותר. כעת, לדבריו, גם דברים שכתב בעצמו עלולים להיות מסומנים כאילו Claude יצר אותם. ״זה מגוחך״, כתב.

של מי הזכויות

המדיניות החדשה הציתה מחדש ויכוח רחב יותר סביב שאלה שהולכת ונעשית רלוונטית ככל שהשימוש בכלי AI מתרחב: של מי הקרדיט על תוכן שנוצר בעזרת מודל – האדם שנתן את ההוראות, או המערכת שיצרה אותו בפועל?

מצד אחד הטענה היא שיש אדם שמספק את ההנחיות, ההקשר, מקבל את ההחלטות ומבצע אינספור תיקונים לאורך הדרך – ולכן הקרדיט צריך להישאר שלו. הבינה בסופו של דבר הוא בסופו של דבר כלי ששימש אותו בתהליך היצירה.

מנגד, נטען, סימן המים אינו קרדיט אלא ציון העובדה שנוצר באמצעות בינה מלאכותית. בנוסף, גם אי מתן קרדיט לכלי שיצר את התוכן עשוי להיות בעייתי מבחינה אתית: גם אם אדם נותן הנחיות ומערכת אחרת מבצעת בפועל את העבודה קשה לייחס את מלוא התוצר לאדם שנתן את ההוראות בלבד.

הרגולציה מאחורי השינוי

המהלך של Anthropic מגיע כחלק מהיערכותה לכללי האיחוד האירופי בנושא שקיפות של תוכן שנוצר באמצעות AI. הכללים נועדו ליצור סטנדרטים לסימון ולזיהוי של תוכן שנוצר או עבר מניפולציה באמצעות בינה מלאכותית, כולל Deepfakes וטקסטים שנוצרו או שונו באמצעות המערכות.

נכון לסוף יולי, קרוב ל-200 חברות כבר חתמו על הקוד והתחייבו לפעול בהתאם לו, בהן Anthropic, Meta, Microsoft ו-OpenAI.

Anthropic גם אינה הראשונה שמטמיעה סימונים כאלה. Google מסמנת תמונות שנוצרו באמצעות כלי הבינה המלאכותית שלה מאז 2023, ובהמשך הרחיבה את השימוש בסימני מים גם לטקסט, אודיו ווידאו. OpenAI משתמשת גם היא בסימני מים בלתי נראים בתמונות שנוצרו באמצעות המערכות שלה.

דווקא בטקסט, OpenAI בחרה עד כה בגישה אחרת. לפי דיווח של The Wall Street Journal, החברה מחזיקה כבר זמן רב בטכנולוגיה שמאפשרת להוסיף סימני מים לטקסטים שנוצרים באמצעות מודלים כמו ChatGPT, אך החליטה שלא להשיק אותה. בתוך החברה מתקיים כבר שנים דיון סביב האפשרות להפעיל את הטכנולוגיה. בין הסיבות שהובילו עד כה להימנעות מהמהלך נמצאים החשש מזיהויים שגויים, האפשרות שמשתמשים ימצאו דרכים לעקוף את הסימון – וגם החשש שסימון טקסטים שנוצרו באמצעות ChatGPT פשוט ידחוף משתמשים לעבור למתחרים.