הרשת החברתית, Reddit, כבר מזמן הפכה למאגר פורנו, המופיע בהתאם לחוקי הפלטפורמה – כל עוד הוא צולם ופורסם בהסכמה. כיום, כשכלי הבינה מלאכותית משתלטים על התחום, מפולת של תמונות פורנוגרפיות שנוצרו על ידי AI כבשה את האתר, וכעת נגישה ל-57 מיליון המשתמשים הפעילים שלו. למרות שהתמונות עשויות להיות מזויפות, פרטי ותווי הדוגמנים המשמשים ליצירתן נלקחים מתמונות של אנשים אמיתיים – והן מפורסמות בעיקר ללא הסכמתם – אמרו מומחים בתחום לפורבס.
"הבעיה הבסיסית עם פורנו בינה מלאכותית היא, שהוא מסתמך על גניבה המונית של תמונות של אנשים, ובאופן לא פרופורציונלי – בעיקר של נשים", אמרה נואל מרטין, שהייתה קורבן לדיפ-פייק בעל אופי מיני, וכיום חוקרת משפטית במעבדה של אוניברסיטת מערב אוסטרליה.
פורבס מצא ברדיט 14 שרשורים המוקדשים לפורנו בינה מלאכותית, 10 מהם נוצרו במהלך החודשיים האחרונים. לכל שרשור אלפי חברים ואלפי כניסות בכל שבוע. בפלטפורמה החברתית קיימת אפשרות ל"חיפוש בטוח" כדי להסתיר תוכן למבוגרים, אך ללא האופצייה הזאת, החיפוש אחר "פורנו AI" מעלה יותר משני תריסר פורומים המארחים ומשתפים תכנים שנוצרו על ידי בינה מלאכותית. בתוך אלה, חלק מהמשתמשים מבקשים או מוכרים דיפ-פייקים מיניים של אנשים אמיתיים.
ככל שכלים אלה הופכים מתוחכמים יותר ומספקים תפוקות מציאותיות יותר, קשה למשתמשים להבדיל לא רק בין מה אמיתי ומה לא, אלא גם מה הועלה בהסכמה ומה לא. בתחילת אפריל, מספר משתמשים "הולכו שולל" כששילמו 100 דולר עבור תמונות של אישה בת 19 בשם קלאודיה, אשר נוצרו באמצעות כלי הבינה מלאכותית Stable Diffusion, לפי מגזין רולינג סטון. מומחים טוענים שמערכות מהסוג שיוצרות פורנו AI "מאומנות" על מיליוני תמונות של אנשים אמיתיים, לרוב ללא ידיעתם או הסכמתם, כמו גם תמונות בבעלות גופים אחרים. אמנים ופלטפורמות תמונת סטוק, ביניהן Getty תבעו לאחרונה מחוללי בינה מלאכותית כמו Stability AI ו-Midjourney בגין הפרת זכויות יוצרים.
פורנו שנוצר באמצעות בינה מלאכותית צץ גם בפלטפורמות אחרות כמו טוויטר ואינסטגרם. אבל התחום משגשג בעיקר ברדיט, בין השאר מכיוון שהפלטפורמה מאפשרת למשתמשים להישאר אנונימיים ולא אוסרת עליהם לשתף תוכן מיני בוטה. הפלטפורמה עצמה שימשה גם להכשרת מודל שפות עבור כלי בינה מלאכותית טקסטואלים, דוגמת ChatGPT, וכעת היא דורשת תשלום: מנכ"ל רדיט, סטיב האפמן, אמר בראיון שנערך לאחרונה ל"ניו יורק טיימס" כי הוא רוצה שגוגל, מיקרוסופט ו-OpenAI ישלמו עבור השימוש בנתונים ובהתכתבויות בפלטפורמה כדי לאמן את האלגוריתמים שלהם.
"אוסף הנתונים של רדיט הוא בעל ערך רב. אנחנו לא אמורים לספק אותו לכמה מהחברות הגדולות בעולם בחינם", אמר האפמן לניו יורק טיימס. רדיט הודיעה לאחרונה כי תסגור את ממשק ה-API שלה, שהיה פתוח מאז 2008, וכי היא מתכננת לגבות מצד שלישי גדול יותר תשלום עבור "גישה מובחרת" אליו.
בגיבוי של קרנות הון כבדות משקל כמו Andreessen Horowitz ו-Sequoia Capital, שוויה של רדיט הוערך לאחרונה ב-10 מיליארד דולר, לאחר שגייסה 700 מיליון דולר בסבב סדרה F באוגוסט 2021. עם מימון בשווי 1.9 מיליארד דולר, היא מתכננת לצאת להנפקה ב-2023. החברה רשמה הכנסות של 470 מיליון דולר בשנת 2021, בעיקר באמצעות מכירת פרסומות ומנויי פרימיום, על פי הערכות של Statista.
בעוד שרדיט טוענת כי אינה מייצרת רווחים או מציגה מודעות נגד תוכן למבוגרים באתר שלה, הצגת תוכן כזה באתר, מזויף או אמיתי, מושך יותר משתמשים לפלטפורמה ומעודד מעורבות. "למרות שהם לא מפרסמים בעצמם בפורומים, הם עדיין נהנים מהעובדה שהשרשורים האלה מושכים הרבה אנשים", אומרת סופי מאדוקס, חוקרת בנושא אלימות מינית ברשת.
"משתמשים שמגיעים לפלטפורמה כדי לצרוך פורנו מבקרים גם בדפים אחרים שאינם מכילים תוכן למבוגרים", אומר ג'יימי כהן, פרופסור לרשתות חברתיות ושיווק. "רדיט למעשה עוקבת אחר כניסות המשתמשים בדפים ובשרשורים ולאחר מכן שולחת נתונים מותאמים אישית המציעים דרכים חדשות לשימוש המפרסמים", הוא אומר.
"מקרי לחלוטין"
ובעוד שרדיט היא פלטפורמת המדיה החברתית הגדולה ביותר, המציגה פורנו בינה מלאכותית עבור עשרות מיליוני המשתמשים שלה, מגוון אתרי פורנו בינה מלאכותית נערכות גם הן להגדיל את רווחים – ובגדול.
רוב מחוללי פורנו הבינה המלאכותית כמו PornJourney, PornPen, PornJoy ו-SoulGen גובים מנויי פרימיום ומחוברים לחשבונות המנוהלים על ידי משתמשים אנונימיים. אתרי האינטרנט שלהם מציגים מערך של פורנו AI עם אפשרויות שונות עבור המוצא האתני, מבנה הגוף והוראות כיצד ליצור אותו – כל זאת עם מעט עד אפס חשיפה על האופן שבו המערכות אומנו ועל אילו תמונות. לשם כך, האתרים כוללים גם טפסי ויתור על תוכן שנוצר באמצעות הכלים שלו: "כל תוכן באתר שמזכיר אנשים אמיתיים הוא מקרי לחלוטין. בינה מלאכותית זו משקפת הטיות ותפיסות שגויות שנמצאות בנתוני האימונים שלה".
PornPen, לה 2 מיליון משתמשים חודשיים ו-12 אלף משתמשים, שמשלמים 15 דולר לחודש עבור הכלים שלה ליצירת פורנו AI, בנויה על המודל של Stable Diffusion ומקבלת תמונות ממערך נתונים חינמי בשם "LAION", המכיל בערך 6 מיליארד תמונות שמקורן בציבור. מאגר הנתונים האדיר כולל תמונות של סלבריטאים, דוגמניות, פוליטיקאים ויוצרי תוכן. באתר של המלכ"ר כתוב: "אנו ממליצים להשתמש במערך הנתונים למטרות מחקר".
השטח האפור של רדיט
רדיט ניסתה להבהיר את עמדתה לגבי תחום מתפתח זה על ידי איסור על תוכן מיני בוטה ללא הסכמה, כולל "דמויות שזויפו", בהתייחסות לדיפ-פייק מבוסס בינה מלאכותית – כאשר אלגוריתם יוצר תמונות מזויפות של אדם אמיתי. האתר גם אוסר על "חומר שנוצר על ידי בינה מלאכותית אם הוא מוצג בהקשר מטעה". על פי דובר רדיט, החברה אומרת שהיא משתמשת בשילוב של כלים אוטומטיים יחד עם צוות הבטיחות הפנימי שלה כדי לזהות ולהסיר תוכן מפורש שלא בהסכמה מהאתר. אבל גם הם לא עולים על הכל.
דיפ-פייק, תוכן מיני מפורש שלא בהסכמה ופורנו AI, כולם קיימים באותו מאגר של תמונות פורנוגרפיות שממוחזרות לתמונות חדשות. חשוב לשים לב להבדל בין פורנו AI, המציג אדם "חדש" לחלוטין שאינו ניתן לזיהוי, לבין דיפ-פייק מיני, שבו פרצופים של אנשים אמתיים נתפרים דיגיטלית על גופם של אנשים אחרים.
מרטין מספרת שהיא התמודדה עם ההשלכות של התופעה לפני 10 שנים, הרבה לפני שבינה מלאכותית הייתה קיימת, כשמישהו הדביק תמונות סלפי שלה בפוטושופ לתמונות פורנוגרפיות וסרטונים. "עם ההתקדמות הטכנולוגית בשנים האחרונות, נהיה קשה יותר להבחין בין דיפ-פייק מיני לפורנו AI", היא אומרת.
גם אם כלים אלה משמשים לביטוי וחקר המיניות, הם מטפחים ציפיות לא מציאותיות ולא בריאות סביב דימוי גוף ויחסים מיניים פשוט בגלל מאגר הנתונים שהם ניזונים ממנו. בדפדוף בארוטיקת בינה מלאכותית ברדיט ובטוויטר, עיבודים האלה משקפים סטריאוטיפים מיניים והטיות גזעיות שקיימות בתקשורת המונים. "מכיוון שהכלים האלה לומדים מתמונות שכבר נמצאות ברשת, או מטקסט שכבר נמצא שם – כאשר מבקשים מהם לייצר תמונות של מיעוטים מיניים (המוצגים פחות במדיה) – לעיתים קרובות הם מפספסים", היא אומרת.
מערכות בינה מלאכותית שמבצעות שילוב של תוכן מאתרים כמו PornHub ו-Xvideos מהוות בעיה נוספת עבור שחקנים בעלי זכויות על התוכן שלהם. שחקנים בתעשיית הבידור למבוגרים ופלטפורמות המציגות את עבודתם מרוויחים כסף ממנויים ופרסום על התוכן שלהם. אולם נכון לעכשיו, הם לא מקבלים תשלום אם התמונות שלהם משמשות ליצירת פורנו. אמנים ופלטפורמות שספגו הפסדים כספיים בגלל יצור בבינה מלאכותית נקטו בפעולה נגד כלים כמו Stable Diffusion על כך שהשתמשו בתמונות ללא תשלום.
פלטפורמת רדיט הכילה באופן היסטורי צורות אחרות של תוכן מיני מפורש ופוגעני מינית בקהילות שלה. שנים לאחר שהוסרו שרשורים שנויים במחלוקת כמו r/jailbait ו-r/creepshots, תמונות מיניות מפורשות מקהילות אסורות עדיין קיימות ברשת החברתית. "אני מרגיש שעם רדיט, אתה יכול למתוח את הגבול לגבי מה שמקובל, בצורה שאתה לא יכול בפלטפורמות אחרות", אומר כהן. "אתה לגמרי מתחת לרדאר".
