משבר הקורונה הגיע גם לפייסבוק, ובעקבותיו הוחלט בחברה לשלוח גם את מנהלי התוכן לבתיהם. מכיוון שתפקיד זה אינו יכול להתבצע מהבית בגלל הגנה על פרטיות, הדבר הוביל לשימוש נרחב יותר של תוכנות בינה מלאכותית שיודעות לזהות ולהסיר תכנים פוגעניים או בעלי מידע שגוי מהאתר.
אבל כבר למחרת החלו להתפרסם דיווחים רבים שפייסבוק מסירים תכנים לגיטימיים מהאתר. למשל, תכנים של הבי.בי.סי, של באזפיד וגם תכנים של משתמשים פרטיים. הדבר מיד הוביל להאשמות שפייסבוק מצנזרת חדשות, אך להם היה הסבר אחר.
גיא רוזן, המנהל הישראלי הבכיר בפייסבוק העולמי, כתב בטוויטר: "אנחנו על זה. יש באג במערכת שלנו נגד פרסום ספאם ללא קשר לשינוי בכוח האדם של מנהלי התוכן שלנו. אנחנו בתהליך של תיקון הבאג והחזרת כל התוכן שהוסר ללא סיבה".
נכון, בעיות יכולות לקרות בעקבות באג, אבל האם זה היה קורה אילו מנהלי התוכן היו ממשיכים בעבודתם?
גם בגוגל, שבבעלותה אתר הסרטונים יוטיוב הזהירה: "כשיש פחות מנהלי תוכן שפועלים לבחון תכנים באתר, המערכות האוטומטיות שלנו נכנסות לפעילות מוגברת על מנת לשמור על האתר בטוח לגלישה. יותר סרטונים יוסרו מהרגיל בזמן הקרוב, הכוללים תכנים אשר לא פוגעים בכללים וההנחיות שלנו".
בתקופה זו, חברות כמו גוגל ופייסבוק משתמשות בתוכנות שלומדות את עבודת מנהלי התוכן, בשילוב עם מנהלים אנושיים כדי לסמן ולהסיר תכנים. המטרה היא להפסיק להסתמך על מנהלי תוכן אנושיים, למרות שיכולות התוכנות האוטומטיות עדיין לא מספיק טובות על מנת לעבוד בצורה עצמאית.
בעקבות נגיף הקורונה ומספר האנשים הרב שנאלצים להישאר בבתיהם, נוצר שימוש מוגבר – ולא על פי התכנון – בתוכנות בינה מלאכותית ובעקבותיו גם תקלות ראשוניות.
בפייסבוק טוענים כי השינוי בכוח האדם לא השפיע רק על התכנים בנושא הקורונה. "החזרנו את כל הפוסטים שהוסרו ללא סיבה מוצדקת, שכללו פרסומים בכל הנושאים – ולא רק בנושא נגיף הקורונה. זו הייתה בעיה שקשורה בקישורים לאתרים מסוימים אבל הוסרו גם פוסטים נוספים ללא קשר לאתרים אלו", הוסיף רוזן.
פייסבוק היא לא הראשונה. בשנה האחרונה הואשמו יוטיוב בכך שהורידו תכנים שלא לצורך, בין השאר ע"י קבוצות פעילי זכויות אדם שפירסמו סרטונים המציגים פשעי מלחמה, אך הוסרו בטענה שהיו אלימים וקיצוניים.
ריק פרגסון, סמנכ"ל מחקרי אבטחה בחברת מיקרו טרנד צייץ בטוויטר: "מכונות אוטומטיות הושארו ללא השגחה, ובינה מלאכותית עדיין נמצאת בשלבי הלימוד שלה".
הוא הוסיף, כי "האתגר המרכזי הוא בין רגישות לספציפיות. כלומר, המכונות יודעות למצוא תוכן שלילי שצריך להסירו, אך הן יסירו תוכן נוסף שלא לצורך. עובדים אנושיים יודעים לבחון בחינה משנית את המאגר שיצרה המכונה ולהחזיר את התכנים שהוסרו ללא צורך. ביחד, התוכנה האוטומטית ובוחנים אנושיים יוצרים תוצאות מעולות. אם נעביר הכל לתוכנה, התוצאות לא יהיו טובות. בני אנוש עדיין משחקים תפקיד משמעותי, כאשר האלגוריתם טועה".
אז בסביבת עבודה מגבילה כל כך בעקבות מגיפת הקורונה, שאף חברה לא צפתה, מה פייסבוק יכולים לעשות? "פייסבוק צריכים למצוא פתרון זמני שיוכל לאפשר גישה אנושית לתהליך, שיוכל להמשיך ללא תקלות", מציע פרגסון. אך עד שזה יקרה תצפו למצוא עוד תקלות וטעויות ברשתות חבריות ובפלטפורמות טכנולוגיות נוספות.
