متا از حذف ویدیوهای تولید شده توسط هوش مصنوعی از لمس نامناسب مربیان ورزشکاران جوان در زمانی که کاربران آنها را گزارش می دهند خودداری می کند.

هشدار محتوا: این داستان حاوی توضیحات و تصاویر سانسور شده توسط هوش مصنوعی از خشونت جنسی است.

فیس بوک میزبان تعداد زیادی حساب است که به محتوای تولید شده توسط هوش مصنوعی اختصاص داده شده است که مربیان را به صورت نامناسب با ورزشکاران زن جوان لمس می کنند – و متا آنها را حذف نمی کند، حتی اگر مستقیماً توسط کاربران گزارش شوند.

در ویدیوهایی که حساب‌ها به اشتراک می‌گذارند، مربیان مردان مسن‌تر هستند. آن‌ها در سالن‌های بدنسازی و استودیوهای رقص، ورزشکارانی که لباس‌های پلنگ‌پوش دارند، در حال تمرین ژیمناستیک، باله و یوگا هستند. همه ورزشکاران جوان زن یا دختر هستند. اگرچه سن دقیقی ذکر نشده است، اما به نظر می رسد برخی از آنها در سنین نوجوانی هستند و گاهی اوقات با بریس هایی روی دندان هایشان نشان داده می شود.

در کلیپ های تولید شده توسط هوش مصنوعی، که تقریباً واقعی هستند، ورزشکاران اغلب در حال تعریق زیاد و تنفس مشکوک به تصویر کشیده می شوند. مربی‌ها هنگام کشش یا تمرین ژست‌ها، دست‌های خود را روی کمر و قسمت داخلی ران‌ها می‌کشند، بدن‌شان را نوازش می‌کنند و فشار می‌دهند و گاهی اوقات به پایین یا سینه‌هایشان دست می‌زنند. در برخی ویدیوها، چهره های اقتدار مسن نشان داده می شود که اندام تناسلی دختران را بر روی لباس هایشان لمس می کنند. ویدیوهای ترسناک بیشتر ورزشکارانی را نشان می‌دهد که روی پاهای مربی نشسته‌اند یا مربیانی که روی دهان او می‌بوسند.

دخترانی که با هوش مصنوعی در این کلیپ‌ها ظاهر می‌شوند طوری واکنش نشان می‌دهند که گویی لمس کردن طبیعی است، اغلب در هنگام بروز این رفتار مضر لبخند می‌زنند و می‌خندند.

اما لمس نشان داده شده در فیلم ها عادی نیست. از غیرضروری تا نامناسب تا کاملا توهین‌آمیز را شامل می‌شود که منعکس‌کننده نوع سوءاستفاده جنسی در دنیای واقعی و قاب‌بندی است که در ورزش‌هایی که آنها به تصویر می‌کشند و به طور کلی در ورزش‌های دو و میدانی زنان شایع است.

کیم شور، یک ژیمناستیک و حامی ورزش ایمن که با ژیمناست ها برای تغییر بین المللی مشورت می کند، گفت: “من واقعاً این مطالب را توهین آمیز می دانم. این تصاویر سوء استفاده بین مربیان و ورزشکاران جوان را در یک محیط ورزشی که در آن عدم تعادل قدرت قابل توجهی وجود دارد، جنسی و عادی می کند.” آینده پژوهی پس از بررسی چندین حساب که محتوای هوش مصنوعی را پست می کنند. “آنچه به خصوص نگران کننده است این است که چگونه رفتار نامناسب یا توهین آمیز می تواند به راحتی به عنوان رفتار مربی بازیگوش، محبت آمیز یا مفید پنهان شود. این امر برخی از روایت هایی را تقویت می کند که ده ها سال به سوء استفاده در ورزش رونق داده است.”

اما طبق سیستم تعدیل فیس بوک، ویدیوهای مزاحم استانداردهای متا را نقض نمی کنند.

با استفاده از یک حساب معمولی فیس بوک، ما به پلتفرم رسانه های اجتماعی به ده حساب مختلف هشدار دادیم که این نوع محتوا را پست می کنند و آنها را برای محتوای بزرگسالان و استثمار جنسی گزارش می دهند. یک هفته بعد، اخطاریه‌هایی از فیس‌بوک دریافت کردیم مبنی بر اینکه هشت حساب کاربری خط‌مشی‌های سایت را نقض نمی‌کنند و از پلتفرم حذف نمی‌شوند. (دو تا از حساب ها ناپدید شدند، اگرچه مشخص نیست که آیا این ربطی به گزارش های ما داشته است یا خیر.)

هر یک از هشت اعلان‌های یکسان می‌گوید: “ما از ترکیبی از فناوری و بازبین‌های انسانی برای پردازش گزارش‌ها و شناسایی محتوایی استفاده می‌کنیم که استانداردهای جامعه ما را نقض می‌کند. برای اینکه فرآیند بررسی خود را تا حد امکان منصفانه نگه داریم، از مجموعه استانداردهای انجمن برای بررسی همه گزارش‌ها استفاده می‌کنیم.” ما بررسی کردیم و متوجه شدیم که صفحه استانداردهای جامعه ما را نقض نمی کند.

آنها افزودند: “ما درک می کنیم که این می تواند ناراحت کننده باشد، بنابراین توصیه می کنیم گزینه های موجود را برای کنترل آنچه می بینید بررسی کنید.”

برخی از این کلیپ‌ها – که هر کدام می‌توانند بیش از 100000 بازدیدکننده داشته باشند – به‌طور نازک به عنوان آموزشی پوشیده شده‌اند، که به این معناست که مربیان درنده به دختران کمک می‌کنند تا تکنیک‌های خود را بهبود بخشند.

یک مربی در یک ویدیو به یک بالرین جوان در حالی که دستانش را به سمت اندام‌های خصوصی او حرکت می‌دهد، می‌گوید: «لگن خود را صاف نگه دارید».

او با خونسردی بدون تکان دادن پاسخ می دهد: «سعی می کنم».

سایر حساب ها تلاش کمی برای پنهان کردن مقاصد محتاطانه خود انجام می دهند. یکی تقریباً 20 نسخه کمی متفاوت از همان ویدئوی هوش مصنوعی را منتشر کرد که یک مربی سالخورده را به تنهایی با یک ژیمناستیک با لباس پلک نشان می‌داد که سنی بیشتر از یک نوجوان نداشت. در نظرات هر کلیپ، پوستر از بینندگان می‌خواهد که برای «زیباترین تماس ویدیویی» روی پیوندی که یک کانال «فقط اعضا» در واتس‌اپ را تبلیغ می‌کند – پلتفرم دیگری متعلق به متا – کلیک کنند. تصویر هدر یک حساب دیگر، دست یک مربی مرد را مستقیماً روی فاق یک ژیمناستیک جوان نشان می‌دهد که در حال انجام یک پایه دوشاخه است.

متا در دستورالعمل‌های انجمن خود برای برهنگی و فعالیت جنسی بزرگسالان می‌گوید محتوایی را ممنوع می‌کند که «فعالیت جنسی قریب‌الوقوع را نشان می‌دهد، همانطور که با موقعیت‌هایی نشان می‌دهد که نشان می‌دهد قرار است تماس بین دست فرد… با دستگاه تناسلی یا مقعد شخص دیگر آغاز شود». با توجه به دستورالعمل‌های «استثمار جنسی از بزرگسالان»، دستورالعمل‌های آن بیان می‌کند که آنها مطالبی را ممنوع می‌کنند که در آن «فردی در تصاویر (تقریباً) برهنه است، درگیر فعالیت‌های جنسی یا حالتی تلقین‌کننده جنسی است (این شامل تصاویر ایجاد شده به‌صورت دیجیتالی یا تولید شده توسط هوش مصنوعی است).»

متا در مورد «استثمار، آزار و برهنگی جنسی از کودکان» می‌گوید «محتوای (شامل عکس‌ها، فیلم‌ها، هنرهای دنیای واقعی، محتوای دیجیتال و تصاویر شفاهی) که کودکان واقعی یا غیرواقعی را جنسی می‌کند، و همچنین «تحریک ناحیه تناسلی یا مقعدی، از جمله زمانی که فعالیت فوری یا مستقیماً قابل مشاهده نیست» را ممنوع می‌کند.

پس از دریافت پیام‌های پشتیبانی مبنی بر اینکه ویدیوهای هوش مصنوعی استانداردهای جامعه متا را نقض نمی‌کنند، با تیم روابط رسانه‌ای متا تماس گرفتیم و پیوندهایی را به حساب‌هایی که گزارش کرده بودیم به اشتراک گذاشتیم و پرسیدیم که چرا محتوا دستورالعمل‌های غول رسانه‌های اجتماعی را نقض نمی‌کند. مدت کوتاهی پس از تماس با ما، متوجه شدیم که تمام صفحات حذف شده اند و چندین پیام پشتیبانی که قبلا دریافت کرده بودیم با یک پاسخ جدید به روز شده اند.

در پیام جدید آمده است: «صفحه ای را که گزارش کردید حذف کردیم». ما صفحه را بررسی کردیم و متوجه شدیم که آن را برخلاف استانداردهای جامعه ما است.»

متا در بیانیه ای گفت آینده پژوهی که “چه واقعی باشد چه تولید شده توسط هوش مصنوعی، محتوایی که سوء استفاده یا بهره برداری را به تصویر می کشد، جایی در پلتفرم های ما ندارد. ما این حساب ها را به دلیل نقض خط مشی های خود حذف کرده ایم.”

اما تنها زمانی که یک روزنامه نگار با او تماس گرفت، متا ارزیابی اولیه خود را مبنی بر اینکه این صفحات خط‌مشی‌هایش را نقض نمی‌کنند پس گرفت، غفلتی که نگرانی‌های جدی در مورد شیوه‌های تعدیل شرکت و اثربخشی سیاست‌های گزارش‌دهی در دسترس کاربران عادی ایجاد می‌کند. چرا این محتوا زمانی که توسط یک گزارشگر مطرح شد با استاندارد متفاوتی نسبت به زمانی که توسط یک دارنده حساب عادی از طریق کانال های رسمی فیس بوک پرچم گذاری شد، حفظ شد؟

متا در پاسخ به سوالی درباره تفاوت بین پاسخ خود به یک کاربر پلتفرم در مقابل تحقیق رسانه ای، از سابقه خود در حذف مطالب توهین آمیز از پلتفرم خود دفاع کرد.

در این بیانیه آمده است: «در حالی که مواقعی وجود دارد که چیزهایی را از دست می‌دهیم، ما سخت تلاش می‌کنیم تا سیاست‌های خود را اجرا کنیم، همانطور که این واقعیت نشان می‌دهد که تنها در سه ماهه گذشته، 98 درصد پست‌های در معرض خطر کودکان را قبل از اینکه به ما گزارش شود، به طور فعال پیدا کرده و حذف کردیم.»

پس از گزارش صفحه‌های توهین‌آمیز، الگوریتم توصیه فیس‌بوک شروع به پخش ویدیوهای مشابه هوش مصنوعی از مربیانی کرد که ورزشکاران جوان را به‌طور نامناسبی لمس می‌کردند، می‌بوسیدند و در فید حسابی که برای پرچم‌گذاری آن استفاده می‌کردیم. نتیجه تلخ است: متا فناوری مورد نیاز برای شناسایی کلیپ های مزاحم را دارد، اما به جای استفاده از آن برای سرکوب محتوا، از آن برای توصیه بیشتر مطالب به کاربرانی که با آن در تعامل هستند استفاده می کند.

حساب‌ها معمولاً روزانه چندین ویدیو تقریباً مشابه با هوش مصنوعی ارسال می‌کنند که برخی از ویدیوها تعداد زیادی بازدید را به خود اختصاص می‌دهند. یکی از ویدیوهایی که پس از به اشتراک گذاشتن متا بیانیه خود در اختیار ما قرار گرفت و تنها دو روز پس از ارسال آن بیش از 176000 بازدید داشت.

دختری که یک شلوار صورتی و جوراب های همسان پوشیده است، در حالی که یک مربی مو خاکستری به اندام تناسلی او می زند روی یک پا ایستاده و پای دیگر را در هوا نگه داشته است، به دوربین می گوید: “من واقعا از این جلسه لذت بردم. اکنون احساس شادابی و احساس مثبتی دارم.” هشتگ‌هایی که در توضیح ویدیو وجود دارد عبارتند از: «#ballettok»، «#ballerina» و «#balletmemes».

تصور اینکه برخی از ویدئوها توسط الگوریتم‌های متا به ورزشکاران جوان واقعی ارائه نشود، سخت است، و این خطر را افزایش می‌دهد که در حین بررسی امکان بهره‌برداری در دنیای واقعی، شاهد رفتارهای عادی‌سازی شده و رفتارهای سوءاستفاده باشند.

شور گفت: “من بسیار نگران هستم که کودکانی که در معرض این محتوا هستند این پیام را دریافت کنند که اگر چنین چیزی برای آنها اتفاق بیفتد، باید آن را تحمل کنند زیرا در چنین محیطی عادی شده است… آنها مجبور خواهند شد خرد ذاتی خود را که این نوع تماس با یک بزرگسال مشکلی ندارد، بیشتر سرکوب کنند.” ورزش در حال حاضر با عادی سازی ناراحتی بدنی به عنوان تمرین آسیب دیدگی، این کار را با کودکان انجام می دهد. به ورزشکاران جوان آموزش داده می شود که به مربیان خود اعتماد کنند، دستورالعمل ها را دنبال کنند و تماس بدنی را به عنوان بخشی از تمرین بپذیرند. این تصاویر این ایده خطرناک را تقویت می کند که لمس کردن یا رفتار جنسی نامناسب صرفاً بخشی از رابطه مربی-ورزشکار است و ورزشکاران باید آن را بپذیرند، تحمل کنند یا حتی از توجه قدردانی کنند.

شور اضافه کرد که یکی از “بزرگترین نگرانی” او این است که شکارچیان دنیای واقعی بتوانند رفتار خود را بر اساس مطالب توهین آمیز منتشر شده در فیس بوک مدل کنند.

او گفت: “این مطالب تولید شده توسط هوش مصنوعی به عنوان یک دستورالعمل برای رفتارهای نامناسب عمل می کند، به ویژه زمانی که تعاملات توهین آمیز به عنوان تمرین های ساده مربیگری یا ابراز مراقبت ارائه می شود. این خطر به بزرگسالانی که قبلاً مستعد استفاده از قدرت خود هستند، نمونه هایی از نحوه پنهان کردن سوء استفاده را به عنوان آموزش مشروع، محبت یا بازیگوشی می دهد.” “ما باید بدانیم که این مطالب به‌صورت مجزا وجود ندارد. در فرهنگ ورزشی که ورزشکاران از لحاظ تاریخی مشروط به انطباق با اقتدار بوده‌اند، جایی که مرزها اغلب مبهم بوده‌اند و سوء استفاده اغلب به حداقل رسیده یا توجیه شده‌اند، منتشر می‌شود.”

او افزود: «این محتوا رفتارهایی را عادی می‌کند که تلاش‌های حمایتی دهه‌ها در تلاش برای به چالش کشیدن آن‌ها بوده است».

مانند آینده پژوهی قبلا گزارش شده بود، متا همچنین از حذف محتوای تولید شده توسط هوش مصنوعی که آزار فیزیکی شدید کودکان را به تصویر می‌کشد، خودداری کرد. این شرکت در جاهای دیگر نتوانسته است صدها تبلیغ پولی حاوی مطالب آزار جنسی کودکان واقعی و تولید شده توسط هوش مصنوعی را دریافت کند، زیرا با کابل در سپتامبر گزارش شده است. متا سال گذشته پس از آن نیز با واکنش های منفی مواجه شد رویترز اسناد داخلی را گزارش می دهد که بیان می کند که چت بات های متا مجاز هستند “کودک را در گفتگوهای عاشقانه یا شهوانی درگیر کنند.”

ورزش های زنان و جوانان شکارگاه های بدنام قلدرها هستند. بر اساس یک نظرسنجی جهانی در سال 2021 توسط انجمن جهانی بازیکنان، 13 درصد از کودکان ورزشکار در طول مدتی که در ورزش بوده اند، نوعی آزار جنسی را تجربه کرده اند. این رقم احتمالا دست کم گرفته شده است زیرا TIME در آن زمان اشاره شد، با توجه به اینکه سوء استفاده جنسی اغلب گزارش نمی شود.

در این زمینه، ویدیوهای فیس بوک تولید شده توسط هوش مصنوعی از مردان مسن که از نزدیکی خود به بدن دختران و زنان برای شکل دادن، جنسی و استثمار آنها سوء استفاده می کنند، به ویژه وحشتناک است. اینکه ورزشکارانی که در ویدیوها به تصویر کشیده می شوند نشان داده می شوند که در مواجهه با شکارچیان مشتاقانه رفتار می کنند، حتی بدتر است، و به برخوردهای آشکارا استثمارگرانه نشان داده شده در کلیپ های تولید شده توسط هوش مصنوعی، فضایی از عادی سازی – یا حتی عاشقانه را اضافه می کند.

اما به‌نظر می‌رسد متا به‌جای جدی گرفتن مسئولیت‌های خود در قبال پلتفرم خود، تحت دو استاندارد متفاوت عمل می‌کند: حذف کاربران معمولی که مطالب آزاردهنده را گزارش می‌کنند در حالی که وقتی تهدید توجه منفی را احساس می‌کنند وارد عمل می‌شوند.

آیا چیزی در مورد استراتژی تعدیل محتوای متا می دانید؟ به ما ایمیل بزنید: tips@futurism.com. ما می توانیم شما را ناشناس نگه داریم.

اطلاعات بیشتر در مورد تعدیل محتوای متا و هوش مصنوعی: فیس بوک میزبان تعداد زیادی ویدیوی وحشتناک از کودک آزاری تولید شده توسط هوش مصنوعی است و متا به سختی وانمود می کند که به حذف آنها اهمیت می دهد.