یادداشت تحلیلی | ساماندهی ویدیوهای ساختگی؛ پلتفرم‌ها چگونه می‌توانند هم بازیکن باشند و هم داور؟
تحلیل‌گر ارشد پنگ‌پای: Li Qinyu
۲۶ اکتبر ۲۰۲۶، ساعت ۱۱:۴۷
منبع: پنگ‌پای
هنوز چندی از ماجرای سوءاستفاده از سالمندان با شخصیت هوش مصنوعی «پسرک رنج‌دیده Xiao Hai» نگذشته بود که اخیراً CCTV از حقیقت ماجرای «Xiao Xiu، زن بی‌خانمان» پرده برداشت: در ماه اوت سال جاری، ویدیویی در فضای مجازی منتشر شد که در آن یک «زن بی‌خانمان» با وضعیت نامساعد به‌طور «تصادفی» پیدا می‌شود؛ از آن پس، این زن به شخصیت اصلی ویدیوهای پیاپی یک تولیدکننده محتوا تبدیل شد. با بررسی‌های پلیس مشخص شد دو فرد حاضر در ویدیو، یعنی Zheng و Liu، در واقع زن و شوهر هستند و برای جلب بازدید، از چندین حساب کاربری برای انتشار مجموعه‌ای از ویدیوها با عنوان «امدادرسانی به زن بی‌خانمان در اعماق کوهستان» استفاده کرده و در پخش‌های زنده به فروش کالا پرداخته‌اند. در حال حاضر، این دو نفر در بازداشت اداری به سر می‌برند.
در سال‌های اخیر، انواع ویدیوهای صحنه‌سازی‌شده و ساختگی مکرراً پدیدار شده‌اند؛ محتواهایی که با سوءاستفاده مغرضانه از عواطف عمومی در پی کسب منافع اقتصادی‌اند و درد و رنج معیشتی مردم را ابزار بازاریابی اینترنتی قرار می‌دهند. این اقدام نه‌تنها خشم و دلزدگی گسترده مخاطبان را برانگیخته، بلکه جدیت مسائل و مطالبات عمومی را نیز پیوسته تضعیف می‌کند و به یک معضل مزمن در برهم زدن فضای افکار عمومی آنلاین تبدیل شده است. بسیاری از مردم می‌پرسند: آیا هیچ راهی برای برخورد با ویدیوهای ساختگی وجود ندارد؟
به نظر می‌رسد صدور این‌گونه اطلاعیه‌ها از سوی پلتفرم‌ها نوعی «کارنامه موفقیت» برای ارائه به افکار عمومی باشد؛ اما واقعیت این است که اقدامات نظارتی پلتفرم‌ها تنها پس از افشاگری رسانه‌ها و بالا گرفتن انتقادها صورت می‌گیرد و بسیار دیرهنگام است. باید توجه داشت که پیش از این، شبکه‌ای از حساب‌های مرتبط با «Xiao Hai» سود هنگفتی از کاربران میانسال و سالمند به دست آورده بودند؛ تا جایی که حتی مواردی افراطی از تصمیم برخی سالمندان برای پیمودن هزاران کیلومتر جهت ملاقات حضوری با این شخصیت ساخته‌شده با هوش مصنوعی گزارش شد. به همین ترتیب، ماجرای «Xiao Xiu، زن بی‌خانمان» نیز از ماه اوت تا همین اواخر برای مدتی طولانی در اینترنت دست‌به‌دست می‌شد.
با نگاهی به نمونه‌های مشابه متعدد در سال‌های اخیر، بسیاری از پلتفرم‌ها ابتدا اجازه می‌دهند ویدیوهای ساختگی بازدید جذب کنند و پس از به بار آمدن جنجال، برای مهار بحران وارد عمل می‌شوند و در نهایت با انتشار یک اطلاعیه ادعا می‌کنند که «اوضاع تحت نظارت است».
منصفانه که بنگریم، پلتفرم‌ها در نظارت بر ویدیوهای ساختگی با دشواری‌هایی روبه‌رو هستند: نخست آنکه روزانه حجم عظیمی از محتوا در پلتفرم‌ها بارگذاری می‌شود و حجم کار بررسی و پالایش بسیار سنگین است؛ دوم اینکه بسیاری از این حساب‌ها در ابتدا صرفاً داستان‌های احساسی و رقت‌انگیز را زمینه‌چینی می‌کنند بدون آنکه نشانه‌ای از فروش کالا بروز دهند، و پس از جذب دنبال‌کنندگان کافی، فرآیند کسب درآمد و فروش را آغاز می‌کنند. این موضوع نیز شناسایی پیش‌دستانه را برای پلتفرم دشوار می‌سازد.
با این حال، دشوار بودن شناسایی به معنای ناممکن بودن آن نیست. برای نمونه، در مورد «پسرک رنج‌دیده Xiao Hai»، با چهره‌ای یکنواخت از هوش مصنوعی، روایتی غم‌انگیز با الگویی ثابت و ادبیاتی کاملاً تکراری روبه‌رو بودیم که همگی کاربران را با عناوینی چون «خاله و مادر» خطاب می‌کردند و بخش نظرات نیز غالباً پر از کاربران میانسال و سالمند بود. با انباشت چنین شاخص‌های پرخطری، آیا پلتفرم‌هایی با این توانمندی‌های پیشرفته فنی واقعاً قادر به دیدن آن‌ها نبودند؟
نکته تأمل‌برانگیز اینجاست که داستان‌های رقت‌انگیز و مظلوم‌نمایی در ویدیوهای ساختگی به دلیل تعامل بالای کاربران، توسط الگوریتم‌های پلتفرم شناسایی و حتی بیش از پیش ترویج می‌شوند. اگر چنین سازوکار الگوریتمی پیشرفته‌ای فعال است، چگونه در مواجهه با محتوای پرخطر و مشکوک، توانایی تشخیص آن از کار می‌افتد؟
بهره‌مندی از منافع ترافیک اینترنتی از یک سو و ورود دیرهنگام به عنوان مهارکننده بحران پس از شکل‌گیری موج افکار عمومی از سوی دیگر—و حتی بالیدن به نتایج این برخوردها—چیزی نیست که جامعه انتظار دارد، و هرگز نمی‌تواند ریشه این نابسامانی ناشی از محتوای ساختگی را بخشکاند. اکنون که قدرت توزیع محتوا در اختیار پلتفرم‌هاست، آن‌ها نمی‌توانند هزینه شناسایی خطرات را بر دوش رسانه‌ها و افکار عمومی بگذارند و تنها پس از فراگیر شدن کلاهبرداری، به مسدودسازی حساب‌ها و صدور بیانیه روی آورند و با ادبیات کلیشه‌ایِ «برخورد مطابق با مقررات»، از خود سلب مسئولیت کنند.
تکرار مداوم این نوع ویدیوهای ساختگی و مظلوم‌نمایی در طول این سال‌ها به‌روشنی نشان می‌دهد که سازوکارهای نظارت پیشینی و کنترل ریسک در پلتفرم‌ها کارایی محدودی دارند. وقتی پلتفرم‌ها هم‌زمان مروج ویدیوهای ساختگی و داور نظارت بر محتوا باشند، انگیزه‌ای برای نظارت پیش‌دستانه نخواهند داشت. بی‌تردید زمان آن فرارسیده است که این زیست‌بوم دگرگون شود.
بر اساس گزارش‌ها، پلتفرم‌ها در واکنش به معضل هویت‌های ساختگی در ویدیوهای کوتاه، نظارت عمیق‌تری را آغاز کرده‌اند و تاکنون بیش از ۲۰ هزار حساب متخلف را مسدود و افزون بر ۴۷ هزار ویدیوی ناقض قوانین را حذف کرده‌اند؛ اقدامی که نشانه‌ای مثبت به شمار می‌رود.