یادداشت روزنامه خلق درباره فروش انبوه کالا با «پزشکان جعلی هوش مصنوعی»: این معضل باید درمان شود
«با مصرف این دارو انسداد عروق ریشه‌کن می‌شود»، «تپش قلب، تنگی نفس و گرفتگی سینه را برطرف می‌کند»... در ویدئوهای کوتاه، «پزشکی» با روپوش سفید رو به دوربین و با اشاره به داروهای روی قفسه، چنین وعده‌هایی می‌دهد؛ ویدئوی بعدی را که باز می‌کنید، «پزشک» دیگری در اتاق معاینه نشسته و ادعا می‌کند «اثربخشی این دارو را شخصاً امتحان کرده است». این توصیه‌های ظاهراً تخصصی، کار پزشکان واقعی نیست؛ این تصاویر را شخصیت‌های مجازی و تولیدشده با هوش مصنوعی ساخته‌اند. پوستر: Chen Quanyi سوءاستفاده از چهره چهره‌های سرشناس با فناوری جعل عمیق (Deepfake) پیش از این نیز مصرف‌کنندگان بسیاری را به دام انداخته بود؛ از جعل چهره Zhang Wenhong برای فروش مکمل‌های پروتئینی گرفته تا انتساب دروغین تبلیغ محصولات روشن‌کننده پوست به Zhang Boli. اکنون اما ماجرا فراتر رفته و نیازی به چهره واقعی هم نیست؛ یک الگوریتم ساده می‌تواند از هیچ، «پزشکی» بسازد که با بیانی کاملاً تخصصی بیماری را تشریح کند و بلافاصله شیوه درمانی یا داروی خاصی را پیشنهاد دهد. در این شیوه جدید، هزینه تولید بسیار پایین‌تر، حجم محتوا بسیار بیشتر و تشخیص اصالت آن بسیار دشوارتر شده است. آیا تصویری دیجیتالی که فاقد درک زیستی و حسی است، صلاحیت تبلیغ دارو و مکمل‌های سلامت را دارد؟ قوانین در این زمینه صراحت دارند. طبق ماده ۴ قانون تبلیغات جمهوری خلق چین، تبلیغات نباید حاوی مطالب نادرست یا گمراه‌کننده باشد و فریب دادن مصرف‌کننده ممنوع است؛ ماده ۲۸ همین قانون تصریح می‌کند که هرگونه فریب و گمراه کردن مخاطب با محتوای ساختگی یا خلاف واقع، مصداق تبلیغ دروغین است. همچنین بر اساس ماده ۸ آیین‌نامه مدیریت تبلیغات اینترنتی، انتشار تبلیغات پنهان برای خدمات درمانی، دارو، تجهیزات پزشکی، غذاهای سلامت‌محور و فرمول‌های غذایی ویژه پزشکی در قالب ارائه آموزش‌های سلامت و خودمراقبتی ممنوع است. تبلیغ دارو توسط «پزشکان جعلی هوش مصنوعی» در عمل نوعی تبلیغ غیرقانونی درمانی با هویت ساختگی است و خط قرمزهای قانونی را زیر پا می‌گذارد. با این حال، پرسش این است که چرا این پدیده به‌صورت انبوه در حال گسترش است؟ نخست، ابزارهای تولید محتوا هیچ محدودیتی اعمال نمی‌کنند. تنها با بارگذاری یک عکس و وارد کردن یک دستور متنی ساده، ظرف چند دقیقه شخصیتی با ظاهر کادر درمان تولید می‌شود که به تبلیغ دارو می‌پردازد. بسیاری از نرم‌افزارها با شعار «تولید با یک کلیک» بازاریابی می‌کنند و هیچ فیلتری برای جلوگیری از تولید غیرقانونی محتوای تبلیغاتی پزشکی ندارند؛ رویکردی که ظرفیت تولید محتوای متخلفانه را به‌شدت افزایش داده است. دوم، نظارت و بازبینی در پلتفرم‌ها واکنشی و با تأخیر است. در برابر تولید صنعتی و زنجیره‌ای این محتواها، رویکرد پلتفرم‌ها اغلب محدود به حذف موارد گزارش‌شده است. حسابی مسدود می‌شود، اما گردانندگان آن با تغییر چهره مجازی و ساخت حساب کاربری تازه، بی‌درنگ فعالیت خود را از سر می‌گیرند. اقدام پس از انتشار گسترده ویدئوها، عملاً به متخلفان فرصت سوءاستفاده می‌دهد. سوم، زنجیره مسئولیت حقوقی مبهم است. شخصیت مجازی ساختگی است، اما چرخه مالی پشت آن کاملاً واقعی است. این شخصیت‌ها را چه کسی طراحی کرده است؟ چه کسی حساب‌ها را اداره می‌کند؟ سود حاصل نهایتاً به حساب چه کسانی واریز می‌شود؟ تا زمانی که تمام این حلقه‌ها به‌طور دقیق شناسایی نشوند، پیگیری قانونی نتیجه‌ای نخواهد داشت. باید تصریح شود که درج عبارت «تولیدشده با هوش مصنوعی» رافع مسئولیت قانونی نیست و در صورت وقوع تخلف، افراد واقعیِ پشت صحنه باید پاسخگو باشند. پیامدهای منفی «پزشکان جعلی هوش مصنوعی» فراتر از گمراه کردن افکار عمومی است. ترکیب عناصری چون روپوش سفید، فضای مطب، واژگان تخصصی و ارجاع به آزمایش‌های علمی، مصرف‌کننده را به این باور می‌رساند که با یک متخصص واقعی طرف است و مشاوره‌ای معتبر دریافت می‌کند. اعتماد به این محتواها می‌تواند به تأخیر در روند درمان و تشدید بیماری منجر شود؛ هزینه‌ای سنگین که جبران آن ناممکن است. برای بستن این روزنه، اقدام هماهنگ در تمام حلقه‌های این زنجیره ضروری است. ارائه‌دهندگان نرم‌افزارهای هوش مصنوعی نباید بدون نظارت به تولید محتوا بپردازند و باید برای درخواست‌های غیرقانونی مانند تبلیغ دارو توسط چهره‌های پزشکی محدودیت سیستمی بگذارند. پلتفرم‌ها نیز باید سامانه‌های مدیریت ریسک خود را ارتقا دهند و با مسدودسازی پیش‌دستانه محتوای جعل هویت پزشکان، پیش از فراگیری ویدئوها وارد عمل شوند. هم‌زمان، نهادهای نظارتی باید با ردیابی دقیق داده‌های حساب‌های کاربری، کالاها، جریان‌های مالی و سازوکارهای توزیع، ذی‌نفعان اصلی را شناسایی کرده و مسئولیت‌پذیری حقوقی را در تمامی سطوح تضمین کنند. فناوری می‌تواند هزینه تولید محتوا را کاهش دهد، اما نباید مرزهای صحت اطلاعات را مخدوش کند. تولید صنعتی و سوءاستفاده از عنوان «پزشک»، نه‌تنها اعتبار یک ویدئو، بلکه اعتماد عمومی به جامعه پزشکی را هدف قرار می‌دهد. جلوگیری از اشغال جایگاه پزشکان واقعی توسط کاراکترهای مجازی هوش مصنوعی، شرط بنیادین حفظ اعتبار تخصص‌های علمی در عصر دیجیتال است.
