هوش مصنوعی در مسیر پیشی‌گرفتن از پژوهشگران؛ آزمونی تازه برای قواعد حاکم بر پژوهش علمی

با افزایش توانمندی عامل‌های هوش مصنوعی (AI Agents) در انجام مستقل پژوهش‌های علمی، دانشمندان با پرسشی روبه‌رو شده‌اند که زمانی غیرقابل‌تصور بود: آیا دستاوردهای پژوهشی آن‌ها پیش از انتشار، به نام هوش مصنوعی ثبت و منتشر خواهد شد؟ طی پنج هفته گذشته، دست‌کم دو رخداد مشابه ثبت شده است؛ مسائلی که دانشمندان سال‌ها در پی پاسخ به آن‌ها بوده‌اند، ناگهان توسط شرکت‌های هوش مصنوعی حل شده یا درست پیش از انتشار رسمی دستاوردهای این پژوهشگران، پاسخ آن‌ها علنی شده است. نگرانی از دسترسی سیستم‌های هوش مصنوعی به داده‌ها و یافته‌های منتشرنشده، برخی دانشمندان را بر آن داشته است تا استفاده از این ابزارها را کاهش دهند. در همین حال، گروهی از پژوهشگران هوش مصنوعی بر این باورند که با ارتقای مستمر قابلیت‌های این عامل‌ها، طبیعی است که آن‌ها در مواردی حتی زودتر از انسان‌ها به پاسخ دست یابند. با افزایش توانمندی پژوهشی عامل‌های هوش مصنوعی، برخی پژوهشگران نگران‌اند که دستاوردهای علمی آن‌ها نه‌تنها از سوی رقبای انسانی، بلکه توسط ربات‌ها تصاحب شود. منبع تصویر: وب‌سایت Nature هم‌پوشانی و تلاقی پژوهش‌های دانشمندان با هوش مصنوعی در حوزه ریاضیات، Tristan Buckmaster، ریاضیدان New York University در آمریکا، به مدت یک سال با Levent Alpoge، ریاضیدان شرکت هوش مصنوعی Anthropic، بر روی مسئله ناویر-استوکس همکاری می‌کرد. در تاریخ ۷ سپتامبر، Buckmaster پیشرفت پژوهش خود را همراه با نسخه‌ای ساده‌شده از مقاله حل این مسئله منتشر کرد. درست یک روز بعد، OpenAI اعلام کرد که عامل هوش مصنوعی این شرکت موفق به حل این معمای نامدار ریاضی شده است. Buckmaster در پی این رویداد این پرسش را مطرح کرد که آیا اطلاعاتی که او و همکارش پیش‌تر وارد ابزارهای OpenAI کرده بودند، برای آموزش مدل‌ها به کار رفته است؟ OpenAI با رد این فرضیه اعلام کرد که پژوهشگران و عامل‌های هوش مصنوعی این شرکت پیش از انتشار عمومی نتایج، به هیچ‌یک از این یافته‌ها دسترسی نداشته‌اند. در حوزه زیست‌شناسی نیز مناقشه مشابهی شکل گرفت. در ۲۳ سپتامبر، Anthropic اعلام کرد که عامل هوش مصنوعی آن یعنی Claude، سامانه آنزیمی جدیدی را کشف کرده و آن را «ترانس‌کریپتاز معکوس وابسته به آرایه» (ART) نامیده است. این شرکت اعلام کرد Claude از طریق تحلیل توالی‌های گسترده DNA دریافته است که در مجاورت برخی ترانس‌کریپتازهای معکوس، توالی‌های تکراری شبیه به CRISPR وجود دارد. چند روز بعد، Mario Rodriguez-Mestre، دانشجوی دکتری زیست‌شناسی محاسباتی در University of Copenhagen دانمارک، این ادعا را به چالش کشید؛ او و همکارانش از سال ۲۰۲۲ روی آنزیم‌های مشابه کار می‌کردند و طی چند سال گذشته برای انجام وظایف پژوهشی از Claude استفاده کرده و داده‌های منتشرنشده خود را با آن به اشتراک گذاشته بودند. دستاورد اعلام‌شده از سوی Claude هم‌پوشانی آشکاری با پژوهش‌های پیشین این گروه داشت، به‌ویژه در بخش توالی‌های تکراری مجاور ترانس‌کریپتاز معکوس و مولکول‌های مرتبط. با این حال، او تأکید کرد که نمی‌توان با قطعیت گفت کشف Anthropic تحت تأثیر این تحقیقات بوده است و مدرکی مبنی بر استفاده مستقیم این شرکت از داده‌های منتشرنشده در دست نیست. Anthropic در پاسخ تصریح کرد که از وجود پژوهش‌هایی با یافته‌های زیستی مشابه بی‌اطلاع بوده است و سهم شاخص Claude را شناسایی این نکته دانست که آنزیم‌های یادشده بخشی از یک سامانه بزرگ‌تر هستند. این شرکت همچنین افزود که سوابق گفت‌وگوهای کاربران به هیچ وجه برای آموزش مدل Claude استفاده نمی‌شود. Financial Times در این زمینه یادآور شد که چنین رویدادهایی مجموعه‌ای از پرسش‌های بنیادین را پیش کشیده است: مالکیت و کنترل داده‌های علمی در اختیار کیست؟ هنگامی که پژوهشگری ایده‌های منتشرنشده خود را در اختیار یک عامل هوش مصنوعی می‌گذارد، کدام بخش از یافته‌ها را می‌توان کشف مستقل هوش مصنوعی به شمار آورد؟ و در دورانی که پیشرفت‌های علمی با تکیه بر هوش مصنوعی حاصل می‌شود، اعتبار و حق انتساب این دستاوردها چگونه باید تعیین شود؟ محدودیت‌های وضع‌شده از سوی پژوهشگران برای استفاده از هوش مصنوعی Sandra Laurentino، متخصص اپی‌ژنتیک تولیدمثل در University of Münster آلمان، می‌گوید اکنون تنها برای خطایابی کدهای برنامه‌نویسی از هوش مصنوعی بهره می‌برد و پیش از بارگذاری، نام متغیرها و پارامترها را به برچسب‌های عمومی تغییر می‌دهد تا جزئیات آزمایش‌ها در سیستم فاش نشود. Samuel Meer، دانشمند حوزه شناخت شنیداری در University of Auckland نیوزیلند، دستورالعملی را برای آزمایشگاه خود تدوین کرده است که بارگذاری اطلاعات محرمانه در مدل‌های زبانی بزرگ تجاری را برای دانشجویان ممنوع می‌کند و به آن‌ها هشدار می‌دهد از این مدل‌ها در فرایندهای پژوهشی استفاده نکنند. به باور او، واگذاری مالکیت معنوی به سرویس‌های تجاری هوش مصنوعی، تا زمانی که نحوه مدیریت داده‌ها توسط اشخاص ثالث مشخص نباشد، ریسک بالایی به همراه دارد. حتی انصراف از اشتراک داده‌ها برای آموزش مدل‌ها (Opt-out) نیز نگرانی پژوهشگران را به‌طور کامل رفع نکرده است. David Krueger، پژوهشگر هوش مصنوعی و بنیان‌گذار سازمان غیرانتفاعی Evitable، اشاره می‌کند که حتی در صورت انصراف از آموزش مدل‌ها یا استفاده‌نکردن مطلق از این سامانه‌ها، امنیت داده‌ها به طور قطعی تضمین نمی‌شود. این ریسک‌ها ساختار مدیریت پژوهش را نیز تحت‌الشعاع قرار داده است. بنا به گزارش Financial Times، اگر داوران علمی پروپوزال‌های محرمانه گرنت‌های پژوهشی را برای ارزیابی در مدل‌های هوش مصنوعی بارگذاری کنند، ایده‌های افشانشده در معرض خطر قرار می‌گیرند. در واکنش به این امر، نهادهای حامی پژوهش نظیر Wellcome Trust در بریتانیا، چنین اقداماتی را ممنوع اعلام کرده‌اند. ضرورت قانون‌مندسازی حضور هوش مصنوعی در پژوهش‌های علمی آیا هوش مصنوعی پیش از انسان‌ها به همه پاسخ‌ها دست خواهد یافت؟ Jeffrey Owen، دانشمند ارشد مؤسسه پژوهشی امنیت هوش مصنوعی Resolution در برکلی کالیفرنیا، معتقد است حتی اگر عامل‌های هوش مصنوعی هرگز به داده‌های خصوصی دانشمندان دسترسی پیدا نکنند، «دریای دانش» انباشته‌شده توسط بشر برای رسیدن به اکتشافات تازه توسط آن‌ها کفایت می‌کند. با افزایش توان استدلال این ابزارها، دانشمندان بارها شاهد خواهند بود که هوش مصنوعی پیش از آن‌ها پاسخ مسائل را یافته است. Owen تأکید دارد که پیش‌دستی هوش مصنوعی در کشف‌های علمی لزوماً ناشی از افشای مقالات منتشرنشده نیست، بلکه می‌تواند حاصل توانایی فزاینده این ابزارها در حل مسئله باشد. شرکت OpenAI از اظهارنظر درباره این پیش‌بینی خودداری کرد و Anthropic نیز پاسخی به آن نداد. با وجود این، پیش‌دستی در ارائه پاسخ، به معنای پیشبرد مستقل فرایند اکتشاف علمی نیست. Sara Hooker، پژوهشگر هوش مصنوعی و از هم‌بنیان‌گذاران استارتاپ Adaption در سانفرانسیسکو، معتقد است عامل‌های هوش مصنوعی هنوز در طرح پرسش‌های محوری که لازمه پیشرفت علم است توانایی کافی ندارند و دانشمندان همچنان در طرح فرضیه‌ها و تعیین مسیرهای پژوهشی نقشی بنیادین ایفا می‌کنند. با تعمیق نفوذ هوش مصنوعی در فعالیت‌های علمی، قواعد و هنجارهای حاکم بر پژوهش باید با این واقعیت تازه همگام شوند. نشریه Nature در سرمقاله ۱۶ سپتامبر خود اعلام کرد که شرکت‌های هوش مصنوعی باید برای تدوین سازوکارهای شفاف و قابل‌اعتماد در تخصیص سهم دستاوردها با جامعه علمی همکاری کنند و سلامت پژوهش را از طریق اعتبارسنجی مستقل، افزایش شفافیت فرایندها و به رسمیت شناختن مطالعات پیشین حفظ نمایند. مقاله‌ای مروری که در ۷ اکتبر در نشریه Frontiers in Genetics منتشر شد نیز تأکید دارد دانشمندانی که از عامل‌های هوش مصنوعی استفاده می‌کنند باید بر کار این سامانه‌ها نظارت کامل داشته باشند، نقش آن‌ها را در پژوهش اعلام کنند و مسئولیت نتایج را بر عهده بگیرند. از آنجا که هوش مصنوعی توان پذیرش مسئولیت اخلاقی و علمی را ندارد، نباید در شمار نویسندگان مقالات علمی قرار گیرد. در چشم‌انداز آینده، تعیین دقیق سهم مشارکت‌ها، تضمین اعتبارسنجی یافته‌ها و شفاف‌سازی مرزهای مسئولیت میان دانشمندان و شرکت‌های هوش مصنوعی، چالش‌هایی است که جامعه علمی ناگزیر از مواجهه با آن‌ها خواهد بود.