**نگاهی فلسفی به حکمرانی، حقیقت و تمدن در عصر هوش مصنوعی** در روایت تجاری از فناوری هوش مصنوعی اینگونه القا میشود که با سرازیر شدن منابع عظیم به این حوزه و کاربردهای صنعتی آن، هوش مصنوعی سرانجام همهچیزدان و همهکاره خواهد شد، یادگیری و کار انسانها را بر عهده خواهد گرفت و جامعه را به سوی کارآمدی و شکوفایی سوق خواهد داد.
با این حال، در شرایطی که هوش مصنوعی به شکلی عمیق در تمامی فرایندهای دستیابی به اطلاعات، تشخیص حقیقت و حتی تصمیمگیری مداخله میکند، واقعیتی که مشاهده میکنیم در نهایت توسط چه کسی تعریف میشود؟ آیا پشت نقاب «برابری هوش»، نابرابریهای جدیدی پنهان نشده است؟ در نشست تخصصی «چه کسی واقعیت را تعریف میکند: حکمرانی، حقیقت و تمدن در عصر هوش مصنوعی» که ۱۲ سپتامبر در جریان کنفرانس اینکلوژن بوند (Inclusion Bund) به میزبانی مرکز ارتباطات بینالمللی گروه رسانهای شانگهای برگزار شد، جمعی از پژوهشگران فلسفه، دانشمندان علوم کامپیوتر، نویسندگان و فعالان این صنعت از داخل و خارج از چین گردهم آمدند.
آنان با محوریت سوگیریهای فرهنگی نهفته در هوش مصنوعی، عاملیت انسان، حکمرانی اخلاقی و هزینههای اجتماعی به بحث و تبادل نظر پرداختند تا از دریچه علوم انسانی، تأثیرات و ارزش واقعی این فناوری را بازخوانی و ارزیابی کنند. **سوگیری فرهنگی و ضربههای فنی پنهان در هوش مصنوعی** مدلهای زبانی بزرگ بهتدریج در حال جایگزینی موتورهای جستوجوی اینترنتی هستند و به مرجع اصلی کاربران برای یافتن پاسخها تبدیل شدهاند.
این سامانههای دانای کل ظاهری بیطرف و عینی دارند، اما در پس پاسخهای آنها ارزشهای معینی نهفته است که میتواند بر افکار کاربران تأثیر بگذارد. دیوید چیانگ، دانشیار گروه علوم و مهندسی کامپیوتر در دانشگاه نوتردام، طی سخنانی اشاره کرد که از منظر فنی، جوهره مدلهای زبانی بزرگ صرفاً «پیشبینیکننده احتمال واژه بعدی» است.
این مدلها بر پایه حجم عظیمی از دادههای متنی پیشآموزش میبینند و محتملترین کلمه بعدی را بر اساس متن موجود حدس میزنند. در نتیجه، صرفنظر از اقداماتی که در مراحل پسآموزش برای «همراستاسازی ارزشی» انجام میشود، مدل همچنان حامل ارزشهای خاصی باقی میماند.
او با استناد به پژوهشها یادآور شد که یک مدل واحد وقتی به زبانهای مختلف درباره کار، زندگی و ارزشهای اجتماعی پاسخ میدهد، ممکن است گرایشهای متفاوتی از خود بروز دهد. خاستگاه جغرافیایی توسعهدهندگان و بافت فرهنگی دادههای آموزشی نیز مستقیماً بر خروجیهای سیستم اثرگذار است. این جهتگیریها تنها به زبان محدود نمیشود، بلکه در پیشفرضهای فناوری درباره مفهوم انسان نیز ریشه دارد.
پل شرز، مدیر آزمایشگاه اخلاق فناوری آیبیام در دانشگاه نوتردام، تأکید کرد که در پس هر طراحی فناورانه، تصوری از اینکه «انسان چیست» نهفته است. برای نمونه، برخی ابزارهای اعتیادآور بر بستر روانشناسی رفتارگرا طراحی شدهاند و انسان را به مثابه ماشینی میبینند که تنها به محرکهای بیرونی پاسخ میدهد.
پلتفرمها سازوکارهای پاداش، بازخورد و یادآوری را بر همین مبنا میسازند تا کاربر مدام کلیک کند، صفحه را تازه سازد و زمان بیشتری را در سامانه بگذراند. استفاده درازمدت از این ابزارها ممکن است سبب شود انسان خود را تنها موجودی تحت سلطه محرکها و تمایلات حس کند. لوی چکتس، معاون مرکز مطالعات اخلاق کاربردی دانشگاه باپتیست هنگکنگ، نسبت به رویکرد سنجش ارزش حیات انسان با معیارهای هوشی هشدار داد.
او متذکر شد که در طول تاریخ، آزمونهای هوش ابزاری برای برتر نشان دادن گروهی بر گروه دیگر و مبنایی به اصطلاح علمی برای سلب حقوق برخی اقشار بوده است. اگر امروز نیز به صرف کسب نمرات بالاتر توسط هوش مصنوعی در آزمونها، جایگاه یا حتی حقوق بیشتری برای آن قائل شویم، ناخودآگاه در حال بازتولید همان منطق خطرناک هستیم: هر که باهوشتر است، باارزشتر است.
اگر این خطرات فکری هنوز به نقطه بحرانی نرسیده باشند، پیامدها و نابرابریهای ناشی از فناوری هوش مصنوعی در بخش صنعت از هماکنون آغاز شده است. شرز یکی از این خطرات را «مهارتزدایی» نامید. او با ارجاع به پژوهشهای حوزه رادیولوژی اظهار داشت پس از بهکارگیری دستیار هوش مصنوعی در تحلیل تصاویر پزشکی، توانایی برخی پزشکان در انجام مستقل وظایف کاهش یافته و این توان با گذشت زمان نیز خودبهخود احیا نشده است.
خطر عمیقتر آن است که فرایند یادگیری مهارت تنها برای اتمام کار نیست، بلکه انسان در جریان ممارست طولانی صبوری، پشتکار، دقت، قدرت قضاوت و حس مسئولیتپذیری را میآموزد. با خودکارسازی کامل یک مهارت، فرصت شکلگیری این سجایای اخلاقی نیز از دست میرود. صنعت هوش مصنوعی با شعار «برابری هوش» سرمایههای سرسامآوری را جذب کرده است، اما چکتس معتقد است این تحولات احتمالاً الگوهای نوین استثمار را پدید میآورد.
برچسبگذاران داده، بازبینهای محتوا و اپراتورهای دورکار در کشورهای جنوب جهانی با کارهای بیثبات و کمدرآمد، چرخهای این صنعت را میچرخانند. همزمان، هوش مصنوعی برای پایش کارمندان و تحمیل ضربآهنگ ماشین به کارگران به کار گرفته میشود.
**بازخوانی ارزش هوش مصنوعی از دریچه فلسفه** در رویارویی با پیامدهای اجتماعی این فناوری، نه تنها نهادهای نظارتی باید چارچوبهای حکمرانی نوینی تدوین کنند، بلکه صاحبنظران علوم انسانی نیز از منظر اخلاق به ارزیابی دوباره ارزشهای آن پرداختهاند. اخلاق فلسفهای ناظر بر ارزشهاست که به زندگی «خوب»، شیوه همزیستی انسانها و مسیر پیشروی تمدن میپردازد.
شرز خاطرنشان کرد که طی دهه گذشته، اخلاق فناوری هوش مصنوعی در غرب دستخوش یک چرخش پارادایمی از «اصولمحوری» به سمت «شکوفایی انسانی» شده است. او تصریح کرد: «پیش از این، نهادها بیش از ۳۰۰ اصل اخلاقی از جمله شفافیت، پرهیز از سوگیری و قابلیت تبیین را وضع کرده بودند.
اما یک شرکت حتی اگر تمام این موازین فنی را رعایت کند، باز هم میتواند الگوریتمی توسعه دهد که به شکافهای طبقاتی دامن بزند یا نرمافزاری برای برنامهریزی کاری بسازد که کارگران را تا نهایت توان تحت فشار بگذارد.» بر این اساس، پرسشهای اخلاق هوش مصنوعی نیز دگرگون شده است: فناوری نه تنها باید از آسیب پرهیز کند، بلکه باید به انسان در حفظ عاملیت، پرورش فضیلت و پیوند مؤثر با دیگران یاری رساند.
مسئله بنیادین تنها این نیست که هوش مصنوعی تصمیمی درست بگیرد، بلکه این است که مبادا فرصت تصمیمگیری، پذیرش مسئولیت و ساختن سرنوشت را از انسان سلب کند. جان ییون، استادیار دانشکده فلسفه دانشگاه پکن، بر لزوم بازنگری در مفهوم «هوش» تأکید کرد. در مهندسی هوش مصنوعی، هوش معمولاً به توانایی حل مسائل عام تعبیر میشود، در حالی که سنتهای فلسفی بیشتر به «عقل عملی» توجه دارند.
انسان سامانهای نیست که فقط هدف تعیین کند و بهینه ترین مسیر را بیابد؛ بلکه کنشگری است که هویت خود را در چارچوب هنجارهای اجتماعی میسازد، بار مسئولیت را بر دوش میکشد و برنامههای زیستیاش را بازبینی میکند. برای مثال، یک فرد معمولی که برای ماراتن تمرین میکند، ممکن است رکوردی را به عنوان هدف مرحلهای در نظر بگیرد.
حتی اگر در نهایت به آن رکورد نرسد، خود این تمرینْ عادات، شناخت از خویشتن و شیوه زیست او را دگرگون میکند.
آرمانهای انسان در شاخصهای برآمده از نتایج خلاصه نمیشود، چرا که با این پرسش پیوند دارد: «میخواهم چگونه انسانی باشم؟» بنابراین، در سنجش هوش مصنوعی نباید صرفاً پرسید «چه کاری از دست آن برمیآید؟» بلکه باید پرسید: «به ما توان انجام چه کارهایی را میدهد و ما را به چه موجودی بدل میکند؟» در این میان، سنتهای فرهنگی مختلف پاسخهای گوناگونی برای این پرسش دارند.
بای تونگدونگ، استاد دانشکده فلسفه دانشگاه فودان، یادآور شد که در جریان فلسفه غرب به پیشگامی دکارت، عقلانیت و زبان وجه تمایز اصلی انسان از سایر پدیدهها شمرده میشود. اما در اندیشه کنفوسیوسی، منسیوس بیش از هر چیز به حس شفقت و دلرحمی جهانشمول انسان بها میدهد؛ مانند بیتابی غریزی انسان به هنگام دیدن کودکی که در آستانه سقوط به چاه است.
اگر آزمون تورینگ با تکیه بر این سنت بازطراحی شود، شاید ملاک ارزیابی نه قدرت مکالمه عقلانی ماشین، بلکه توانایی واقعی آن در درک و بازتاب شفقت باشد. وی تأکید کرد که قانونگذاریِ صرف برای مهار خطرات هوش مصنوعی کارساز نیست، زیرا موقعیتهای اخلاقی جهان واقعی سرشار از استثناها و تعارضها هستند. شاید لازم باشد هوش مصنوعی درون مناسبات اجتماعی پرورش یابد و پا به پای انسان تکامل پیدا کند.
با این حال، او با اشاره به آموزههای مکتب قانونگرایی (فاژیای) چین باستان گوشزد کرد که تربیت اخلاقی و رویکرد عاطفیِ صرف تضمینکننده نهایی نیست و خوشبینی مفرط میتواند اوضاع را از کنترل خارج کند. سباستین ساندی گرو، دانشیار دانشکده فلسفه دانشگاه پکن، با کاربست فلسفه بودایی و اخلاق کنفوسیوسی مسیرهای کاربردی دیگری را برای هوش مصنوعی بررسی میکند.
او و همکارانش با وامگیری از آرای درماکیرتی، فیلسوف بودایی سده هفتم میلادی درباره «ذهن دیگران»، آزمون تورینگ را بازخوانی کردهاند. در پژوهشی دیگر، او در پی تدوین مدلی اخلاقی برای خودروهای خودران بر پایه اخلاق کنفوسیوسی است.
از آنجا که اخلاق کنفوسیوسی مراتب پیوندها و خویشاوندی را میپذیرد و اولویتدادن به محافظت از اعضای خانواده در شرایط اضطراری را لزوماً غیراخلاقی نمیداند، نحوه توزیع خطرات توسط خودروی خودران صرفاً یک مسئله فنی نیست و پاسخی یگانه و فرابومی برای آن وجود ندارد.
**ضرورت نگرش علوم انسانی در گفتمان هوش مصنوعی** در عصری که جهشهای فناوری به جای سال با مقیاس ماهها سنجیده میشود، آیا ژرفاندیشی فلسفی نوعی بحث نظری به دور از واقعیت نیست؟ جان ییون در گفتوگو با پنگپای اظهار داشت: هر اندازه سرعت ورود فناوری به حوزههای حساس و بنیادین بیشتر شود، نیاز به رویکرد علوم انسانی ملموستر خواهد بود.
چن چئوفان، نویسنده چینی، از بحران عدم انطباق میان «سه ساعت متفاوت» سخن به میان آورد: ساعت فناوری با ضربآهنگ روز و هفته پیش میرود؛ ساعت کاربردهای تجاری با بازههای ماهانه و فصلی به جلو حرکت میکند؛ اما ساعت نهادهای اجتماعی، نظامهای آموزشی، قوانین و اجماعهای اخلاقی نیازمند دورههای چندساله و حتی دههها است.
او گفت: «اختلاف فاحش این سه زمانسنج جامعه را دستخوش گسست کرده است، و داستانسرایی و آفرینش ادبی دقیقاً همان فضای آزمایشی است که میتواند این شکاف را پر کند.» ادبیات با نشاندن شخصیتها، پیشینهها، طبقات و عواطف در بستر موقعیتهای عینی، به جامعه امکان میدهد پیش از آنکه آثار نامطلوب یک فناوری تثبیت شود، هزینهها و رنجهای آن را به شکلی همدلانه پیشبینی و تجربه کند.
وی بر این اساس تصریح کرد: «رسالت غایی اخلاق هوش مصنوعی بر پایه علوم انسانی، ترسیم یک مسیر واحد، صلب و بهینهسازیشده نیست، بلکه پاسداری از تنوع گزینهها در آینده است تا بشریت در انحصار روایت فنی و یکسویه سیلیکونولی گرفتار نشود.
» سایمون کو، مدیر اجرایی مرکز چینشناسی پکن، نیز با انقیاد آموزش فرزندان در چارچوب بازدهی محض و پاسخهای استاندارد مخالفت کرد و گفت: «بسیاری از کشفیات بزرگ تاریخ علم از دل شکستهای نامنتظره سر برآوردهاند. شفقت آدمی نیز تنها پس از درک فقدان و درد شکوفا میشود.
هوش مصنوعی اصطکاکها را میزداید و مستقیماً به نتیجه میرسد، اما اگر نظام آموزش کاملاً تسلیم این منطق کارایی شود، یکدستسازی تفکرْ ویژگیهای یگانه انسانی را از میان خواهد برد.» او افزود بهترین پادزهر برای اضطراب ناشی از فناوری، بازخوانی متون کلاسیک و بازگشت به آموزش عمومی و بنیادین است تا با تکیه بر دانشی اصیل که آزمون زمان را پشت سر گذاشته، بینش نسل آینده پرورش یابد.
فناوری هوش مصنوعی نه تنها افراد، بلکه جغرافیای سیاسی و ساختار توزیع ثروت در جهان را دگرگون میکند. صاحبنظران حاضر در این نشست تأکید داشتند که در حوزه حکمرانی جهانی هوش مصنوعی، نباید منفعلانه دست روی دست گذاشت تا فاجعهای در ابعاد چرنوبیل رخ دهد و آنگاه برای چارهاندیشی شتافت.
نظام حکمرانی بینالمللی فراتر از پیشگیریهای پدافندی، نیازمند گفتوگوی عمیق تمدنها در ساحت ارزشها است تا چشماندازی مشترک، فراگیر و فراملی از «شکوفایی انسانی» ترسیم شود و مسیر هدایت فناوری روشن گردد.