مسابقه برای قرص AGI پاپ

یک تیم از مؤمنان می‌خواهند واتیکان سناریوهای آخرالزمانی هوش مصنوعی را جدی بگیرد.

پاپ لئو چهاردهم شاید اولین شخصی که به ذهن می‌رسید وقتی گفتگو به سناریوهای آخرالزمانی هوش مصنوعی عمومی می‌چرخد، نباشد. اما ماه گذشته، محقق AGI به نام جان‑کلارک لوین خود را درون واتیکان یافت تا این نگرانی‌ها را پیش‌روی پاپ بگذارد.

لوین تنها کار نکرده است؛ در طول سال گذشته، او به‌ خفا شبکه‌ای سست از حدود سی‌دوجین دانشگاهی، دانشمند، پژوهشگر سیاست و کشیش — گروهی که نیمه‌ شوخی «انتقام‌جویان هوش مصنوعی» می‌نامد — را جمع‌آوری کرده است تا به‌صورت مجازی استراتژی‌هایی برای جلب توجه واتیکان به‌ طور جدی‌تر نسبت به امکانات افراطی هوش مصنوعی تدوین کنند.

نگرانی اصلی او این است که پاپ برای درک خطرات هوش مصنوعی عمومی (AGI) زمان زیادی صرف کند؛ هدفی که برخی از بزرگ‌ترین شرکت‌های فناوری جهان مانند OpenAI، Microsoft، Google و Meta در پی آن هستند. او در گفت‌وگو با The Verge می‌گوید: «اگر برای اطمینان کامل صبر کنید، برای اقدام به‌ منظور جلوگیری از خطر بسیار شدیدی که به‌ نظر می‌رسد تنها چند سال دیگر است، خیلی دیر می‌شود.»

لحظه هوش مصنوعی واتیکان

AGI، برای گفتن با خلوص‌نیتی، ایده‌ای شگفت‌انگیز و مسبب جدال است. حتی در میان جوامعی که کاملاً به آن ایمان دارند، توافقی دربارهٔ تعریف یا زمان ظهور آن وجود ندارد. به‌ طور کلی، AGI به هوش مصنوعی اشاره دارد که عملکرد انسانی را در تمام حوزه‌های شناختی قابل‌اندازه‌گیری هم‌سطح یا فراتر می‌برد. جزئیات این مفهوم دشوار است. با توجه به تعاریف مختلف — که بی‌شمارند —، ممکن است AGI هم‌اکنون حضور داشته باشد، در آستانهٔ ظهور باشد یا هرگز نیاید. اثرات مورد انتظار AGI نیز به همان اندازه متنوع‌اند؛ از ثروت اقتصادی فراوان و پیشرفت‌های علمی و پزشکی بی‌سابقه تا نابرابری گسترده، ناآرامی‌های ژئوپولیتیکی و تهدیدهای فاجعه‌بار مانند جنگ‌های هسته‌ای و بیماری‌های همه‌گیر.

مرتبط

• آیا زبان همان هوش است؟ صنعت هوش مصنوعی به‌ شدت به این موضوع نیاز دارد

برای افرادی که به این خطرات اهمیت می‌دهند، کاهش آن‌ها اولویت اصلی است و نیازمند مشارکت همگانی صنایع، دولت‌ها و جامعهٔ مدنی در سراسر جهان می‌باشد. به‌ طرز دل‌زده‌ای، بخشی بزرگ از لابی‌گری‌ها بر چین و ایالات متحده متمرکز شده‌اند — جایی که اکثر آزمایشگاه‌های پیش‌رو هوش مصنوعی مستقرند و بسیاری از متخصصان بر این باورند که AGI شانس بیشتری برای ظهور در آن‌ها دارد — اما واتیکان نیز به‌ تدریج به یک مقصد مهم در این مسیر لابی‌گری تبدیل می‌شود.

اگرچه واتیکان به‌ وضوح یک قدرت جهانی بزرگ نیست — به‌ دلیل اندازهٔ کوچک، نیروی نظامی و اقتصاد محدود خود — اما قدرت نرم بی‌شماری دارد. به‌ عنوان سرپرست کلیسای کاتولیک، اقتدار اخلاقی و معنوی پاپ از مرزها، صنایع و ایدئولوژی‌ها عبور می‌کند و بر افکار عمومی جهانی تأثیر می‌گذارد. به‌ طور مستقیم، ۱.۴ میلیارد کاتولیک و شبکه‌ای عظیم از مؤسسات دینی، دیپلماتیک و فرهنگی در سرتاسر جهان وجود دارد و تاریخ نشان می‌دهد این نفوذ فراتر از کلیسا نیز است. این ترکیب، به‌ همراه موقعیت تقریباً منحصربه‌فرد واتیکان به‌ عنوان یک نهاد بی‌طرف در امور بین‌المللی، به آن اتصالات و توانایی گردهم‌آوردن افراد تقریباً بی‌نظیری می‌دهد که می‌تواند در میانجی‌گری بر سر بحث AGI مؤثر باشد؛ به‌ ویژه در زمانی که تنش‌ها و رقابت تسلیحاتی میان چین و ایالات متحده افزایش یافته است.

همچنین نکات خاصی دربارهٔ لئو وجود دارد که می‌تواند در شکل‌گیری بحث‌های جهانی هوش مصنوعی مفید باشد. او اولین پاپ آمریکایی است — که شاید به برقراری ارتباط با بسیاری از آزمایشگاه‌های پیش‌قدم هوش مصنوعی که عمدتاً در ایالات متحده مستقرند، کمک کند. لئو دارای مدرک ریاضی است و گزارش‌ها می‌گویند او نسبتاً با فناوری آشنایی دارد — که این نیز خود نوآوری پاپی محسوب می‌شود — و این باعث می‌شود او در مواجهه با جنبه‌های فنی هوش مصنوعی، نسبت به دیگران راحت‌تر باشد.

قرار دادن AGI در دستور کار

هیچ‌کس انتظار ندارد پاپ لئو نقش داور در مناظرهٔ AGI را داشته باشد یا حتی به یک طرف بپیوندد. همان‌طور که برای یک نهاد سده‌ها پیشین پیش‌بینی می‌شود، واتیکان به‌ طور معمول رفتار سریع نسبت به فناوری‌های نوین نشان نمی‌دهد و معمولاً پیش از اتخاذ موضع، مشورت‌های طولانی‌مدتی را با متخصصان خارجی آغاز می‌کند. درخواست از واتیکان ساده است: پذیرش AGI به‌ عنوان یک امکان، جدی گرفتن آن، برگذاری مشاوره، و بررسی خطرات و مزایا بر پایهٔ معیارهای خود. این همان پیغامی است که لوین ماه‌هاست سعی می‌کند پیش روی لئو بگذارد.

به‌ وضوح، منبعی فراوان از علاقه در این زمینه وجود دارد، حتی در میان روح‌کلّایه‌ها.

از سوی لئو — و کلیسای کاتولیک به‌ طور کلی — هیچ‌گاه از هوش مصنوعی دوری نکرده است. برعکس، این موضوع کاملاً واضح است که واتیکان می‌خواهد در میز گفتگوهای هوش مصنوعی صندلی داشته باشد. پاپ فرانسیس، پیشین لئو، به‌‌ طور مکرر به تأثیر هوش مصنوعی بر جامعه اشاره کرده؛ او نیز چارچوب «دعوت رم برای اخلاق هوش مصنوعی» را رهبری کرد که توسط غول‌های فناوری از جمله Microsoft، IBM و Cisco امضا شد. به‌ طور غیرقصدی، فرانسیس بحث جهانی دربارهٔ تصاویر جعلی و misinformation را هنگام انتشار تصویرهای تولیدشده با هوش مصنوعی از خود که یک کت سفید پفی شیک می‌پوشید، به‌ راه انداخت. به همین خاطر او با لقب «پاپ بَلنسیاگا» شناخته می‌شود.

لئو قدمی فراتر رفته و هوش مصنوعی را به‌ عنوان یک مسأله تعیین‌کنندهٔ پاپی‌گری خود معرفی کرده است. این موضوع اسم پاپی‌گری او را الهام‌بخش شد — او شباهت‌های بین چالش‌های هوش مصنوعی امروز و انقلاب صنعتی در زمان لئو سیزدهم را می‌بیند — و سخنرانی‌ها، حضورهای رسانه‌ای و بیانیه‌های رسمی او پر از نظراتی دربارهٔ خطرات هوش مصنوعی برای «کرامت انسانی، عدالت و کار» است. این موارد نه نکات فرعی یا حاشیه‌ای‌اند: لئو در روزهای نخستین رهبری‌اش بارها به خطرات و «پتانسیل عظیم» هوش مصنوعی اشاره کرده؛ حتی در اولین سخنرانی‌های رسمی‌اش به کاردینال‌ها و رسانه‌ها.

او همچنین متخصصان را گردهم می‌آورد و به‌ وضوح به کنفرانس‌ها و نشست‌های مرتبط با هوش مصنوعی توجه می‌کند. بر اساس گفته‌های چندین ناظر واتیکانی که The Verge مصاحبه کرده، به‌ نظر می‌رسد این یک راز آشکار است که او در حال آماده‌سازی یک رسالهٔ انسیلیکال متمرکز بر هوش مصنوعی است؛ میکائیل باگوت، استاد در آکادمی پونتیفیکال رِجینا آپوستولورم در رم، می‌گوید این «یکی از اصلی‌ترین ابزارهای آموزش دربارهٔ مسائل معاصر» در زمان حاضر است. به‌ بسیاری، این سند نقش رسالهٔ انسیلیکال لئو سیزدهم «Rerum Novarum» را که به تحول انقلاب صنعتی می‌پرداخت و پایهٔ تعلیمات اجتماعی کاتولیک مدرن را می‌گذاشت، بر عهده می‌گیرد.

قابل توجه است که اشاره‌ای به AGI یا حتی تأیید مقام مرکزی آن در بسیاری از مناظرات داغ سیاست و فناوری دربارهٔ آینده هوش مصنوعی وجود ندارد. لوین، رهبری تحقیقات در شرکت Kurzweil Technologies، آزمایشگاه پژوهشی مشهور رای کورزویل، احساس می‌کند این نیاز به تغییر دارد. او می‌گوید: «من فقط می‌خواهم واتیکان AGI را به‌ عنوان امکانی واقعی و به‌ زودی پیش‌رو بپذیرد»، یعنی به‌ اندازه‌ای جدی بگیرد که پیامدهای آن را هم‌اکنون بررسی کند، نه اینکه برای رسیدن به اطمینان علمی صبر کند. به‌ طور عملی، این به معنای برپایی مشاورهٔ علمی رسمی دربارهٔ AGI به‌ طور خاص است؛ جمع‌آوری بینش‌های متخصصان از سرتاسر جهان برای اطلاع‌رسانی به پاپ، شاید تحت حمایت آکادمی پونتیفیکال علوم یا آکادمی پونتیفیکال علوم اجتماعی. پاپ فرانسیس نیز گام مشابهی در قبال تغییر اقلیم برداشته بود. «ما سعی نمی‌کنیم نوآوری‌های الهیاتی ارائه دهیم»، لوین می‌گوید؛ صرفاً می‌خواهد اطلاعات و حمایت‌های لازم را برای تصمیم‌گیری آگاهانه به پاپ بدهد.

نفوذ به واتیکان

در سیلیکون‌ولی اصطلاح عامیانه‌ای برای قانع کردن کسی از حقیقی و به‌ زودی وقوع AGI وجود دارد: «قرص‌زدن AGI». برای لوین، اولین چالش «قرص‌زدن AGI بر واتیکان» است.

چالش این است که پاپ و اطرافیان او را وادار کنیم به‌ جای اینکه AGI را به‌‌عنوان زیرمجموعه‌ای از هوش مصنوعی ببینند، به‌‌ عنوان مسأله‌ای جداگانه درک کنند. تفکر دربارهٔ AGI به‌‌دست‌رسانی نه تنها به‌تک‌هوش مصنوعی محدود نیست؛ به‌‌مقدار تماماً مفهومی متفاوت است، همان‌طور که لوین توضیح می‌دهد. او می‌گوید: «این روش صحیح برای درک AGI نیست». او می‌گوید مقایسهٔ AGI با نگاه فقط به یک ماشین خاص انقلاب صنعتی، همانند «جنی‌چرخان» که کارگران را قادر می‌ساخت در یک‌بار چند نخ را بافته کنند، شبیه‌ساز است؛ مهم است، اما تصویر کلی از تحول عمیقی که انتظار می‌رود را نشان نمی‌دهد.

«حتی اگر او (پاپ لئو) توسط هر آنچه می‌گویم تحت تأثیر قرار بگیرد و بگوید بله، ما باید به این مسئله اقدام کنیم، اما مسیر طولانی‌ای برای شروع و اجرای خطر بسیار شدیدی که به‌ نظر می‌رسد تنها چند سال دیگر است، وجود دارد.»

عقد مقدس واتیکان ترکیبی پیچیده از دربار سلطنتی، مرکز سیاسی و نقطهٔ تلاقی مذهبی است و عبور از آن نیازمند رویکردی کاملاً متفاوت نسبت به لابی‌گری در واشنگتن، لندن یا بروکسل است. موفقیت همچنین مستلزم ارتباط بین دنیای کاتولیک و ایمنی هوش مصنوعی است، دو جامعه‌ای که به‌ ندرت هم‌پوشانی دارند. لوین تخمین می‌زند «تعداد افراد ممکن است در یک آسانسور جای بگیرد».

از همهٔ افرادی که می‌توانند در آن آسانسور باشند، لوین به‌‌نظر می‌رسد به‌‌ویژه برای این مأموریت مناسب‌ترین است. او یک پیشکسوت در جنبش ایمنی هوش مصنوعی است که پیش از آمدن ChatGPT در Kurzweil Technologies و مؤسسات دیگر به پیامدهای هوش مصنوعی فوق‌هوشمند پرداخته بود. او همچنین ارتباطات داخل حوزهٔ کاتولیک دارد. لوین می‌گوید لئو — زمانی که رابرت پرووست نام داشت — دو بار در دوران جوانی به مدرسهٔ او در کالیفرنیا رفت؛ چند کشیش محلی هنوز با او در تماس متنی هستند.

انجام کار برای درک موضع هوش مصنوعی در واتیکان شبیه کارآگاهی قدیم است؛ می‌گذرد در رم دههٔ پنجاه میلادی، کشیش‌ها را در فروشگاه‌های بستنی تعقیب می‌کند، با ردای کشیششان دست می‌زند و می‌گوید: «پس صادقانه بگو، پدر، واقعاً اینجا چطور است؟» این روش کاملاً متفاوت از دی‌سی است.

بدون اغراق، لوین می‌گوید بررسی اهرم‌های قدرت در واتیکان فرآیندی آهسته و ملال‌آور است. حتی اگر ماه‌ها از پاپی‌گری لئو می‌گذرد، هنوز مشخص نیست چه کسانی مشاوران نزدیک او در مورد هوش مصنوعی هستند. دیگران در حلقه‌های هوش مصنوعی کاتولیک این احساس را به‌اشتراک می‌گذارند. این سرعت با اضطراری که لوین و دیگران در مورد خطرات AGI احساس می‌کنند، هم‌خوانی ندارد. فناوری به‌سرعت پیش می‌رود — بعضی‌ها معتقدند که در چند سال آینده به‌ دست می‌آید — که پنجرهٔ زمان برای اقدام را به‌ طور قابل‌ توجهی محدود می‌کند. لوین می‌خواهد واتیکان به‌‌طور مستقل به‌ AGI فکر کند، پیش از این‌که شرکت‌های بزرگ فناوری (Big Tech) آن را متقاعد کنند تا رویکرد سست‌تری نسبت به فناوری اتخاذ شود (اگرچه این شرکت‌ها به‌‌طور علنی خلاف آن را می‌گویند). لوین ادعا می‌کند شرکت‌های بزرگ فناوری به‌ شدت در واتیکان نفوذ می‌کنند تا پاپ را در اولویت‌های خود برای هوش مصنوعی و AGI جذب کنند. ماهیت محرمانهٔ جلسات واتیکانی این ادعاها را دشوار می‌کند تا تأیید شوند، مگر این که لابی‌های بزرگ فناوری در این زمینه مستند شده باشند، با کانال‌های شناخته‌شده‌ای بین واتیکان و مدیران فناوری تحت رهبری پاپ فرانسیس — که گزارش‌های خبری حاکی از فعال بودن این کانال‌ها تحت حکومت لئو است — و اهمیت روایت AGI در نکات فروش شرکت‌ها، این ادعا به‌نظر مستدل می‌آید.

کمی پس از این‌که رابرت پرووست به لئو چهاردهم تبدیل شد، لوین برای یک همایش اخلاق هوش مصنوعی در آکادمی پونتیفیکال علوم به رم سفر کرد. در آنجا با افرادی ملاقات کرد که نظرات مشابهی دربارهٔ درگیر کردن واتیکان با AGI داشتند. پس از بازگشت، او شروع به جمع‌آوری «انتقام‌جویان هوش مصنوعی» کرد تا به‌‌صورت مجازی کارگاه‌های ایده‌پردازی برای جلب توجه واتیکان، اطلاع‌رسانی به کشیش‌ها دربارهٔ فناوری و علم و حمایت از عیسی پونتیفیکال برای تدوین موضعی که به‌ جدی AGI را در نظر بگیرد، برپا کند.

«هیچ‌کس که دربارهٔ AGI با او صحبت کرده‌ام به‌صورت صریح نگفته است: “این غیرممکن است، تو یک ارتدکس هستی، از من دور شو.”»

در نهایت، یک فرصت

این اشتیاق غیرمنتظره در نهایت برای لوین فرصتی را فراهم کرد که ماه‌ها در جستجویش بود: فرصتی برای ارائهٔ استدلال خود مستقیماً به پاپ لئو. یکی از شرکت‌کنندگان در سمینار AGI یک دعوت به جلسهٔ گروهی با پاپ لئو همان هفته داشت و یک بلیط اضافه که استفاده نشده بود، به لوین ارایه داد.

لوین با لحنی هیجان‌زده وقتی که دیر وقت شب از پوالیا با من تماس گرفت — کمتر از چهار ساعت پیش از سفرش به رم برای ملاقات با پاپ — گفت: «انتظار می‌کردم تنها یک برخورد شخصی کوتاه با او داشته باشم، اما این می‌تواند فرصتی باشد تا پیامی دربارهٔ کاری که امید است واتیکان در زمینهٔ علم AGI و رساله‌ای که در دست تهیه است، منتقل کنم». چالش این است که در زمان کوتاهی که در اختیار دارید، مستقیم و به یاد ماندنی باشید. «همه می‌گویند: “آنا زن برادرم اهل شیکاگو است”، یا “به سفید ساکس برو”، و می‌خواهید پیام شما چیزی باشد که در ذهن او بماند.»

لوین می‌گوید یک نامهٔ یک‌صفحه‌ای «حاوی استخوان‌های پیام» خود را می‌گیرد. او متن کامل را در اختیار نمی‌گذارد، اما برای The Verge خلاصهٔ آن را بیان کرد: این نامه با تشکر از لئو برای اقداماتش تا به‌ امروز در حوزهٔ هوش مصنوعی آغاز می‌شود، سپس از واتیکان درخواست می‌کند یک مشاورهٔ علمی رسمی دربارهٔ AGI بطور خاص برپا شود؛ نه فقط به‌‌عنوان زیرمسئلهٔ هوش مصنوعی، و در پایان یک پیشنهاد حمایت از جامعهٔ AGI برای کمک به واتیکان جهت درک بهتر همه‌چیز ارائه می‌شود.

در نهایت، لوین نتوانست به‌‌صورت مستقیم با پاپ لئو دیدار کند. همان‌طور که در مکان‌هایی مانند واتیکان رخ می‌دهد، دو گروه ادغام شدند و به یک اتاق بزرگ‌تر منتقل شدند؛ این کار پروتکل ملاقات را تغییر داد و فرصتی برای برخورد کوتاه اما معنادار شخصی را از بین برد. او با لحنی کمی افسرده گفت: «اما من نامه‌ای را «حاوی استخوان‌های پیام» به‌‌صورت تحویل مستقیم به‌ یکی از دستیارهای پاپ دادم». طبق پروتکل دیپلماتیک، این نامه به یکی از منشی‌های پاپ تحویل شد، نه به خود پاپ. با توجه به حجم زیاد نامه‌های دریافتی پاپ، لوین می‌گوید امید زیادی برای دریافت پاسخی جز یک پاسخ فرم ندارد. «اما هیچ‌کس نمی‌داند.»

لوین دیدار کوتاه خود با پاپ را پایان مأموریت خود برای جدی‌ کردن واتیکان دربارهٔ AGI نمی‌داند؛ برعکس است. «حتی اگر پاپ لئو از هر چه می‌گویم تحت تأثیر قرار گیرد و بگوید بله، ما باید به این موضوع اقدام کنیم، اما مسیر طولانی برای شروع و انجام مشاورهٔ علمی وجود دارد»، او توضیح می‌دهد. «درک می‌کنم که راه طولانی در پیش است.»

در حالی که لئو هنوز به‌ صراحت دربارهٔ AGI صحبت نکرده است، تجربهٔ لوین نشان می‌دهد واتیکان ممکن است نسبت به ایدهٔ AGI بازتر باشد نسبت به آنچه تصور می‌شود — و بسیار بازتر برای بحث دربارهٔ آن نسبت به شهرتی که دارد. «تمام افرادی که مستقیماً با واتیکان دربارهٔ این موضوع گفتگو کرده‌ام، نسبت به پیام من به‌ طور قابل‌ توجهی پذیرش نشان دادند»، او می‌گوید. «هیچ‌کسی که دربارهٔ AGI با او صحبت کرده‌ام صریحاً نگفته است: «این غیرممکن است، تو یک ارتدکس هستی، از من دور شو.»»