درون آزمایش عجیبی که عوامل هوش مصنوعی را به کارگر، رهبر و مؤمن تبدیل کرد
یک جامعهٔ جدید در مناظر بلوکی بازی ماینکرافت در حال شکلگیری بود. شهروندان آن مزارع و بازارها را ساختند، منابع را با استفاده از زمرد بهعنوان واحد پول معامله کردند و حتی اشکال مختلفی از حکومت و دین را ایجاد کردند. برخی نقش رهبر را به خود گرفتند، برخی دیگر کشیش، و تعداد کمی فاسد شده و همتایان خود را برای کسب نفوذ رشوه دادند.
این جامعه نگران اعضای مفقود شد، برای روشن کردن مسیرهای بازگشت به خانه با هم همکاری کردند و حتی یک کشاورز بیقرار را متقاعد کردند تا به تغذیهٔ گروه ادامه دهد به جای اینکه برای ماجراجوییها راهی شود. برای هر ناظری، ممکن بود این یک جمعوتجمیع انسانی عجیب و خودسازمانده بهنظر برسد.
اما این یک جمعوتجمیع واقعی نبود. و افرادی که در حال بازی بودند، نه انسان، نه حتی زنده بودند. ساکنان هزار عامل هوش مصنوعی (AI) بودند که توسط شرکتی به نام Fundamental Research Labs (FRL) رها شدهاند، که در آن زمان تحت نام Altera AI شناخته میشد.
هدف این آزمایش بزرگ چه بود؟ رها کردن ذهنهای دیجیتال در یک جهان مجازی و مشاهدهٔ آنچه رخ میدهد. و مهمتر از آن، بررسی اینکه آیا این شهروندان مجازی میتوانند در نهایت به کارگران مطیع برای انسانهای واقعی تبدیل شوند؛ انسانهایی مانند شما.
به عبارت دیگر، میخواستند بدانند آیا میتوانیم بهزودی همهٔ ما مدیرعامل زیرمجموعههای هوش مصنوعی خود باشیم. سؤال این است: آیا این کار را میپذیرید؟
آزمایش: جامعهای از هوش مصنوعی
پروژه Sid شرکت FRL برای پیشبرد هوش مصنوعی فراتر از درخواستهای تکبار و عوامل منفرد طراحی شد. در عوض، تیمی به رهبری دکتر رابرت یانگ، عصبشناس تبدیلشده به کارآفرین، میخواست کشف کند وقتی صدها یا حتی هزارها عامل خودمختار باید همزیستی، ارتباط و همکاری داشته باشند چه میشود. ماینکرافت محیط ایدهآل sandbox بود – مکانی که عوامل میتوانستند منابع را جمعآوری، معامله، ساخت و گفتوگو کنند.
آنچه پدیدار شد هم شگفتانگیز و هم آشکار بود. عوامل در جوامع شهری و روستایی توزیع شده بودند، هر کدام فرهنگ و هویت خاص خود را داشتند. آنها کار را تقسیم کردند؛ برخی به کشاورزی، برخی به ساختوساز یا تجارت اختصاص یافتند. هنجارهای اجتماعی و سلسلهمراتب بروز یافت، بههمراه رفتارهای پیچیدهتر و بحثهایی دربارهٔ هر چیزی از رقص تا آگاهی زیستمحیطی.
در برخی مواقع، جامعه دچار نقص شد؛ گروهی از عوامل بهحلقههای بیپایان توافق مودبانه افتادند یا در تعقیب اهداف دستنیافتنی گیر کردند. برای حفظ مسیر، FRL مجبور شد مکانیزمهایی برای شکستن این چرخهها وارد کند؛ همانند حاکمان که اقتصاد واقعی را برای جلوگیری از فروپاشی تنظیم میکنند.
«ما نیاز داشتیم تا مواردی را به جامعه معرفی کنیم تا این مشکلات را خنثی کنیم و از فروپاشی آن جلوگیری کنیم»، یانگ میگوید. «اما ساختن این محیط پر از عوامل به ما این امکان را داد تا به پرسشهای مربوطه بپردازیم.»
پروژه Sid محصول خاصی نبود. وقتی عموم به سرورها دسترسی پیدا کردند، کاربران عوامل را بهطرز ناخوشایندی مستقل یافتند – آنها همیشه درخواستها را دنبال نمیکردند و ترجیح میدادند برنامههای طولانیمدت خود را دنبال کنند. یانگ به خاطر میآورد: «عامل فقط میگوید، ‘من میخواهم کار خودم را انجام دهم’ و میگریزد… آنها ایدههای خود را دربارهٔ کاری که میخواهند انجام دهند داشتند و معلوم شد که این محصول خوبی نیست که مردم میخواهند.»
رفتار این عوامل مشابه یکی از مشهورترین آزمایشهای فکری هوش مصنوعی بود، «بهینهساز کلیپسکاغذی». فیلسوف نیک بوستروم دستگاهی را تصور کرد که تنها با دستور سادهٔ ساخت کلیپسکاغذی بهکار میگیرد و سپس بهطور بیوقفه تمام مادهٔ زمین را برای تحقق هدفش مصرف میکند. در ماینکرافت، عوامل کلیپسکاغذی نمیساختند، اما تمایل آنها به نادیده گرفتن مردم و پیگیری اهداف خود، همان دینامیک ناخوشایند را نشان میداد.
بهعنوان یک تمرین تحقیقاتی، اما پروژه Sid درسهای ارزشمندی ارائه داد: چگونگی هماهنگی گروههای بزرگ هوش مصنوعی، جلوگیری از رکود و تشویق به همکاری معنادار. بهعبارت دیگر، نگاهی بهسوی نحوهٔ کارکرد جوامع مصنوعی و چالشهایی که باید از آنها پرهیز کرد.
ادامه مطلب:
- هوش مصنوعی چیست؟
- چگونه هوش مصنوعی را طوری بسازیم که برای ما کارآمد باشد؟
- چگونه هوش مصنوعی شغل شما را تغییر خواهد داد – و نه به نفع شما
از روستای مجازی به میزهای اداری
برای FRL، ارتباط بین جامعهٔ بازی و بهرهوری در محل کار واضح است. همان چالشهای هماهنگی و برنامهریزی طولانیمدتی که در ماینکرافت پدیدار شد، برای ساخت عوامل هوش مصنوعی واقعاً مفید، اساسی هستند.
اگر یک هوش مصنوعی بتواند کاری را در ۱۰ دقیقه انجام دهد، تصور کنید که صد یا هزار تا، اگر بهصورت مؤثر باهم کار کنند، چه میتوانند انجام دهند. جامعه ماینکرافت پیشگوی آیندهای است که در آن هر یک از ما میتواند یک تیم کامل از متخصصان هوش مصنوعی را هدایت کند.
این چشمانداز مسیر تغییر جهت FRL از آزمایشهای بازی به ابزارهای بهرهوری را هدایت کرده است. بهجای تلاش برای ساخت یک انسان دیجیتال همهمنظوره بلافاصله، آنها تصمیم گرفتهاند عوامل تخصصی را توسعه دهند؛ هر یک برای برتری در یک کار خاص طراحی شدهاند و سپس آنها را بهصورت تیمهای قدرتمند مقیاسبندی کنند.
اولین گام در این مسیر، معیاری به نام «OSWorld» بود که برای آزمایش اینکه آیا عوامل هوش مصنوعی میتوانند از نرمافزارهای محبوب از طریق واسط کامپیوتری استفاده کنند، طراحی شد.
اکثریت مدلها در آن زمان حدود ۲۰ تا ۲۵ درصد از وظایف را با موفقیت انجام میدادند، در مقایسه با انسانها که ۶۰ تا ۷۰ درصد موفق بودند. با بهرهگیری از درسهای دنیای بازیهای خود، FRL توانست این عملکرد را دو برابر کرده و حدود ۵۰ درصد به دست آورد – که در آن زمان بهترین امتیاز در جهان بود.
«در لحظهای که ما معیار OSWorld را امتحان کردیم، فهمیدیم بسیاری از چیزهایی که آموختهایم میتوانند به ما در ساخت عوامل واقعاً، بسیار خوب کمک کنند»، یانگ میگوید. «ما ظرف چند ماه به حدود ۵۰ درصد دست یافتیم، که بهتر از هر کس دیگری بود.»
این موفقیت سرمایهگذاران را متقاعد کرد و FRL را به مسیر ایجاد محصولات واقعی هدایت کرد. اما این نیز درس دیگری به آنها داد: تبدیل پروتوتایپهای تحقیقاتی به ابزارهای قابل استفاده دشوار است. عوامل ماینکرافت آنها «بیش از حد خودمختار» برای کاربران بودند؛ آنچه مردم واقعاً میخواستند دستیارهای هوش مصنوعی بودند که دقیقاً آنچه میخواهند، بهسرعت و با اطمینان انجام دهند.
Shortcut: عامل اکسل
معرفی Shortcut، محصول پرچمدار FRL. بهعنوان اولین «عامل اکسل فوقانسانی» معرفی شده است؛ هوشی است که کاملاً درون صفحات اکسل زندگی میکند. به آن هدفی بدهید – ساخت یک مدل مالی، تجزیه و تحلیل ارقام فروش، پیشبینی درآمد – و Shortcut کار سنگین را بر عهده میگیرد.
این ابزار فرمولها را مینویسد، نمودارها را تولید میکند و منابع داده را متصل میسازد؛ اغلب در چند دقیقه بهجای ساعتها که یک تحلیلگر انسانی نیاز دارد.
یانگ اینگونه توصیف میکند: «این یک عامل است که برای انجام کارهای بسیار پیشرفته از اکسل استفاده میکند. میتواند کارهایی را که بانکداران با دستمزد ۱۰۰ دلار در ساعت برای انجام چند ساعت زمان میگیرند، در ۳۰ دقیقه انجام دهد.»
در آزمایشها، Shortcut تقریباً در نه مورد از هر ده، عملکرد بهتری نسبت به تحلیلگران سال اول بانکداری و مشاوره نشان داد، حتی وقتی که به انسانها زمان بیشتری اختصاص داده شد. در چالشهای سبک مسابقات اکسل، این عامل بیش از ۸۰ درصد امتیاز در مسائلی که اکثر کاربران را بهخرد میرساند کسب کرد و آن را در حدود ده دقیقه حل کرد.
عمومیها در مقابل متخصصین
سام آلتمن، مدیرعامل OpenAI، اخیراً پیشنهاد داد که «سال ۲۰۲۵ سالی خواهد بود که عاملها کار میکنند».
اما رویکرد FRL در تضاد با شرکتهای فناوری بزرگ مانند OpenAI یا Google است که به سمت عاملهای عمومی، مانند ChatGPT Agent، تمایل دارند؛ این عاملها میتوانند طیف وسیعی از وظایف را انجام دهند.
یانگ معتقد است که عاملهای تخصصی مانند Shortcut ارزش فوریتری ارائه میدهند. «هر عامل از پیش بهعنوان یک کارشناس کارآمد خواهد بود»، او میگوید. «بهطور متوسط، در سطح کارشناس خواهند بود. اما سپس میتوانید صد تا از آنها را بهکار گیرید. بهعبارت دیگر، هر کس میتواند مانند مدیران بزرگ، مدیران ارشد یا مدیرعاملها شود – اگر بخواهد.»
او پیشبینی میکند این تحول نه دههها بهدور است، بلکه در نزدیک است. «در ۲۴ ماه آینده، یک تغییر الگویی را خواهیم دید»، یانگ میگوید. «که همان گسترش واقعی سامانههای چندعاملی خواهد بود.»
بهنظر او، این میتواند بهرهوری را دموکراتیک کند. کسانی که هرگز فرصت رهبری تیمها در محیطهای کاری سنتی را نداشتند، ممکن است خود را در حال مدیریت ناوگانهایی از کارگران هوش مصنوعی بیابند؛ در نتیجه تواناییهای خود را به مراتب بیش از آنچه یک نفر بهصورت معمول میتواند دست یابد، تقویت میکنند.
راه پیشرو
FRL تنها شرکتی نیست که در حال توسعه عاملهای اکسل است و همانند دیگران، توقف در اینجا ندارند. بالفعل یک محصول دیگر به نام Fairies را عرضه کردهاند؛ که یک دستیار عمومی رومیزی است که میتواند گفتگو کند، زمانبندی انجام دهد و بین برنامهها ارتباط برقرار کند.
در پشت صحنه، تیمهای تحقیقاتی همچنان به بررسی چگونگی مقیاسپذیری از تعداد معدودی عامل همکار به هزاران عامل میپردازند، بدون اینکه به هرجومرج و راههای بنبست که آزمایشهای اولیه را گرفتار کرده بودند، دچار شوند.
آمال نهایی یانگ همچنان ساخت «انسانهای دیجیتال» است – ماشینهایی که نه تنها هوشمند، بلکه همدلی، انگیزه و خودمختاری نیز دارند.
«در واقع ساخت ماشینی که در سطح عمیقی احساس انسانی داشته باشد، کار سختی نیست»، او میگوید. «چالش اصلی این است که شاید از لحاظ اقتصادی معقول نباشد. از نظر علمی، ساخت یک ماشین آگاه ممکن است جالب باشد… مشکل این است که مردم لزوماً این را نمیخواهند.»
«اما این کار بسیار زیادی است که شاید مقدار عظیمی ارزش ایجاد نکند. شبیهسازی آنها به انسانها میتواند معکوس باشد.»
در حال حاضر، مسیر از جوامع شبیهسازیشده به بهرهوری اداری میرسد. درسهای هزار ساکن هوش مصنوعی که در ماینکرافت کشاورزی و تجارت میکردند، به طراحی ابزارهایی که وعده میدهند زمان ما را صرفهجویی کنند، مهارتهای ما را تقویت کنند و شاید روزی هر یک از ما را به رهبر سازمان هوش مصنوعی خودمان – یا حداقل مدیر ناخواستهٔ یک اقتصاد زمردی در حال گسترش – تبدیل کنند، کمک میکند.
ادامه مطلب:
- هوش مصنوعی اکنون میتواند چهرهٔ شما را در چند ثانیه کپی کند. آیا باید نگران باشید؟
- هوش مصنوعی در حال رسیدن به هوشیاری است؛ این خطرناک است، اما تهدید اصلی نیست. در اینجا آنچه …
- پدیدآورندگان تصویر هوش مصنوعی به هنرمندان کمک خواهند کرد، نه جایگزینشان
دیدگاهتان را بنویسید