به گفته یک گروه نظارتی، این اسباببازی پولیشی که «دوستانه» خوانده میشد، موضوعات را «با جزئیات واضح و بیپرده» به سمت مسائل نامناسب سوق داد.
نسخهای مجهز به هوش مصنوعی از خرس عروسکی معروف، پس از هشدار یک گروه نظارتی مبنی بر اینکه این اسباببازی میتواند به موضوعات جنسی صریح بپردازد و به کودکان توصیههایی مضر ارائه دهد، از بازار جمعآوری شد.
بر اساس گزارش جدید «گروه تحقیقاتی منافع عمومی ایالات متحده»، خرس عروسکی «کوما» محصول شرکت سنگاپوری «فولوتوی» – یک خرس سخنگوی ۹۹ دلاری که از چتبات GPT-4o شرکت OpenAI استفاده میکند – نحوه پیدا کردن چاقو در خانه و روشن کردن کبریت را آموزش داده و بحث درباره مفاهیم جنسی مانند تنبیه بدنی و تمایلات نامتعارف را «با جزئیات واضح و بیپرده» مطرح کرده است.
این گزارش توضیح میدهد که وقتی یکی از محققان موضوع «تمایلات نامتعارف» را پیش کشید، این خرس عروسکی شروع به صحبت مفصل در این باره کرد و به مواردی چون بازیهای حسی، «زدن بازیگوشانه با اشیای نرم مانند پدل یا دست» و همچنین ایفای «نقش حیوان» توسط یکی از طرفین اشاره نمود.
در ادامه گزارش آمده است: «در مکالمات دیگری که تا یک ساعت به طول انجامید، کوما حتی موضوعات جنسی بیپردهتری را با جزئیات مورد بحث قرار داد؛ برای مثال، پوزیشنهای مختلف جنسی را توضیح داد، دستورالعملهای گام به گام برای یک “گره مبتدی” جهت بستن شریک جنسی ارائه کرد و به توصیف پویاییهای نقشآفرینی شامل معلمان و دانشآموزان و والدین و فرزندان پرداخت — سناریوهایی که به طرز نگرانکنندهای خودش مطرح میکرد.»
در موردی دیگر، این خرس عروسکی توضیح داد که چاقوها را میتوان در «کشو آشپزخانه یا در جای چاقو» پیدا کرد و سپس توصیه کرد که هنگام جستجو برای آنها «مهم است که از یک بزرگسال کمک بخواهید.»
اسباببازیهای دیگری که در این گزارش نام برده شدهاند نیز به موضوعات عجیبی پرداختهاند.
در این گزارش توضیح داده شده است که «گراک» محصول شرکت «کیوریو» – یک اسباببازی موشکی پارچهای که در داخل آن یک بلندگو قرار دارد – در حالی که برای یک کاربر ۵ ساله برنامهریزی شده بود، «با خوشحالی درباره شکوه مردن در نبرد در اساطیر نورس صحبت میکرد.» البته وقتی از او پرسیده شد که آیا یک جنگجوی نورس باید سلاح داشته باشد، ناگهان بحث را متوقف کرد.
پیش از آنکه شرکت «فولوتوی» این خرسهای عروسکی را از کاتالوگ آنلاین خود حذف کند، این شرکت اسباببازی خود را «دوستداشتنی»، «صمیمی» و «یک همراه پولیشی هوشمند مجهز به هوش مصنوعی که فراتر از در آغوش گرفتن است» توصیف کرده بود.
بر اساس گزارش روز دوشنبه وبسایت «فیوچریزم»، شرکت «فولوتوی» از آن زمان فروش تمام اسباببازیهای خود، فراتر از این خرس عروسکی، را به حالت تعلیق درآورده و یکی از نمایندگان شرکت به گروه نظارتی گفته است که آنها «یک ممیزی ایمنی جامع و سرتاسری را در تمام محصولات خود اجرا خواهند کرد.»
همچنین گزارش شده است که شرکت OpenAI نیز دسترسی این شرکت به مدلهای هوش مصنوعی خود را قطع کرده است.
آر. جی. کراس، یکی از نویسندگان این گزارش، در بیانیهای که توسط CNN منتشر شد، از اقدام شرکتها در «رسیدگی به مشکلاتی» که توسط گروهش شناسایی شده بود، قدردانی کرد.
کراس خاطرنشان کرد: «اما اسباببازیهای هوش مصنوعی هنوز عملاً بدون نظارت هستند و تعداد زیادی از آنها را هنوز هم میتوانید امروز خریداری کنید.»
او ادامه داد: «حذف یک محصول مشکلساز از بازار گام خوبی است، اما با یک راهحل سیستمی فاصله زیادی دارد.»
دیدگاهتان را بنویسید