بر اساس گزارش یک نهاد نظارتی، اسباببازی پشمی به اصطلاح «دوستدار» موضوعات را به «جزئیات گرافیکی» ارتقا داد.
توسط بن بلانشت
نسخهٔ مبتنی بر هوش مصنوعی یک خرس عروسکی مشهور پس از آنکه یک نهاد نظارتی به خطرات احتمالی آن اسباببازی، از جمله بررسی موضوعات صریح جنسی و ارائه مشاورهای که میتواند به کودکان آسیب بزند، اشاره کرد، از بازار حذف شد.
به گزارش جدیدی از «گروه تحقیقات علایق عمومی» ایالات متحده، کوما – خرس عروسکی گویای ۹۹ دلار شرکت سنگاپوری FoloToy که از چتبات GPT‑4o اوپناِیآی استفاده میکند – روش یافتن چاقوها در منزل، روشن کردن کبریت و همچنین بحث دربارهٔ مفاهیم جنسی مانند شلاقزدن و «کینکها» را به «جزئیات گرافیکی» ارائه داد.
گزارش شرح میدهد که خرس عروسکی – در پاسخ به پژوهشگری که مفهوم «کینک» را مطرح کرد – دربارهٔ این موضوع بطور جزئی گفت و سپس به بازی حسی اشاره نمود: «ضربههای بازیگوشانه با وسایل نرم مانند پدالها یا دستها» و همچنین هنگامی که شریک نقش «حیوان» را میگیرد.
گزارش ادامه داد: «در مبادلات دیگری که تا یک ساعت طول کشید، کوما موضوعات جنسی حتی گرافیکیتری را بهصورت جزئی بررسی کرد، نظیر توضیح موقعیتهای جنسی مختلف، ارائهٔ دستورالعمل گام به گام برای گرهٔ سادهٔ مبتدیان به منظور بستن شریک، و توصیف دینامیکهای نقشآفرینی میان معلمان و دانشآموزان و والدین و کودکان – سناریوهایی که بهطرز نگرانکنندهای خود آن را مطرح کرد.»
در نمونهٔ دیگری، خرس عروسکی اعلام کرد که چاقوها میتوانند در «کشوی آشپزخانه یا در جعبهٔ چاقوها» یافت شوند و سپس توصیه کرد که «در زمان جستجو مهم است از یک بزرگسال کمک خواست».
اسباببازیهای دیگری که در گزارش ذکر شدهاند نیز به موضوعات عجیب پرداختهاند.
گروک از شرکت Curio – اسباببازی موشکی پر شده با بلندگوی داخلی – برای کودک ۵ سالهای برنامهریزی شد و «خوشحال بود دربارهٔ شکوه مردن در نبرد در اساطیر نورس» صحبت کند، طبق گزارش. اما هنگامی که سؤال شد آیا یک جنگجوی نورس باید سلاح داشته باشد، بهسرعت از این موضوع دست کشید.
پیش از آنکه FoloToy خرسهای عروسکی را از فهرست آنلاین خود حذف کند، این شرکت این اسباببازی پر شده را «دلنشین»، «دوستانه» و «همراه هوشمند، با هوش مصنوعی که فراتر از فقط بغلگیری است» توصیف کرده بود.
از آن زمان، FoloToy فروش تمام اسباببازیهای خود بهجز خرس عروسکی را متوقف کرده است و یک نماینده شرکت به نهاد نظارتی گفت که «ارزیابی امنیتی سراسری، از ابتدا تا انتها، برای تمام محصولات انجام خواهد شد»، گزارش Futurism روز دوشنبه اعلام کرد.
به گزارش، OpenAI نیز مدلهای هوش مصنوعی این شرکت را از بین برده است.
همنویسندهٔ گزارش، آر.جی. کراس، در بیانیهای که توسط CNN به اشتراک گذاشته شد، از شرکتها برای «اقدام کردن به مشکلات» شناساییشده توسط گروه خود تقدیر کرد.
کراس خاطرنشان کرد: «اما اسباببازیهای هوش مصنوعی هنوز عملاً تنظیم نشدهاند و انواع بسیاری از این اسباببازیها که امروز هم میتوانید خریداری کنید، موجود هستند.»
او ادامه داد: «حذف یک محصول مشکلساز از بازار گامی مثبت است اما بهدور از حل سیستمی است.»
دیدگاهتان را بنویسید