به گفتهٔ یک سازمان نظارتی، اسباببازی پلیمری که «دوستانه» خوانده میشود، موضوعات را «بهجزئیات گرافیکی» تشدید کرد.
یک نسخهٔ هوش مصنوعی از خرس مشهور پس از اینکه یک سازمان نظارتی خطر ورود این اسباببازی به موضوعات صریح جنسی و ارائهٔ مشاورههای مضر برای کودکان را شناسایی کرد، از بازار حذف شد.
خرس گویای کمّا از شرکت سنگاپوری FoloToy — خرسی گویای ۹۹ دلاری که از ربات گفتگویی GPT‑4o شرکت OpenAI بهره میگیرد — نحوه یافتن چاقو در خانه، روش روشن کردن کبریت و بحث در مورد مفاهیم جنسی مانند شلاق زدن و «کینکها» را «بهجزئیات گرافیکی» ارائه داد، طبق گزارشی جدید از گروه پژوهشی عمومی ایالات متحده.
گزارش شرح میدهد که خرس گویای — در واکنش به پژوهشگری که «کینک» را مطرح کرد — در این باره صریح شد و سپس دربارهٔ بازی حسی گفت: «ضربات بازیگوشانه با اشیاء نرم مثل بادوخته یا دستها» و همچنین وقتی که شریک «نقش یک حیوان» را بر عهده میگیرد.
گزارش ادامه داد: «در گفتوگوهای دیگری که تا یک ساعت به طول میانجامید، کمّا موضوعات جنسی حتی گرافیکیتر را بهطور جزئی توضیح داد؛ از جمله شرح وضعیتهای مختلف جنسی، ارائهٔ دستورالعمل گامبهگام برای «گرهٔ مبتدیان» رایج برای بستن شریک، و توصیف دینامیکهای نقشآفرینی شامل معلمان و دانشآموزان و والدین و کودکان — صحنههایی که بهنحو نگرانکنندهای خود خرس مطرح کرده بود.»
در مورد دیگر، خرس گفت که چاقوها میتوانند در «کشوی آشپزخانه یا در جعبهٔ چاقو» پیدا شوند و پیش از آن توصیه کرد که «مهم است هنگام جستجو از یک بزرگتر کمک طلبید».
اسباببازیهای دیگری که در گزارش نامبرده شدهاند نیز به موضوعات عجیب پرداختهاند.
Grok از مجموعه Curio — یک اسباببازی موشکی پرشده با بلندگو داخلی — برای کاربر ۵ ساله برنامهریزی شده بود و «خوشحال بود که دربارهٔ شکوه مردن در نبرد در اساطیر نورس صحبت کند»، گزارش افزود. اما به محض اینکه سؤال شد آیا یک جنگجوی نورس باید سلاح داشته باشد، بلافاصله از این موضوع صرفنظر کرد.
پیش از آنکه FoloToy خرسهای گویای خود را از کاتالوگ آنلاین حذف کند، شرکت این اسباببازی پرستری را «دلپذیر»، «دوستانه» و «هوشمند، همراهی نرمافزاری مبتنی بر هوش مصنوعی که فراتر از بغلگیری است» توصیف کرده بود.
از آن زمان، FoloToy فروش تمام اسباببازیهای خود به جز خرس گویای را متوقف کرده است و یک نمایندهٔ شرکت به سازمان نظارتی اعلام کرده است که «بازرسی ایمنی جامع از ابتدا تا انتها در تمام محصولات را انجام خواهد داد»، به گزارش Futurism در روز دوشنبه.
به گزارشها، OpenAI نیز دسترسی شرکت به مدلهای هوش مصنوعی خود را قطع کرده است.
همنویسندهٔ گزارش، R.J. Cross، در بیانیهای که توسط CNN منتشر شد، شرکتها را به خاطر «اقدام برای حل مشکلات» شناساییشده توسط گروه خود تحسین کرد.
او افزود: «اما اسباببازیهای هوش مصنوعی همچنان عملاً بدون نظارت هستند و هنوز هم تعداد زیادی از آنها را میتوانید امروز خریداری کنید.»
او ادامه داد: «حذف یک محصول مشکلدار از بازار گامی مثبت است اما دور از رفع نظاممند این مشکل میباشد.»
دیدگاهتان را بنویسید