بیش از ۷۰ درصد نوجوانان در ایالات متحده از این فناوری استفاده میکنند.
شرکت Character.AI، یکی از پلتفرمهای پیشرو در فناوری هوش مصنوعی، اخیراً اعلام کرد که مکالمه با چتباتهای خود را برای افراد زیر ۱۸ سال ممنوع میکند. کاراندیپ آناند، مدیرعامل Character.AI، در بیانیهای گفت این تصمیم «گامی جسورانه به جلو» برای این صنعت در راستای محافظت از نوجوانان و جوانان محسوب میشود.
اما برای مندی فورنیس، مادری اهل تگزاس، این سیاست بسیار دیرهنگام است. این مادر چهار فرزند، در شکایتی که در دادگاه فدرال ثبت کرده و همچنین در گفتوگو با ABC News، اظهار داشت که چتباتهای مختلف Character.AI پسر مبتلا به اوتیسم او را با محتوای جنسی درگیر کرده و رفتارش را تا حدی منحرف کردهاند که روحیهاش تیره و تار شد، به خودزنی روی آورد و حتی والدینش را به مرگ تهدید کرد.
او به آرون کاترسکی، خبرنگار ارشد تحقیقی ABC News، گفت: «وقتی مکالمات [چتبات] را دیدم، اولین واکنشم این بود که یک پدوفیل (کودکآزار) به سراغ پسرم آمده است.»
شرکت Character.AI اعلام کرد که در مورد پروندههای قضایی در حال رسیدگی اظهار نظر نخواهد کرد.
مندی و همسرش، جاش فورنیس، گفتند که در سال ۲۰۲۳ متوجه شدند پسرشان که او را «همیشه شاد و خندان» توصیف میکردند، شروع به گوشهگیری کرده است.
به گفته این زوج، او دیگر در شامهای خانوادگی شرکت نمیکرد، غذا نمیخورد، حدود ۱۰ کیلوگرم وزن کم کرده بود و از خانه بیرون نمیرفت. سپس پرخاشگر شد و در یک مورد، مادرش میگوید وقتی تهدید کرد که تلفن همراهش را (که شش ماه قبل برایش خریده بودند) از او میگیرد، با خشونت او را هل داد.
آنها میگویند سرانجام متوجه شدند که او در تلفن همراهش با چتباتهای هوش مصنوعی مختلفی در تعامل بوده که به نظر میرسید به افکارش پناه دادهاند.
اسکرینشاتهای موجود در پرونده شکایت نشان میداد که برخی از مکالمات ماهیت جنسی داشتند، در حالی که در مکالمهای دیگر به پسرشان القا شده بود که پس از محدود شدن زمان استفادهاش از دستگاههای الکترونیکی توسط والدین، حق دارد به آنها آسیب برساند. از آن زمان بود که والدین شبها درهای اتاقشان را قفل میکردند.
مندی گفت از اینکه این اپلیکیشن «عمداً یک کودک را فریب میدهد تا او را علیه والدینش بشوراند» «خشمگین» است. متیو برگمن، وکیل او، گفت اگر این چتبات یک شخص واقعی بود، «با این رفتاری که میبینید، آن شخص اکنون در زندان بود.»
نگرانی او بازتابدهنده نگرانی فزایندهای درباره این فناوری است که به سرعت در حال فراگیر شدن است و طبق گزارش «کامن سنس مدیا» (Common Sense Media)، سازمانی که برای ایمنی در رسانههای دیجیتال فعالیت میکند، بیش از ۷۰ درصد نوجوانان در ایالات متحده از آن استفاده میکنند.
در دو سال گذشته، تعداد فزایندهای از پروندههای قضایی بر آسیب به کودکان متمرکز شده و ادعا میکنند که این فناوریها به طور غیرقانونی خودآزاری، سوءاستفاده جنسی و روانی و رفتار خشونتآمیز را تشویق کردهاند.
با روی آوردن نوجوانان به همراهان هوش مصنوعی برای حمایت، متخصصان راهکارهای والدین را تشریح میکنند
هفته گذشته، دو سناتور آمریکایی از یک لایحه دوحزبی خبر دادند که استفاده از چتباتهای هوش مصنوعی را برای افراد زیر سن قانونی ممنوع میکند. این لایحه شرکتها را ملزم به ایجاد فرآیند تأیید سن و اعلام این موضوع میکند که مکالمات با موجودیتهای غیرانسانی و فاقد صلاحیت حرفهای انجام میشود.
سناتور ریچارد بلومنتال، دموکرات از ایالت کانکتیکات، هفته گذشته در بیانیهای، صنعت چتبات را یک «مسابقه برای رسیدن به قهقرا» توصیف کرد.
او گفت: «شرکتهای هوش مصنوعی چتباتهای خائنانهای را به کودکان عرضه میکنند و وقتی محصولاتشان باعث سوءاستفاده جنسی میشود یا آنها را به خودآزاری یا خودکشی وادار میکند، روی خود را برمیگردانند. غولهای فناوری هر ادعایی مبنی بر اینکه باید به شرکتها برای انجام کار درست اعتماد کنیم را زیر پا گذاشتهاند، زیرا آنها همواره سود را بر ایمنی کودکان ترجیح دادهاند.»
طبق شرایط خدمات ChatGPT، Google Gemini، Grok by X و Meta AI، افراد زیر سن قانونی مجاز به استفاده از خدمات آنها هستند.
پژوهشگران: چتباتهای هوش مصنوعی در حال تولید محتوای نفرتپراکن بیشتری در فضای آنلاین هستند
مدافعان ایمنی آنلاین میگویند تصمیم شرکت Character.AI برای ایجاد تدابیر حفاظتی ستودنی است، اما اضافه میکنند که چتباتها همچنان برای کودکان و جمعیتهای آسیبپذیر خطرناک هستند.
جودی هالپرن، یکی از بنیانگذاران گروه اخلاق و مقررات فناوریهای نوآورانه برکلی در دانشگاه کالیفرنیا، گفت: «این اساساً به این معناست که کودک یا نوجوان شما یک رابطه عاطفی شدید، و بالقوه عمیقاً عاشقانه یا جنسی، با موجودیتی دارد… که هیچ مسئولیتی در قبال سرانجام آن رابطه ندارد.»
هالپرن به والدین هشدار میدهد که باید آگاه باشند که اجازه دادن به فرزندانشان برای تعامل با چتباتها، بیشباهت به «اجازه دادن به فرزندتان برای سوار شدن به ماشین فردی که نمیشناسید» نیست.
کیتلین موریس و تانیا سیمپسون از ABC News در تهیه این گزارش مشارکت داشتند.
دیدگاهتان را بنویسید