پژوهشگران هشدار میدهند که ابزارهای مولد به گروههای شبهنظامی، از نئوزنها تا دولت اسلامی، در گسترش ایدئولوژی کمک میکنند
در حالی که رونق هوش مصنوعی بخشهایی از صنعت موسیقی را متحول میکند، رباتهای تولید صدا نیز بهعنوان مزیتی برای گوشهای غیرمنتظره از اینترنت تبدیل شدهاند: جنبشهای افراطی که از آنها برای بازتولید صداها و سخنرانیهای شخصیتهای برجسته در محیط خود بهره میبرند و کارشناسان میگویند این امر به رشدشان کمک میکند.
«بهکارگیری ترجمهٔ مبتنی بر هوش مصنوعی توسط تروریستها و افراطگرایان نشانگر تحول قابلتوجهی در استراتژیهای تبلیغات دیجیتال است»، لوقاس وبِر، تحلیلگر ارشد اطلاعات تهدید در Tech Against Terrorism و پژوهشگر در مرکز سووفان گفت. وبِر بر نظارت بر ابزارهای آنلاین گروههای تروریستی و افراطی در سراسر جهان تخصص دارد.
«روشهای قبلی بر مترجمهای انسانی یا ترجمهٔ ماشینی ابتدایی متکی بودند که اغلب بهدلیل وفاداری زبانی و ظرافتهای سبکسازی محدود میشدند»، او افزود. «اکنون، با ظهور ابزارهای پیشرفته هوش مصنوعی مولد، این گروهها میتوانند ترجمههای یکپارچه و از نظر زمینهای دقیق تولید کنند که لحن، احساس و شدت ایدئولوژیک را در چندین زبان حفظ مینمایند.»
در جناح راست افراطی نئوزن، بهکارگیری نرمافزارهای شبیهسازی صوتی هوش مصنوعی بهطور فراوانی گسترش یافته است؛ بهطوریکه نسخههای انگلیسیزبان سخنرانیهای آدولف هیتلر بهدستآمدن دهها میلیون بار بازپخش در پلتفرمهای X، اینستاگرام، تیکتوک و سایر برنامهها را جذب کردهاند.
بهحسب یک پست پژوهشی اخیر از شبکه جهانی افراطگرایی و فناوری (GNet)، سازندگان محتوای افراطی به خدمات شبیهسازی صوتی، بهویژه ElevenLabs، روی آوردهاند و سخنرانیهای آرشیوی دورهٔ رایش سوم را بهآنها میسپارند؛ که پس از پردازش، به شکل تقلید از هیتلر به زبان انگلیسی بازتولید میشوند.
نئوزنهای شتابگر، که اقدام به برنامهریزی ترور علیه دولتهای غربی برای برانگیختن فروپاشی اجتماعی میکنند، نیز به این ابزارها روی آوردهاند تا نسخههای بهروزتر پیامهای پرخشونت خود را گسترش دهند. بهعنوان مثال، کتاب راهنمای شورشی «Siege» که توسط جیمز میسون، نئوزن آمریکایی و تروریست ممنوعه، نوشته شده و بهعنوان کتاب مقدس برای سازمانهایی مانند Base و بخش منقضیشدهٔ Atomwaffen شناخته میشود، در اواخر نوامبر به کتاب صوتی تبدیل شد.
«در چند ماه اخیر، من در تهیه یک کتاب صوتی از Siege نوشتهٔ جیمز میسون مشارکت داشتهام»، یک نفوذگر برجسته نئوزن که حضور قابلتوجهی در X و تلگرام دارد، گفت. او کتاب صوتی را با کمک ابزارهای هوش مصنوعی ترکیب کرده است.
«با استفاده از یک مدل صوتی سفارشی برای میسون، من هر خبرنامه و اکثر برشهای روزنامه پیوستشده را همانند نسخههای اصلی منتشرشده بازسازی کردم.»
این نفوذگر توانایی داشتن نوشتههای میسون از «آمریکای پیش از اینترنت» و تبدیل آنها به صدای معاصر را تمجید کرد.
«اما شنیدن دقت شگفتآور پیشبینیهای انجامشده در اوایل دههٔ هشتاد، واقعاً یک نقطهٔ عطف بر مسیر ایجاد میکند و نگرش من نسبت به هدف مشترکمان را در سطح بنیادی تغییر داد»، او گفت.
در اوج خود در سال ۲۰۲۰، گروه Base یک کتابکلوپ درباره Siege برگزار کرد که تأثیر قابلتوجهی بر چندین عضو داشته بود؛ آنها مزایای آن را در یک جنگ فرضی علیه دولت آمریکا مورد بحث قرار دادند. در همان سال، یک تحقیق سراسری FBI در زمینه مبارزه با تروریسم بیش از یکدوجین عضو این گروه را بهدلیل اتهامات مختلف مرتبط با تروریسم دستگیر کرد.
«سازنده این کتاب صوتی پیشتر محتواهای مشابهی بر پایه هوش مصنوعی منتشر کرده است؛ اما Siege سابقهای بدنامتر دارد»، جاشوا فیشر‑برچ، تحلیلگر تروریسم در پروژه Counter Extremism گفت. «بهدلیل وضعیت شبهفرهنگیاش در میان برخی از راستگراهای افراطی آنلاین، ترویج خشونتهای تکنفره، و تبدیل شدن به متن ضروری برای چندین گروه نئوزن که بهصراحت تروریسم را تأیید میکنند و اعضای آنها مرتکب اعمال خشونتآمیز شدند».
وبِر میگوید که رسانههای حامی دولت اسلامی در شبکههای رمزگذاریشده در حال حاضر بهطور فعال «از هوش مصنوعی برای تولید نسخههای متن‑به‑صدا از محتوای ایدئولوژیک منتشرشده در روزنامهها استفاده میکنند»، تا با تبدیل «تبلیغات مبتنی بر متن به روایتهای چندرسانهای جذاب» گسترش پیامهای خود را تقویت کنند.
گروههای تروریست جهادی برای ترجمهٔ آموزههای افراطی از عربی به محتوای چندزبانهای که بهراحتی قابلهضم باشد، از هوش مصنوعی بهره میگیرند. پیشتر، انور العولقی، امام آمریکایی که به عامل القاعده تبدیل شده بود، مجبور بود بهصورت شخصی سخنرانیهای انگلیسی برای تبلیغات جذبکنندگان در منطقهٔ انگلیسیزبان صداگذاری کند. سیا و افبیآی بارها به تأثیر صدای العولقی بهعنوان عاملی کلیدی در گسترش پیامهای القاعده اشاره کردهاند.
در Rocket.Chat — پلتفرم ارتباطی مورد ترجیح دولت اسلامی که برای برقراری ارتباط با پیروان و جذبکنندگان خود استفاده میکند — یک کاربر در ماه اکتبر یک کلیپ ویدئویی با گرافیکهای صیقلی و زیرنویس ژاپنی منتشر کرد و به دشواری انجام این کار بدون حضور هوش مصنوعی اشاره نمود.
«ژاپنی زبانی بسیار دشوار برای ترجمه از وضعیت اصلیاش به انگلیسی است، در حالی که حفظ ظرافت آن دشوار میشود»، کاربر حامی دولت اسلامی گفت. «شایان ذکر است که من برای هیچیک از رسانههای مرتبط از هوش مصنوعی استفاده نمیکنم، بهجز موارد استثنایی مرتبط با صدا.»
تا کنون، نه تنها دولت اسلامی، بلکه گروههای مختلف در سراسر طیف ایدئولوژیک، شروع به استفاده از برنامههای رایگان هوش مصنوعی، بهویژه ربات گفتگویی OpenAI به نام ChatGPT، برای تقویت کلی فعالیتهای خود کردهاند. گروه Base و گروههای همجوار از این ابزار برای تولید تصاویر استفاده کردهاند، در حالی که از سال ۲۰۲۳، استفاده از این ابزارها برای سادهسازی برنامهریزی و پژوهشها را نیز تأیید کردهاند.
مقامات مبارزه با تروریسم همواره اینترنت و پیشرفتهای فناوری را بهعنوان یک بازی پیگیری مستمر میبینند تا همگامی با گروههای تروریستی که از آنها بهره میبرند، حفظ شود. گروه Base، دولت اسلامی و سایر افراطگرایان پیش از این از فناوریهای نوظهور مانند رمزارزها برای جمعآوری مالی بهصورت ناشناس و بهاشتراکگذاری فایلهای مربوط به سلاحهای چاپ‑سهبعدی بهره بردهاند.
دیدگاهتان را بنویسید