پژوهشگران در Graphika میگویند کارزارهای تبلیغاتی آنلاین، اینترنت را با محتوای تولید شده توسط هوش مصنوعی که کیفیت پایینی دارد، پر کردهاند.
براساس گزارش جدید، بسیاری از بزرگترین و شناختهترین کارزارهای تبلیغاتی آنلاین که توسط دولتها حمایت میشوند، به استفاده از هوش مصنوعی پرداختهاند — اما در این زمینه غالباً توانایی کمی نشان میدهند.
این گزارش که توسط شرکت تجزیه و تحلیل شبکههای اجتماعی Graphika تهیه شده، نه عملیات تأثیرگذاری آنلاین در حال انجام را مورد بررسی قرار داد — از جمله آنهایی که ادعا میکند با دولتهای چین و روسیه ارتباط دارند — و دریافت که همانند بسیاری از پلتفرمهای اجتماعی، هر یک بهتدریج از هوش مصنوعی مولد برای تولید تصاویر، ویدئوها، متنها و ترجمهها استفاده میکنند.
پژوهشگران دریافتند که حمایتکنندگان کارزارهای تبلیغاتی برای انجام وظایف اصلی مانند تولید محتوا و ساخت شخصیتهای اینفلوئنسر در شبکههای اجتماعی به هوش مصنوعی متکی شدهاند و برخی از کارزارها را بهصورت کارآمدتری پیش میبرند. اما آنها میگویند کیفیت این محتوا پایین است و تعامل کمی دریافت میکند.
این نتایج با انتظارات بسیاری از پژوهشگران که پیشرفت روزافزون هوش مصنوعی مولد — هوش مصنوعیای که گفتار، نوشتار و تصاویر انسانی را در عکسها و ویدیوها تقلید میکند — همخوانی ندارد. این فناوری در سالهای اخیر به سرعت پیشرفت کرده و برخی کارشناسان هشدار دادهاند که تبلیغکنندگان بهنام کشورهای استبدادی میتوانند محتویات سنتتیک با کیفیت بالا و قانعکننده تولید کنند تا حتی افراد دقیقنظر در جوامع دمکراتیک را فریب دهند.
با این حال، پژوهشگران Graphika بهوضوح دریافتند که محتوای هوش مصنوعی تولید شده توسط این کارزارهای مستقر، «سرریزهای بیکیفیتی» است؛ از گزارشگرهای خبری مصنوعی که در ویدیوهای یوتیوب قانعکننده نیستند تا ترجمههای ناهموار یا وبسایتهای خبری جعلی که بهطور ناخواسته در سرفصلها از دستورات هوش مصنوعی استفاده میکنند.
دینا صادک، تحلیلگر ارشد در Graphika و یکی از نویسندگان گزارش، گفت: «عملیاتهای تأثیرگذاری بهطور سیستماتیک ابزارهای هوش مصنوعی را ادغام کردهاند و بخش عمدهای از آنها محتوای بیکیفیت و ارزان قیمت هوش مصنوعی است.» او افزود: «همانطور که پیش از این بود که این کارزارها بهطور منظم از هوش مصنوعی استفاده میکردند، بیشترین بخش پستهای آنها در شبکههای اجتماعی غربی توجه کمی یا اصلاً دریافت نمیکند.»
کارزارهای تأثیرگذاری آنلاین که هدفشان تغییر جهت سیاست آمریکا و پخش پیامهای تفرقهانگیز است، حداقل یک دهه پیش آغاز شدهاند؛ زمانی که آژانس تحقیقاتی اینترنتی مستقر در روسیه حسابهای متعددی در فیسبوک و توییتر ایجاد کرد و سعی در تأثیرگذاری بر انتخابات ریاستجمهوری ۲۰۱۶ داشت.
همانطور که در برخی حوزههای دیگر مانند امنیت سایبری و برنامهنویسی، رشد هوش مصنوعی زمینه تبلیغ آنلاین را متحول نکرده است، اما انجام برخی کارها را خودکارتر کرده است، صادک گفت.
او افزود: «ممکن است محتوا پایینکیفیت باشد، اما بهصورت وسیعی قابل گسترش است. میتوانند در جایی بنشینند، شاید فقط یک فرد با فشار دادن دکمهها این همه محتوا را تولید کند.»
از نمونههای ذکر شده در گزارش میتوان به «دوئپلگانگر» اشاره کرد؛ عملیاتی که وزارت عدالت آن را به کرملین مرتبط میداند و پژوهشگران میگویند از هوش مصنوعی برای ساخت وبسایتهای خبری جعلی که قانعکننده نیستند استفاده کرده است؛ و «اسپاموفلوژ» که وزارت عدالت آن را به چین نسبت میدهد و این کارزار افراد خبری جعلی هوش مصنوعی تولید میکند تا ویدیوهای تفرقهانگیز اما غیرقابلقبول را در شبکههای اجتماعی مانند X و یوتیوب گسترش دهد. گزارش همچنین به چندین عملیات اشاره کرد که از صدای عمیقفیک (deepfake) با کیفیت پایین استفاده کردهاند.
یک نمونه از این کارزارها، انتشار دیپفیکهای سلبریتیهایی چون اوپرا وینفری و رئیسجمهور پیشین باراک اوباما بود که بهنظر میرسیدند درباره رشد هند در صحنهٔ جهانی اظهار نظر میکنند. اما گزارش میگوید این ویدیوها غیرقابلقبول بهنظر میرسیدند و توجه زیادی جلب نکردند.
ویدیو دیگری با محوریت روسیهپراستی به نام «المپیک فرو ریخت» بهنظر میرسید تا بازیهای المپیک تابستانی ۲۰۲۴ پاریس را تخریب کند. با ارجاع به فیلم هالیوودی ۲۰۱۳ «الامپوس فرو ریخت»، این ویدیو نسخهٔ هوش مصنوعیِ تام کراس را به تصویر میکشید، در حالی که او در هیچیک از این فیلمها حضور نداشته است. گزارش نشان داد که این اثر جز در یک اتاق پژواک کوچک از حسابهایی که معمولاً فیلمهای این کارزار را بهاشتراک میگذارند، توجهی دریافت نکرد.
سخنگویان سفارت چین در واشنگتن، وزارت امور خارجهٔ روسیه، X و یوتیوب به درخواستهای اطلاعرسانی پاسخ ندادند.
چنانکه صادک میگوید، حتی اگر تلاشهای آنها به افراد زیادی نرسد، برای تبلیغکنندگان ارزش دارد که در عصر رباتهای گفتگوی هوش مصنوعی، اینترنت را پر کنند. شرکتهای تولیدکننده این رباتها بهطور مستمر با جمعآوری متنهای موجود در اینترنت، مدلهای خود را آموزش داده و بهصورت بازپخش مطالب استفاده میکنند.
مطالعهٔ اخیر موسسهٔ گفتگوی استراتژیک (Institute for Strategic Dialogue)، یک سازمان غیرانتفاعی حامی دموکراسی، نشان داد که اکثر رباتهای گفتگوی اصلی هوش مصنوعی یا مدلهای زبانی بزرگ، در پاسخهای خود به منابع خبری روسی حمایتشده توسط دولت اشاره میکنند؛ حتی برخی از این منابع تحت تحریم اتحادیهٔ اروپا قرار دارند.
دیدگاهتان را بنویسید