۱۰ خرداد ۱۴۰۳ - ۱۳:۳۵
کد خبر: ۷۵۸۵۲۳
هوش برتر (۱۷)؛

هوش مصنوعی منبع انتشار اخبار جعلی شده است

هوش مصنوعی منبع انتشار اخبار جعلی شده است
تحقیقات گوگل نشان می‌دهد اخبار جعلی ساخته‌شده توسط هوش مصنوعی به سرعت در حال افزایش است.

به گزارش سرویس فرهنگی و اجتماعی خبرگزاری رسا، از تصاویر جعلی جنگ تا فریب‌های سلبریتی، فناوری هوش مصنوعی شکل‌های جدیدی از اخبار جعلی و محتواهای تحریف‌کننده واقعیت را در فضای آنلاین ایجاد کرده است.

 تحلیل جدیدی که با همکاری محققان گوگل انجام شده است، نشان می‌دهد که این مشکل چقدر سریع رشد کرده است.این تحقیق که توسط محققان گوگل، دانشگاه دوک و چندین سازمان صحت‌سنجی اخبار و رسانه‌ها انجام شده است، هفته گذشته منتشر شد. 

این مقاله مجموعه داده عظیمی از اخبار جعلی را از سال 1995 به بعد معرفی می‌کند که توسط وب‌سایت‌هایی مانند Snopes بررسی صحت شده‌اند.به گفته محققان، داده‌ها نشان می‌دهند که تصاویر ساخته‌شده با هوش مصنوعی به سرعت به جایگاه برجسته‌ای رسیده‌اند و تقریباً به اندازه اشکال سنتی‌ترِ جعلِ اخبار، محبوب شده‌اند.

این تحقیق ابتدا توسط ۴۰۴ مدیا پس از مشاهده شدن توسط خبرنامه Faked Up گزارش شد و آن‌طور که محققان نوشته‌اند، به طور واضح نشان داد که «تصاویر ساخته‌شده با هوش مصنوعی تا اوایل سال گذشته تنها بخش کوچکی از کل جعل‌های محتوا را تشکیل می‌دادند».
اما سال گذشته شاهد انتشار ابزارهای جدید تولید تصویر با هوش مصنوعی توسط بازیگران اصلی فناوری، از جمله OpenAI، مایکروسافت و خود گوگل بودیم.
نمودار زیر افزایش شدید اخبار جعلی در اوایل ۲۰۲۳ را نشان می‌دهد:
هوش مصنوعی منبع انتشار اخبار جعلی شده است
این مطالعه همچنین با تمرکز بر روی سایر قالب‌های تولید محتوای رسانه‌ای، به این نتیجه رسیده است که در حال حاضر، ویدیوهای فریب‌آمیز تقریباً 60 درصد از کل موارد بررسی‌شده را تشکیل می‌دهند. ساشا لوچیونی، محقق برجسته اخلاق هوش مصنوعی می‌گوید: «این بدان معنا نیست که سرعت تولید اخبار جعلی با هوش مصنوعی کند شده است؛ بلکه به شخصه احساس می‌کنم دلیلش این است که [نمونه‌های زیادی از اخبار جعلی ساخته‌شده با هوش مصنوعی] وجود دارد که ردیابی آن‌ها دشوار است! خودم هم به‌طور مرتب آن‌ها را می‌بینم، حتی خارج از رسانه‌های اجتماعی، برای مثال در تبلیغات.»
 
برای مقابله با مشکل اخبار و محتواهای جعلی ساخته‌شده با هوش مصنوعی، گوگل اقداماتژ مانند «واترمارک دیجیتال» را راه‌اندازی کرده است؛ این اقدامات، تصاویر ساخته‌شده با هوش مصنوعی را برچسب جعلی می‌زنند؛ این برچسب اکنون برای چشم انسان قابل دیدن نیست اما گوگل به همراه مایکروسافت، اینتل و ادوبی همچنین در حال بررسی دادنِ اختیار به سازندگان برای افزودنِ واترمارکِ قابلِ رؤیت به تصاویر ساخته‌شده با هوش مصنوعی هستند.
 
ارسال نظرات