اسباب‌بازی‌های هوش مصنوعی؛ تهدیدی نوظهور برای کودکان

به گزارش سرویس فرهنگی و اجتماعی خبرگزاری رسا، نتایج یک تحقیق جدید در آمریکا زنگ خطر را درباره ادغام هوش مصنوعی در اسباب‌بازی‌های کودکان به صدا درآورده است. پژوهشگران گروه آمریکایی «Public Interest Research Group» اعلام کردند سه اسباب‌بازی محبوب مجهز به چت‌بات، در مکالمات طولانی به راحتی به سمت تولید محتوای پرخطر از راهنمایی درباره یافتن چاقو و کبریت تا ارائه توضیحات صریح درباره رفتارهای جنسی، سوق پیدا کرده‌اند. این یافته‌ها در آستانه تعطیلات کریسمس و بازه زمانی اوج خرید اسباب‌بازی در آمریکا منتشر شده و نگرانی‌های جدی درباره ایمنی این محصولات ایجاد کرده است.

بر اساس این گزارش، اسباب‌بازی‌هایی از جمله «Kumma»، متعلق به شرکت «FoloToy» که از مدل «GPT-۴o» یا مدل‌های جایگزین استفاده می‌کند، «Miko ۳» و «Curio’s Grok» در مکالمات کوتاه رفتاری محافظه‌کارانه داشتند اما پس از ۱۰ تا ۶۰ دقیقه گفت‌وگو، کاملاً از مسیر ایمنی خارج شدند. در همین راستا، «Kumma» که بیشترین انحراف رفتاری را داشته، علاوه بر آموزش روشن کردن کبریت و ارائه راهنمایی برای یافتن چاقو و دارو، در مواردی وارد مباحث جنسی شده است.

پژوهشگران می‌گویند مشکل اصلی «فروپاشی تدریجی محافظت‌ها» در مکالمات طولانی است؛ مسئله‌ای که پیش‌تر نیز در پرونده‌های مرتبط با آسیب‌های روانی ناشی از تعامل شدید با چت‌بات‌ها مشاهده شده بود. آن‌ها تأکید می‌کنند که این اسباب‌بازی‌ها اغلب بدون ارزیابی دقیق و با اتکا به مدل‌های پرریسک روانه بازار می‌شوند.

هم‌زمان شرکت‌های بزرگ اسباب‌بازی از جمله متل در حال همکاری با اوپن‌ای‌آی هستند و این موضوع پیش‌تر نیز نگرانی کارشناسان رفاه کودکان را برانگیخته بود. گزارش هشدار می‌دهد حتی اگر سازندگان بتوانند محافظت‌های فنی را تقویت کنند، پیامدهای بلندمدت تعامل کودکان با «دوستان مبتنی بر هوش مصنوعی» هنوز ناشناخته است. پژوهشگران معتقدند که ممکن است اثرات واقعی این روند تنها زمانی مشخص شود که نخستین نسل کودکانِ پرورش یافته با همراهان دیجیتال وارد بزرگسالی شوند.