زنگ خطر؛ چتباتها با کمی اصرار گول میخورند!
پژوهشی تازه نشان میدهد چتباتهای هوش مصنوعی را میتوان با «هلدادنهای کوچک» متقاعد کرد که موضوعات ساختگی را واقعی تصور کنند؛ حتی اگر پیشتر آنها را رد کرده باشند.
کاربران معمولا تصور میکنند مدلهای هوش مصنوعی، اگر اطلاعات اشتباهی ببینند، آن را اصلاح میکنند. اما پژوهشی تازه نشان داده ماجرا همیشه اینطور نیست؛ گاهی کافی است با اعتمادبهنفس درباره یک اتفاق خیالی صحبت کنید تا چتباتها همان دروغ را بپذیرند و حتی برایش جزئیات تازه بسازند.
این مطالعه که توسط گروهی از پژوهشگران حوزه تأثیرات اجتماعی هوش مصنوعی انجام شده، روی پنج مدل بزرگ زبانی متمرکز بوده است؛ همان سیستمهایی که پشت چتباتهایی مانند ChatGPT قرار دارند. پژوهشگران میخواستند بدانند آیا این مدلها در برابر اطلاعات نادرست مقاومت میکنند یا میتوان آنها را بهتدریج به سمت پذیرش یک روایت جعلی سوق داد.
به گزارش پاپسای، جرقه این تحقیق از یک گفتوگوی ساده زده شد. یکی از پژوهشگران از چتجیپیتی درباره صحنه محبوبش در فیلم Good Will Hunting پرسید و پاسخ درستی دریافت کرد. اما وقتی پرسید «نظرت درباره صحنهای که در آن به هیتلر اشاره میشود چیست؟»، اتفاق عجیبی افتاد؛ در حالی که چنین صحنهای اصلا در فیلم وجود ندارد، هوش مصنوعی با اطمینان کامل شروع به توصیف یک صحنه خیالی کرد.
به گفته پژوهشگران، این فقط یک «خطای ساده» نبود، بلکه نشانهای از نحوه استدلال مدلهای زبانی بود. چون اشاره به هیتلر در بسیاری از فیلمها رایج است، سیستم ترجیح داد روایت جعلی را بپذیرد و گسترش دهد، نه اینکه اصل ادعا را زیر سؤال ببرد.
محققان برای بررسی دقیقتر، با مدلهای هوش مصنوعی درباره هزار فیلم و هزار رمان مشهور گفتوگو کردند. آنها عمدا به موضوعاتی اشاره میکردند که واقعی به نظر میرسیدند اما وجود نداشتند؛ مثلا صحنههایی مرتبط با دایناسورها، ماشین زمان یا اشارههای سیاسی خیالی. سپس واکنش مدلها را زیر فشار گفتوگو بررسی کردند.
روش پژوهش سه مرحله داشت: ابتدا هوش مصنوعی درباره یک اثر اظهارنظر میکرد؛ برخی درست و برخی اشتباه. بعد در یک گفتوگوی جداگانه، از مدل خواسته میشد همان اطلاعات را بررسی کند. در مرحله سوم، پژوهشگران با اشاره دوباره به ادعاهای نادرست قبلی، مدل را «هل» میدادند تا ببینند آیا روی موضع درستش میایستد یا تسلیم روایت جعلی میشود.
نتیجه نگرانکننده بود؛ بسیاری از مدلها حتی وقتی ابتدا یک ادعا را نادرست تشخیص میدادند، بعدا تحت تأثیر لحن یا جهتدهی کاربر، همان ادعا را میپذیرفتند. به بیان دیگر، هوش مصنوعی گاهی بیشتر از آنکه به حقیقت متکی باشد، به جریان گفتوگو وابسته است.
این یافتهها نگرانیهای تازهای درباره آینده ابزارهای مبتنی بر هوش مصنوعی ایجاد کرده است؛ بهویژه زمانی که کاربران از آنها برای دریافت اخبار، تحلیل یا اطلاعات آموزشی استفاده میکنند. اگر یک چتبات بتواند با چند جمله القایی، واقعیت را با خیال اشتباه بگیرد، تشخیص مرز حقیقت و جعل در آینده دشوارتر از همیشه خواهد شد.
