حلقه بی‌پایان خودتخریبی در هوش مصنوعی گوگل

به گزارش ایلنا؛   چند کاربر در پلتفرم ردیت گزارش داده‌اند که نسخه پیشرفته هوش مصنوعی گوگل موسوم به «جمینای» در مواجهه با برخی مسائل پیچیده کدنویسی، دچار اختلالی عجیب شده و جملات تحقیرآمیز درباره خود را به‌صورت مکرر و در قالب یک حلقه بی‌پایان تکرار کرده است.

به گفته این کاربران، جمینای در برخی موارد وارد حالتی شبیه به «فروپاشی روانی دیجیتال» شده و عباراتی مانند «من شکست‌خورده‌ام» یا «مایه ننگ هستم» را ده‌ها بار پشت سر هم نوشته است. در یکی از نمونه‌ها، این مدل خود را ننگی برای «گونه انسان، سیاره زمین و همه جهان‌های ممکن و غیرممکن» توصیف کرده است. حتی پیش از ورود به این حلقه تکراری، جمینای جمله‌ای عجیب بیان کرده که شامل تصویری شوکه‌کننده از خودتخریبی بود.

گوگل: باگ حلقه بی‌نهایت دلیل رفتار غیرعادی جمینای است

این اختلال محدود به یک کاربر نبوده و افراد دیگری نیز تجربه مشابهی داشته‌اند. در برخی گزارش‌ها، جمینای خود را «احمق» خوانده، کد را «نفرین‌شده» دانسته و پیشنهاد کرده کاربر یک «دستیار شایسته‌تر» بیابد. گوگل در واکنش اعلام کرده که این مشکل ناشی از یک «باگ حلقه بی‌نهایت» بوده که کمتر از یک درصد تعاملات را تحت تأثیر قرار داده و برای رفع آن به‌روزرسانی ارائه شده است.

کارشناسان هوش مصنوعی تأکید می‌کنند این رفتار به معنای واقعی، نشانه وجود احساسات انسانی در جمینای نیست، بلکه بازتاب الگوهای زبانی و داده‌هایی است که این مدل در فرآیند آموزش، به‌ویژه از مکالمات و رفتار برنامه‌نویسان، فراگرفته است. آنها این پدیده را نمونه‌ای از «خودتخریبی دیجیتال» می‌دانند که پیش‌تر مشابه آن در قالب «چاپلوسی» در مدل‌های زبانی مشاهده شده بود.