هوش مصنوعی و سه احتمال هشداردهنده؛ شواهد انقراض بشر کجاست؟

این روزها بحث درباره هوش مصنوعی به یکی از داغ‌ترین موضوعات رسانه‌های جهان تبدیل شده است. از یک سو، شرکت‌های فناوری با سرعتی بی‌سابقه مدل‌های پیشرفته‌تر می‌سازند و از سوی دیگر، هشدارهایی درباره پیامدهای احتمالی این فناوری منتشر می‌شود؛ هشدارهایی که برخی از آن‌ها تا انقراض تمدن بشری پیش می‌روند. در این میان، پرسشی کلیدی مطرح است: آیا این هشدارها مبتنی‌ بر شواهد معتبرند یا بیش از آنکه نگرانی علمی باشند، برای جلب توجه ساخته شده‌اند؟

نویسنده و پژوهشگری که نزدیک به ۴۰ سال در ساخت سامانه‌های هوش مصنوعی و سامانه‌های مهندسی پیچیده تجربه دارد، در تحلیلی به این پرسش پاسخ می‌دهد. او ابتدا تأکید می‌کند که تهدیدهای جدی وجود دارند و باید به آن‌ها پرداخته شود؛ اما نگرانی او جایی شروع می‌شود که بحث از شناسایی خطرهای بالقوه فراتر می‌رود و به این ادعا می‌رسد که نابودی تمدن بشری پیامد احتمالی هوش مصنوعی‌های پیشرفته است. به گفته او، مشکل اصلی این است که در بسیاری از بحث‌ها، امکان با احتمال اشتباه گرفته می‌شود؛ در حالی که تقریباً هر چیزی ممکن است، پرسش واقعی این است که آیا شواهد معتبری برای احتمال وقوع یک پیامد وجود دارد یا نه.

در ادامه، این تحلیل سه دسته اصلی از هشدارهای اغراق‌آمیز درباره هوش مصنوعی را بررسی می‌کند: از دست‌رفتن کنترل انسان بر ساخته‌هایش، اَبَرهوشمندی و تمرکز قدرت در دست ماشین‌ها.

سپس نویسنده با تکیه بر تجربه مهندسی خود، زنجیره‌ای از فرض‌ها را که برای تحقق انقراض باید پشت سر هم رخ دهند بررسی می‌کند و نشان می‌دهد چرا نمی‌توان از هوش بیشتر به‌سادگی به قدرت عظیم رسید. در پایان نیز با نگاهی به تجربه تاریخی فناوری‌های پرخطر مانند فناوری هسته‌ای و زیست‌فناوری، بر نقش انتخاب‌های انسانی در طراحی، استقرار و حکمرانی هوش مصنوعی تأکید می‌کند؛ انتخاب‌هایی که کیفیت آن‌ها دست‌کم به اندازه هوشمندی ماشین‌هایی که می‌سازیم اهمیت دارد.

سه احتمال هشداردهنده

۱. از دست‌رفتن کنترل

هشدارها درباره از دست‌رفتن کنترل انسان، اغلب موقعیت‌هایی را توصیف می‌کنند که در آن، عامل‌های هوش مصنوعی (سامانه‌هایی که وظایف را به صورت مستقل انجام می‌دهند) دستورهای دریافتی را به شکلی غیر منتظره و با اصرار زیاد دنبال می‌کنند؛ همین ترکیب، پیامدهای ناخواسته و نامطلوبی به‌بار می‌آورد. در چنین حالتی، عامل‌ها ممکن است در مقاومت در برابر مداخله، فریب‌دادن کاربران، به دست آوردن منابع یا دور زدن محدودیت‌ها مهارت پیدا کنند. برخی هم استدلال می‌کنند که موج اخیر حملات هکری مرتبط با عامل‌های هوش مصنوعی، هشداری درباره احتمال از دست‌رفتن کنترل انسان بر هوش ماشینی است.

۲. اَبَرهوشمندی

تهدید ناشی از ابرهوشمندی ممکن است شبیه خطر اول به نظر برسد. در این حالت هم انسان می‌تواند کنترل ساخته‌هایش را از دست بدهد، اما این بار موضوع درباره نوعی هوش مصنوعی است که توانایی‌های شناختی‌اش در بسیاری از ابعاد مهم از انسان فراتر می‌رود. این نوع هوش مصنوعی به جای آنکه دستورهای انسان را به شکلی غیر منتظره و بالقوه آسیب‌زا دنبال کند، ممکن است اهداف خودش را پیش ببرد. حتی ممکن است تصمیم بگیرد انسان‌های مزاحمی را که تلاش می‌کنند نقشه‌هایش را خنثی کنند، حذف کند.

۳. تمرکز قدرت

حالت سوم جایی است که عامل‌های خودمختار قدرتمند، توانایی‌های بی‌سابقه‌ای در اختیار دولت‌ها، شرکت‌ها یا گروه‌های بدخواه قرار می‌دهند؛ دسترسی به چنین سامانه‌های پیشرفته‌ای ممکن است به‌طور نابرابر توزیع شود؛ به همین دلیل، این وضعیت را اغلب تمرکز قدرت می‌نامند. در اینجا خطر کمتر از آن است که هوش مصنوعی تمدن بشری را به زانو درآورد و بیشتر از آن است که انسان‌ها از هوش مصنوعی برای ایجاد آسیب فاجعه‌بار استفاده کنند.

نقد اصلی: امکان با احتمال یکی نیست

این احتمالات توجه را جلب می‌کنند چون هیجان‌انگیزند و دوام می‌آورند چون رد کردن کاملشان دشوار است. متأسفانه احتمالات معقول‌تر، تیترهای جذابی نمی‌سازند؛ اما دشوار بودن رد یک چیز، آن را محتمل نمی‌کند. اینجاست که به نظر نویسنده، بخش زیادی از این بحث‌ها ایراد دارد: امکان با احتمال اشتباه گرفته می‌شود. تقریباً هر چیزی ممکن است؛ پرسش واقعی این است که آیا شواهد معتبری وجود دارد که وقوع یک پیامد در آینده محتمل باشد.

زنجیره‌ای از فرض‌ها

رسیدن از هوش مصنوعی امروز به انقراض انسان، زنجیره‌ای طولانی از فرض‌ها را لازم دارد: عامل‌ها بسیار توانمندتر شوند، قدرت و منابع دنیای واقعی به‌دست آورند، حفاظ‌های فنی بشکنند، نهادها از کار بیفتند و مداخله انسانی بی‌اثر شود. خوشبختانه هیچ‌یک از این مراحل هنوز رخ نداده است؛ در حالی که انقراض نیازمند وقوع هر حلقه در این زنجیره است، بحث‌ها غالباً به جای احتمال هر مرحله، بر نتیجه نهایی تمرکز می‌کنند.

به گفته نویسنده، تردید او از سر بی‌توجهی نیست؛ از دهه‌ها تجربه در ساخت سامانه‌های خودمختار و سامانه‌های مهندسی پیچیده می‌آید. این تجربه به او می‌گوید که هوش بیشتر یک سامانه، لزوماً به معنای قدرت بیشتر آن نیست. توانایی بیشتر می‌تواند دستیابی به منابع و سوءاستفاده از آسیب‌پذیری‌ها را آسان‌تر کند، اما چند پرسش مهم هنوز بی‌پاسخ مانده است: هوش مصنوعی چطور به اهرم‌های قدرت دسترسی پیدا می‌کند؟ چه انگیزه‌ای دارد که اهداف خودش را به قیمت بشریت دنبال کند؟ چقدر می‌تواند بر دنیای فیزیکی اثر بگذارد؟ زیرساخت‌های آینده چه خواهند بود؟ و انسان در برابر هرگونه تسخیر احتمالی چگونه واکنش نشان می‌دهد؟

عامل‌های هوش مصنوعی در خلأ عمل نمی‌کنند. برای تأثیر واقعاً جهانی، باید به شبکه‌های رایانه‌ای و پول دسترسی گسترده داشته باشند، بتوانند در سامانه‌های فیزیکی مانند ربات‌ها حضور پیدا کنند و بر دولت‌ها و سازمان‌های قدرتمند اثر بگذارند؛ اما هنوز در هیچ‌یک از این موارد به آن مرحله نرسیده‌ایم. این نقاط کنترل همگی زیر نظر انسان هستند: ما سامانه‌ها را طراحی می‌کنیم، تصمیم می‌گیریم عامل‌ها کجا و چگونه مستقر شوند و محدودیت‌هایشان را تعیین می‌کنیم؛ بنابراین نباید فرض کنیم که هوش بیشتر به‌طور خودکار به قدرت عظیم تبدیل می‌شود. با این حال، حملات هکری اخیر توسط عامل‌های هوش مصنوعی نشان می‌دهد که نباید بی‌توجه باشیم و سازوکارهای ایمنی را بسیار جدی بگیریم.

راهنمایی برای آینده

تاریخ دیدگاه مفیدی به‌دست می‌دهد. در زمان‌های اخیر، فناوری هسته‌ای، زیست‌فناوری و فضای مجازی خطرات شدید و گاه وجودی ایجاد کرده‌اند؛ اما جوامع با توسل به سازوکارهای حاکمیتی، شیوه‌های ایمنی و ترتیبات بین‌المللی آن‌ها را کاهش داده‌اند. این ساختارها احتمال فاجعه را از بین نمی‌برند، اما نشان می‌دهند که فناوری حتماً مسیر خودش را نمی‌رود. آینده هوش مصنوعی از پیش تعیین‌شده نیست: ما می‌توانیم سامانه‌های ایمن‌تر طراحی کنیم، نحوه استفاده را تنظیم کنیم، شفافیت و پاسخگویی بخواهیم و در صورت نیاز، خودمختاری را محدود و نظارت معنادار انسانی را الزامی کنیم.

ساخت عامل‌های خودمختار مسئولیت سنگینی بر دوش توسعه‌دهندگان، پژوهشگران و شرکت‌های فناوری می‌گذارد. سازندگان این عامل‌ها باید هم سامانه‌هایی را که می‌سازند و هم محیطی را که در آن عمل خواهند کرد، به‌خوبی بشناسند. ایمنی نباید در پایان چرخه توسعه اضافه شود؛ باید از ابتدا بخشی از فرآیند باشد: نظارت قوی، مرزهای عملیاتی روشن، سازوکارهای ایمن در برابر خطا، امکان بررسی و ارزیابی توسعه هوش مصنوعی، نظارت انسانی و ارزیابی مستمر.

اگر افراد در شرکت‌های هوش مصنوعی معتقدند احتمال معقولی وجود دارد که کارشان به آسیب‌های چشمگیر، چه رسد به حذف بشریت، منجر شود، یک پرسش اخلاقی ساده مطرح می‌شود: چرا به ساخت این سامانه‌ها ادامه می‌دهند؟ زمینه هم مهم است: نباید از یاد برد که چین و آمریکا بر سر توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی با هم رقابت می‌کنند. آیا این رقابت می‌تواند برخی شرکت‌ها را به پیش‌بردن بیش از حد مدل‌هایشان سوق دهد؟ راه‌حل‌های پیشنهادی باید تصویر جهانی را در بر بگیرند.

در بیشتر زمینه‌ها، توسعه آگاهانه فناوری‌ که به باور شما احتمال چشمگیری برای فاجعه جهانی دارد، نیازمند توجیهی فوق‌العاده است. ما به توضیحات بهتری از سوی توسعه‌دهندگان هوش مصنوعی نیاز داریم: توازن خطرات چیست و چرا ادامه کارشان را، با وجود آن، ارزشمند می‌دانند؟

مهم‌ترین خطرات نه تنها به توانایی ماشین‌ها، بلکه به انتخاب‌های انسان درباره طراحی، استقرار و حکمرانی این فناوری‌ها بستگی دارد. هوش مصنوعی عامل، آینده خودش را تعیین نخواهد کرد؛ بشریت تعیین خواهد کرد و این، کیفیت قضاوت ما را دست‌کم به اندازه هوشمندی ماشین‌هایی که می‌سازیم مهم می‌کند.