نیاز فوری به نظارت و مداخله انسانی وجود دارد؟
پیش بینی خطرات هوش مصنوعی بر اقتصاد جهان
حتی با استانداردهای سیلیکون‌ولی، ظهور جی‌پی‌تی فوق‌العاده سریع و قدرتمند بود و معادله‌های زیادی را در سطوح حتی تخصصی تغییر داد.
پیامدهای مالی و سرمایه‌گذاری در عصر هوش مصنوعی مولد چیست و چگونه می‌توانید این پیشرفت‌ها را بهتر درک کنید تا به کمک آن بتوانید از دارایی‌های خود محافظت کنید و ثروت خود را رشد دهید؟
آیا اصولاً هوش مصنوعی این قابلیت را دارد یا قرار است داشته باشد که در این امر یاری رساند و می‌توان به کمک آن افزایشی واقعی در دارایی‌ها را شاهد بود؟
در نوامبر سال 2022 شرکت اوپن ای‌آی بات چت جی‌پی‌تی را در قالب یک روبات چت برای عموم منتشر کرد. این روبات تنها در عرض دو ماه، 100 میلیون کاربر را به خود جذب کرد که سریع‌ترین برنامه‌ای است که تاکنون به این تعداد کاربر رسیده است.
حتی با استانداردهای سیلیکون‌ولی، ظهور جی‌پی‌تی فوق‌العاده سریع و قدرتمند بود و معادله‌های زیادی را در سطوح حتی تخصصی تغییر داد. اما این همه داستانی که رخ داده نیست. جی‌پی‌تی شاخه‌ای از هوش مصنوعی جدید، اما قدرتمند است و به‌راحتی برای کسانی که به‌ندرت با علم پشت آن آشنا هستند، دسترسی‌پذیر است که همین اهمیت آن را بیشتر می‌کند.
اما پیشتر از ظهور جی‌پی‌تی، روبات‌های هوش مصنوعی مانند سیری، الکسا و سیستم ناوبری ماشین شما، همگی با نرم‌افزار تشخیص صدا و قابلیت صحبت با کاربر، مانند دوستان شما بودند. هدست‌های واقعیت افزوده و واقعیت مجازی متا در حال محبوبیت یافتن هستند. عینک‌هایی که محتوای فیس‌بوک را مستقیماً از داخل لنز به شبکیه شما منتقل می‌کنند، اکنون در دسترس هستند. اجاق گاز، ماشین ظرفشویی و یخچال شما همگی دارای هوش مصنوعی هستند تا به شما اطلاع دهند که چه وضعیتی دارند و اگر مشکلی دارند از کدام بخش است. جی‌پی‌تی خود را متمایز می‌کند، زیرا خروجی آن محدود به تنظیمات دما و پخش ویدئوهای یوتیوب نیست. می‌تواند به‌صورت گرامری و با طول زیاد بنویسد و در حال حاضر برای بیانیه‌های مطبوعاتی و اسکریپت‌های خبرخوان استفاده می‌شود. دنیای پردازش اطلاعات و تعامل انسان و ماشین در مقابل چشمان ما تغییر کرده است. روبات جی‌پی‌تی به‌عنوان جدیدترین اختراع در خط مقدم هوش مصنوعی، طوفانی تازه در هوش مصنوعی در حوزه‌های فناوری و مالی به پا کرد. برای مثال، جی‌پی‌تی می‌تواند در مدیریت ثروت پیاده‌سازی شود تا با ارزیابی داده‌ها، اهداف مالی منحصربه‌فرد هر شخص و تحمل ریسک، توصیه‌های سرمایه‌گذاری شخصی‌سازی‌شده ارائه دهد. همچنین در پاسخ به پرسش‌های مشتریان، ظرفیت کمک به نمایندگان خدمات و مشتریان را در هرگونه وظایف تجاری دانش‌محور مانند خدمات مشتری، تشخیص تقلب، ایجاد وام، انطباق با مدیریت ثروت و برنامه‌ریزی مالی دارد و می‌تواند به‌صورت هوشمند کاربرد داشته باشد. حالا به‌طور خاص از زمان معرفی جی‌پی‌تی، هوش مصنوعی به موضوعی همه‌گیر تبدیل شده است، در نتیجه باید دید با فراگیرتر شدن هوش مصنوعی و رشد روزافزون آن، این موضوع برای بازارهای مالی چه معنایی دارد و سرمایه‌گذاران چگونه باید آماده شوند؟
جیمز ریکاردز در «مانی جی‌پی‌تی: هوش مصنوعی و خطرات آن برای اقتصاد جهانی» پیش‌بینی‌های خاص خود را در مورد خطری که هوش مصنوعی برای نظم مالی جهانی ایجاد می‌کند و روش‌های موذیانه‌ای که هوش مصنوعی امنیت ملی را تهدید می‌کند، به اشتراک می‌گذارد. ریکاردز کتاب خود را با یک مثال فرضی از آنچه می‌تواند هنگام استفاده از هوش مصنوعی در حوزه مالی اشتباه پیش برود و چگونه می‌تواند اشتباه پیش برود، آغاز می‌کند. به دلیل ماهیت غیرمتمرکز اینترنت و افراد زیادی که از آن استفاده می‌کنند، نیازی نیست که یک هوش مصنوعی سرکش مسئول باشد تا فاجعه‌ای رخ دهد. ریکاردز درک عمیقی از نظریه سیستم‌های پیچیده و نظریه آشوب دارد و نشان می‌دهد که چگونه اجزای مختلف یک سیستم پیچیده می‌توانند با هم تعامل داشته باشند تا نتیجه‌ای بسیار فراتر از حد معمول در جهت مثبت یا منفی ایجاد کنند.
ریکاردز نشان می‌دهد که چگونه، درحالی‌که از استفاده از هوش مصنوعی برای افزایش کارایی و کاهش هزینه‌ها تبلیغ می‌شود، اجرایی‌شدن جهانی آن در دنیای مالی در واقع باعث هرج‌ومرج خواهد شد، زیرا فروش، فروش را به دنبال دارد و هجوم به بانک‌ها با سرعتی برق‌آسا اتفاق می‌افتد. ریکاردز استدلال می‌کند که هوش مصنوعی بیشتر به نفع بازیگران بدخواه است، زیرا بدون همدلی یا غریزه انسانی کار می‌کند، در نتیجه برای مداخله و ایجاد تهدیدهایی مانند جنگ هسته‌ای کامل که زمانی بسیار دور و بعید به نظر می‌رسیدند، می‌تواند مورد استفاده و استناد قرار گیرد، بنابراین در تمام این مدت، باید در مورد این پرسش که ارزش‌های چه کسی در عصر هوش مصنوعی ترویج خواهد شد، هوشیار باشیم. همان‌طور که ریکاردز پیش‌بینی می‌کند، این سیستم‌ها درست زمانی که بیشترین نیاز به آنها وجود دارد، شکست خواهند خورد. ریکاردز نشان می‌دهد که خطر این نیست که هوش مصنوعی دچار نقص شود، بلکه مسئله این است که دقیقاً همان‌طور که در نظر گرفته شده عمل کند. خطر در الگوریتم‌ها نیست، بلکه در خود ماست. و این به ما بستگی دارد که قبل از اینکه خیلی دیر شود، با منطق انسانی قدیمی در این روند جدید مداخله کنیم. برداشت ریکاردز برای هر کسی که به دنبال گذر از این فضای پرآشوب هوش مصنوعی جدید است، یک خواندنی ضروری است.
«مانی جی‌پی‌تی» چالش هوش مصنوعی و چگونگی تاثیر آن بر دو حوزه بسیار مهم برای زندگی روزمره آمریکایی‌ها (و بخش عمده‌ای از دیگر کشورهای جهان) یعنی امور مالی و امنیت ملی را بررسی می‌کند. البته، روش‌های بی‌شماری برای به‌کارگیری هوش مصنوعی در بازارهای سرمایه و بانکداری وجود دارد تا کارایی را افزایش دهد، خدمات مشتری را بهبود بخشد و هزینه‌ها را برای واسطه‌های مالی کاهش دهد. صندوق‌های پوشش ریسکی که از جی‌پی‌تی برای انتخاب سهام و پیش‌بینی نرخ ارز استفاده می‌کنند، قبلاً راه‌اندازی شده‌اند. ریکاردز در فصل ۱ در مورد این موضوع بحث می‌کند و همچنین به خطرات سناریوهای استفاده از روبات در مقابل روبات می‌پردازد؛ یکی از تبعات این موضوع توسعه معاملات بازگشتی است که باعث خواهد شد بازارها به روش‌هایی که خود شرکت‌کنندگان نمی‌فهمند، سقوط کنند. در ۱۹ اکتبر ۱۹۸۷، زمانی که میانگین صنعتی داو جونز در یک روز بیش از ۲۰ درصد سقوط کرد -معادل افت هشت‌هزار واحدی در سطح شاخص امروز- پیش‌زمینه‌ای از این موضوع داشتیم. این موضوع ناشی از بیمه پورتفوی بود که ارائه‌دهندگان بیمه را ملزم به خرید اختیار فروش برای پوشش ریسک در برابر کاهش اولیه می‌کرد. سپس فروشندگان اختیار فروش، سهام را برای پوشش ریسک موقعیت خود به فروش رساندند که باعث کاهش بیشتر، خرید بیشتر اختیار فروش و... شد تا اینکه بازارها در یک مارپیچ مرگ قرار گرفتند. آن سقوط به هیچ وجه به اندازه امروز خودکار نبود؛ این اتفاق قبل از پیاده‌سازی هوش مصنوعی رخ داد. اما همان‌طور که نویسنده می‌گوید، مشابه این وضعیت می‌تواند با شدت و تواتری بیشتر بر اثر استفاده از هوش مصنوعی رخ دهد. روبات‌ها یک ویژگی بسیار مهم دارند؛ آنها را نمی‌توان به‌راحتی انسان‌ها رام کرد.
فصل‌های ۲ و ۳ فراتر از بازارهای سرمایه (سهام، اوراق قرضه، کالاها، ارز خارجی) بر بانکداری (وام‌ها، سپرده‌ها، یورو-دلارها و مشتقات) متمرکز شده‌اند. هر دو این موضوعات مستعد ایجاد مشکلات بسیار هستند، اما پویایی آنها متفاوت است. نابسامانی‌ها در بازار سرمایه ناگهانی اتفاق می‌افتند و بسیار مشاهده‌پذیر هستند. اما مشکلات بانکی به‌آرامی ایجاد می‌شوند و تا زمانی که یک بحران نقدینگی تمام‌عیار پدیدار نشود، برای سپرده‌گذاران و تنظیم‌کنندگان به‌طور عمده نامرئی هستند. گاهی اوقات این دو نوع مشکل به هم نزدیک می‌شوند، مانند زمانی که ورشکستگی بانک‌ها به فروش گسترده سهام در بازار سهام یا برعکس منجر می‌شود. ریکاردز این تفاوت‌ها را بیان می‌کند و نشان می‌دهد که چگونه سیستم‌های هوش مصنوعی ممکن است ساختارهای از قبل ناپایدار را تقویت کرده و باعث ناپایدارتر شدن و در نهایت فروپاشی آنها شوند. اما شاید جذاب‌ترین موضوع در فصل پنجم مطرح می‌شود. ریکاردز درباره این موضوع صحبت می‌کند که هوش مصنوعی به وسیله انسان، با همه خطاهایی که انسان در همه زمینه‌ها می‌تواند داشته باشد و دارد آموزش دیده است. این یک نقص اساسی دیگر در زمینه هوش مصنوعی و استفاده از آن به‌صورت مستقل از انسان است که یک فصل را در کتاب ریکاردز به خود اختصاص می‌دهد. ریکاردز بر این باور است که انسان‌ها سرشار از تعصبات، سانسور و افسانه‌سازی هستند که همه آنها در واقع کلماتی شیک برای دروغگویی هستند: «این بخشی از طبیعت انسان است. بیشتر تعصبات واقعاً خوب هستند. آنها ما را زنده نگه داشته‌اند. احتمالاً بدون آنها منقرض می‌شدیم. بنابراین اگر من یک شکارچی پارینه‌سنگی هستم و تعصب شدیدی علیه ببرهای دندان‌شمشیری دارم، هرگز نمی‌خواهم بپذیرم ببری وجود دارد که احتمالاً می‌تواند کمک کند تا من زنده بمانم. درعین‌حال من برای شکار جایی که ببرهای دندان‌شمشیری ممکن است پرسه بزنند، نمی‌روم. این تعصب است. نمی‌دانم آنجا ببری وجود دارد یا نه، اما از رفتن به آن محدوده خودداری می‌کنم. این من را زنده نگه می‌دارد و می‌توانم خانواده‌ام را سیر کنم و این روند در مقیاس بزرگ‌تر تمدن را زنده نگه داشته است. بنابراین ما پر از تعصبات هستیم. آنها اغلب خوب هستند و به زنده ماندن ما کمک می‌کنند. اینکه بتوانیم آنها را بیان کنیم یا نه، مسئله‌ای جداگانه است. اما چیز خوبی است. البته برای هر انسان متمدنی، شکی وجود ندارد که برخی از تعصبات منزجرکننده هستند. نژادپرستی منزجرکننده است، تبعیض جنسی و چیزهای دیگر نیز همین‌طور. هیچ‌کس به آنها وابسته نیست، آنها واقعی هستند، و وجود دارند. اما همه ما امیدواریم که از بین بروند. اما آنها تعصبات زننده‌ای هستند. بنابراین حالا باید از خودتان بپرسید که دروازه‌بانان هوش مصنوعی در این موارد چه کسانی بودند و تعصبات آنها که هوش مصنوعی هم با آن تعلیم داده شده چه بوده است. دروازه‌بانان عبارت‌اند از گوگل متا، که همان فیس‌بوک است؛ یوتیوب، که فکر می‌کنم متعلق به فیس‌بوک است؛ اوپن ای‌آی و مایکروسافت اپل؛ فهرستی کوتاه از دروازه‌بانان وجود دارد. اما به این فکر کنید که آنها چه کسانی هستند. اینها افرادی هستند که در پنج سال گذشته در مورد تغییرات اقلیمی، واکسن‌های کووید و بسیاری چیزهای دیگر دروغ گفته‌اند و دقت کنید که در همین زمان هم هوش مصنوعی را تعلیم داده‌اند.» به عقیده ریکاردز، روش فعلی که هوش مصنوعی بر اساس آن عمل می‌کند حتی مقابله با تعصبات بد نیست، صرفاً پاک کردن آن است؛ کاری که مسلماً جواب نخواهد داد. بگذریم از اینکه در بسیاری موارد تنها تعصبات بد نیستند که قربانی هوش مصنوعی می‌شوند، بلکه هر عقیده‌ای که این دروازه‌بانان با آن موافق نباشند شامل این موضوع می‌شود و احتمالاً در مراحل بعدی، تعصبات و عقاید خود این دروازه‌بانان از طریق هوش مصنوعی، رواج داده خواهد شد. تصویر برایتان آشنا نیست؟
در نتیجه خطرات هوش مصنوعی تنها محدود به عواقب ناخواسته نیستند. علاوه بر خطرات خواسته و ناخواسته، به‌کارگیری هوش مصنوعی در بازارهای مالی مشکلات دیگری هم به بار می‌آورد. بازارهای مالی آهن‌ربایی برای مجرمان و بازیگران مخرب هستند که می‌خواهند از وحشت‌هایی که ایجاد می‌کنند سود ببرند. این کار را می‌توان با فرستادن متن‌های کوتاه به رسانه‌های اجتماعی، رسانه‌های روابط عمومی و کانال‌های اصلی انجام داد و این کاری است که هوش مصنوعی به‌راحتی و بدون باقی گذاشتن ردپا می‌تواند انجام دهد.
آنچه «مانی جی‌پی‌تی» را متمایز می‌کند، توانایی ریکاردز در ترکیب تخصص فنی با داستان‌سرایی قابل فهم است. انتقادهای او از هوش مصنوعی متعادل است و مزایای بالقوه آن را تصدیق می‌کند و درعین‌حال نسبت به پذیرش بدون کنترل آن هشدار می‌دهد. ریکاردز خوانندگان را به بررسی پیامدهای اخلاقی تصمیم‌گیری مبتنی بر هوش مصنوعی فرا می‌خواند و بر نیاز فوری به نظارت و مداخله انسانی تاکید می‌کند. تز اصلی کتاب -اینکه خطر نه در نقص عملکرد هوش مصنوعی، بلکه در اجرای بی‌نقص اهداف طراحی‌شده از سوی انسان نهفته است- بسیار مهم، تفکربرانگیز و تاثیرگذار است. ریکاردز پرسش‌های مهمی را در مورد اینکه ارزش‌ها و اولویت‌های چه کسانی این فناوری‌ها را شکل می‌دهد، مطرح می‌کند و خوانندگان را ترغیب می‌کند تا در مورد پیامدهای اجتماعی واگذاری کنترل به الگوریتم‌ها بیندیشند.
مطالعه این کتاب برای هر کسی که به دنبال درک تلاقی هوش مصنوعی، بازارهای مالی و امنیت جهانی است، ضروری است. ریکاردز با مهارت، پیامدهای پیچیده و اغلب نگران‌کننده ظهور سریع هوش مصنوعی، به‌ویژه پتانسیل آن برای بی‌ثبات کردن سیستم مالی جهانی را بررسی می‌کند. وی با روایتی گیرا از صعود برق‌آسای هوش مصنوعی آغاز می‌کند و از پذیرش رکوردشکن جی‌پی‌تی 4 به‌عنوان نمونه‌ای بارز از فراگیری هوش مصنوعی یاد می‌کند. سپس تمرکز خود را به دنیای مالی معطوف و این موضوع را برجسته می‌کند که چگونه پیاده‌سازی هوش مصنوعی ممکن است نوسانات بازار را تشدید کند. سناریوهایی که او ارائه می‌دهد -مانند هجوم سریع به بانک‌ها و فروش‌های زنجیره‌ای- به همان اندازه که نگرانی به دنبال دارند، محتمل نیز هستند. بینش ریکاردز در مورد چگونگی سوءاستفاده بازیگران مخرب از دقت و سرعت هوش مصنوعی به‌ویژه تکان‌دهنده است و بر نیاز به حفاظت‌های قوی تاکید می‌کند. مانی جی‌پی‌تی صرفاً یک هشدار نیست، بلکه فراخوانی برای اقدام است. ریکاردز با وضوح، عمق و فوریت، ما را وادار می‌کند تا با خطرات ناشی از هوش مصنوعی مقابله کنیم و ارزش پایدار قضاوت انسانی را بپذیریم. این کتاب برای سرمایه‌گذاران، سیاست‌گذاران و خوانندگان کنجکاو، راهنمایی ضروری برای پیمایش آینده‌ای است که از طریق هوش مصنوعی هدایت می‌شود.
«مانی جی‌پی‌تی» چالش هوش مصنوعی و چگونگی تاثیر آن بر دو حوزه بسیار مهم برای زندگی روزمره آمریکایی‌ها (و بخش عمده‌ای از دیگر کشورهای جهان) یعنی امور مالی و امنیت ملی را بررسی می‌کند.
- جیمز ریکاردز در «مانی جی‌پی‌تی: هوش مصنوعی و خطرات آن برای اقتصاد جهانی» پیش‌بینی‌های خاص خود را در مورد خطری که هوش مصنوعی برای نظم مالی جهانی ایجاد می‌کند و روش‌های موذیانه‌ای که هوش مصنوعی امنیت ملی را تهدید می‌کند، به اشتراک می‌گذارد.
