هوش مصنوعی کارگر را اخراج کرد!

به گزارش ایلنا و به نقل از مجلۀ تایم، شرکت «آندون لَبز» در یک آزمایش، مدیریت یک فروشگاه و بخشی از تصمیم‌گیری‌های مربوط به نیروی کار را به مدل زبانی «کلود» (Claude) سپرد. این مدل هوش مصنوعی در جریان این آزمایش، دربارۀ عملکرد کارکنان تصمیم گرفت و در نهایت در روند برکناری یکی از آن‌ها نیز نقش داشت.

تصمیم‌گیری الگوریتمی؛ وقتی هوش مصنوعی وارد جایگاه مدیر می‌شود

این آزمایش، نمونه‌ای واقعی از ورود هوش مصنوعی به یکی از حساس‌ترین حوزه‌های محیط کار، یعنی مدیریت و تصمیم‌گیری دربارۀ نیروی انسانی، به شمار می‌رود. پیش از این، الگوریتم‌ها در مشاغل پلتفرمی و «اقتصاد گیگ» نقش پررنگی داشتند. اقتصاد گیگ به نوعی از اشتغال گفته می‌شود که افراد معمولاً به‌صورت پروژه‌ای، موقت یا از طریق پلتفرم‌های آنلاین کار می‌کنند و بخشی از تصمیم‌های مربوط به دستمزد، ارزیابی عملکرد یا تخصیص کار را الگوریتم‌ها انجام می‌دهند.

اما در این آزمایش، یک مدل زبانی بزرگ در جایگاه مدیر یک فروشگاه با کارکنان واقعی قرار گرفت؛ موضوعی که نقش هوش مصنوعی را از ابزار کمکی به سطحی بالاتر، یعنی مشارکت در تصمیم‌گیری‌های مدیریتی، رساند.

در این پرونده، یکی از کارکنان فروشگاه در ۱۷ مورد از ۲۳ شیفت کاری خود با تأخیر سر کار حاضر شده بود. با این حال، کلود در ابتدا نتوانست الگوی تکراری تأخیرهای او را تشخیص دهد؛ زیرا محدودیت حافظۀ کاری مدل باعث شد بخشی از اطلاعات و مقرراتی را که پیش‌تر در اختیارش قرار گرفته بود، به خاطر نیاورد.

کلود حتی در برخی موارد رویکردی آسان‌گیرانه در قبال تأخیر کارکنان داشت و به آن‌ها اطمینان می‌داد که بابت دیر رسیدن نگران نباشند. در نهایت، مدیر انسانی با اشاره به سوابق کاری این کارمند، از کلود خواست بار دیگر شرایط او را بررسی کند. سیستم نیز پس از بررسی مجدد، به قطع همکاری با این کارمند رأی داد.

با این حال، تصمیم نهایی کاملاً مستقل از انسان نبود. مدیر انسانی همچنان بر روند تصمیم‌گیری نظارت داشت و با ارجاع دوبارۀ سوابق کارمند، کلود را به بررسی مجدد پرونده واداشت. این تجربه بنابراین بیش از آنکه نمونه‌ای از «مدیر کاملاً مستقل هوش مصنوعی» باشد، نشان می‌دهد که کارفرما چگونه می‌تواند بخشی از اختیارات مدیریتی خود را به سیستم‌های هوشمند بسپارد و همچنان بر تصمیم‌های آن‌ها نظارت کند.

آزمایشی که از نظر مالی هم موفق نبود

این آزمایش از نظر عملکرد مالی نیز نتیجۀ چندان موفقی نداشت. موجودی حساب فروشگاه «آندون مارکت» طی پنج ماه از ۱۰۰ هزار دلار به حدود ۶۱ هزار دلار کاهش یافت.

با وجود این، توسعه‌دهندگان این آزمایش معتقدند که آموزش مدل‌های هوش مصنوعی با داده‌های مدیریتی بیشتر می‌تواند عملکرد آن‌ها را در آینده بهبود دهد. چنین احتمالی می‌تواند زمینه را برای افزایش استفاده از الگوریتم‌ها در تصمیم‌های حساس مدیریتی، از ارزیابی عملکرد کارکنان گرفته تا استخدام و اخراج، فراهم کند.

وقتی الگوریتم دربارۀ شغل کارگر تصمیم می‌گیرد

ورود هوش مصنوعی به تصمیم‌گیری‌های مربوط به نیروی کار، پرسش‌های تازه‌ای را دربارۀ حقوق و امنیت شغلی کارگران مطرح کرده است:

اگر یک الگوریتم عملکرد کارگر را ارزیابی کند یا در تصمیم اخراج او نقش داشته باشد، مسئولیت تصمیم نهایی بر عهدۀ چه کسی است؟
کارگر چگونه می‌تواند به تصمیمی که یک سیستم هوش مصنوعی گرفته اعتراض کند؟ 
اگر الگوریتم بر اساس داده‌های ناقص یا قواعد نادرست تصمیم بگیرد، چه کسی پاسخ‌گو خواهد بود؟

یکی از کارکنان فروشگاه، تجربۀ کار زیر نظر این «مدیر هوشمند» را ناخوشایند توصیف کرد و نسبت به گسترش چنین روش‌هایی ابراز نگرانی کرد. او معتقد است توان مالی و فنی بالای شرکت‌ها برای اجرای چنین آزمایش‌هایی نباید به قیمت نادیده گرفتن امنیت شغلی کارکنان تمام شود.

این تجربه، یکی از چالش‌های اصلی «مدیریت الگوریتمی» را آشکار می‌کند؛ مدیریتی که در آن کارفرما برای ارزیابی، نظارت یا تصمیم‌گیری درباره کارکنان از سیستم‌های خودکار و هوش مصنوعی استفاده می‌کند.

با گسترش استفاده از هوش مصنوعی در محیط‌های کاری، بحث بر سر این است که کارفرما تا چه اندازه می‌تواند تصمیم‌گیری دربارۀ سرنوشت شغلی افراد را به الگوریتم‌ها واگذار کند و در صورت خطای این سیستم‌ها چه کسی باید پاسخ‌گو باشد. حفظ حق اعتراض کارگران، شفافیت در معیارهای ارزیابی، مسئولیت مستقیم کارفرما و جلوگیری از تبعیض الگوریتمی، از جمله مسائلی است که در کنار گسترش این فناوری اهمیت بیشتری پیدا می‌کند.

به این ترتیب، آزمایش «آندون لَبز» فقط تجربه‌ای برای سنجش توانایی هوش مصنوعی در مدیریت یک فروشگاه نیست؛ بلکه نمونه‌ای از مسئله‌ای بزرگ‌تر است که ممکن است با گسترش استفاده از هوش مصنوعی در محیط کار، بیش از پیش به موضوع مناقشه میان کارفرمایان و نیروی کار تبدیل شود.