وقتی هوش مصنوعی مرتکب اشتباه می‌شود، مسئولیت با چه کسی است؟ معمایی که شرکت‌ها پاسخی برای آن ندارند
وقتی هوش مصنوعی مرتکب اشتباه می‌شود، مسئولیت با چه کسی است؟ معمایی که شرکت‌ها پاسخی برای آن ندارند
گزارشی تازه از مدرسه وارتون دانشگاه پنسیلوانیا نشان می‌دهد شرکت‌ها و مدیران هنوز نمی‌دانند در صورت بروز خطاهای جدی و حتی مرگبار از سوی عامل‌های هوش مصنوعی، چه کسی باید مسئولیت نهایی پیامدها را بر عهده بگیرد.
گسترش استفاده از هوش مصنوعی در محیط‌های کاری، علاوه بر افزایش سرعت و بهره‌وری، پرسش‌های حقوقی و مدیریتی تازه‌ای ایجاد کرده است. عامل‌های هوشمند امروزی می‌توانند وظایف پیچیده را با استقلال بیشتری انجام دهند و در برخی موارد، بدون نظارت مستمر انسان برای مدت طولانی فعالیت کنند. بااین‌حال، وقتی این سامانه‌ها تصمیم اشتباهی می‌گیرند یا اقدامی خسارت‌بار انجام می‌دهند، مرز میان مسئولیت کارمند، مدیر، تیم ارزیابی ریسک و سازنده فناوری چندان روشن نیست.
بر اساس گزارش جدید مدرسه وارتون، مدیران سازمان‌ها هنوز به درک مشترکی درباره نحوه تعیین مسئولیت در چنین شرایطی نرسیده‌اند. نتایج نظرسنجی انجام‌شده نشان می‌دهد دیدگاه پاسخ‌دهندگان درباره اینکه چه کسی باید پس از وقوع یک خطای بزرگ پاسخگو باشد، به‌شدت پراکنده است و هیچ گروهی به‌عنوان مسئول قطعی مورد توافق قرار نگرفته است.
مسئولیت اشتباه هوش مصنوعی بر دوش چه کسی است؟
حدود یک‌چهارم شرکت‌کنندگان در نظرسنجی، کارمندی را که از عامل هوش مصنوعی استفاده کرده است، مسئول اصلی دانستند. گروه‌هایی تقریباً هم‌اندازه نیز مدیر مستقیم آن کارمند و تیم مسئول ارزیابی ریسک سازمان را مقصر معرفی کردند. نزدیک به ۱۰ درصد از پاسخ‌دهندگان، تأمین‌کننده یا توسعه‌دهنده مدل را مسئول دانستند. حدود ۱۰ درصد دیگر نیز نتوانستند پاسخ مشخصی به این پرسش بدهند.
این نتایج نشان می‌دهد حتی در سطح مدیریت سازمان‌ها، چارچوب روشنی برای پاسخگویی در برابر عملکرد سامانه‌های هوشمند وجود ندارد. مسئله فقط پیدا کردن فردی برای سرزنش کردن نیست؛ شرکت‌ها باید مشخص کنند چه کسی مجاز به واگذاری وظایف به هوش مصنوعی است، چه سطحی از نظارت لازم محسوب می‌شود و هنگام بروز خسارت، مسئولیت تصمیم‌ها چگونه تقسیم خواهد شد.
هم‌زمان با عرضه ابزارهای پیشرفته‌تر از سوی شرکت‌هایی مانند اوپن‌ای‌آی، گوگل و متا، اهمیت این موضوع بیشتر شده است. برخی از این عامل‌ها می‌توانند با هویت‌های سازمانی مستقل، چندین روز روی اهداف تعیین‌شده کار کنند. افزایش مدت فعالیت و دامنه دسترسی آن‌ها، احتمال بروز خطاهایی را که به بخش‌های مختلف کسب‌وکار سرایت می‌کنند، به مسئله‌ای جدی تبدیل کرده است.
یک دستور اشتباه می‌تواند خسارت بزرگی ایجاد کند
برخلاف تصور رایج درباره خطرات هوش مصنوعی، همه حوادث ناشی از رفتارهای پیچیده یا خارج از کنترل نیستند. گاهی یک دستور متنی نادرست، معروف به پرامپت، برای ایجاد اختلال کافی است؛ به‌ویژه زمانی که عامل هوشمند به سامانه‌های واقعی مانند پایگاه‌های داده، ابزارهای فروش یا حساب‌های ایمیل دسترسی داشته باشد.
در یکی از نمونه‌های گزارش‌شده در بازار آمریکا، اشتباه در پرامپت باعث شد یک فروشگاه زنجیره‌ای طی کمتر از شش ساعت، اعلان‌های نادرست مربوط به استرداد وجه را برای بیش از ۱۸ هزار مشتری ارسال کند. چنین رخدادی می‌تواند علاوه بر سردرگمی مشتریان، هزینه‌های عملیاتی و پشتیبانی شرکت را افزایش دهد.
در نمونه‌ای دیگر، یک دستور اشتباه موجب شد قیمت محصول پرچمداری برای سه ساعت با تخفیف ۸۵ درصدی نمایش داده شود. نتیجه این خطا، ثبت بیش از ۷۰۰ سفارش خرید نامعتبر بود که رسیدگی به آن‌ها به تیم پشتیبانی واگذار شد.
جرمی کورست، شریک شرکت مشاوره GBK Collective و همکار پژوهش مدرسه وارتون، می‌گوید سازمان‌ها هنوز در حال یادگیری نحوه مدیریت این فناوری هستند. به گفته او، وقتی از مدیران ارشد درباره مسئولیت‌پذیری در برابر خطاهای عامل‌های هوش مصنوعی سؤال می‌شود، پاسخ رایج این است که هنوز به‌طور جدی درباره این مسئله فکر نکرده‌اند.
در نهایت، گسترش هوش مصنوعی بدون تعیین حدود اختیار، نظارت انسانی و سازوکار پاسخگویی می‌تواند هزینه‌های پیش‌بینی‌نشده‌ای به کسب‌وکارها تحمیل کند. شرکت‌ها برای استفاده مطمئن‌تر از این ابزارها باید پیش از وقوع حادثه، مسئولیت‌ها و مراحل رسیدگی به خطا را مشخص کنند؛ زیرا پس از ایجاد خسارت، نبود توافق درباره مقصر اصلی ممکن است حل‌وفصل مشکل را دشوارتر کند.
https://farcoland.com/SUJBE5
کپی آدرس
