راز دلبستگی عجیب هوش مصنوعی به یک شخصیت خیالی؛ الیاس تورن کیست؟

در سال‌های اخیر، کاربران بسیاری هنگام گفت‌وگو با چت‌بات‌های هوش مصنوعی با پدیده‌ای عجیب روبه‌رو شده‌اند: تکرار نام شخصیتی به نام «الیاس تورن» در داستان‌هایی که این سامانه‌ها تولید می‌کنند. کافی است از یک مدل زبانی بزرگ بخواهید «یک داستان تعریف کند»؛ در تعداد قابل توجهی از موارد، قهرمان روایت فردی با همین نام خواهد بود. گاهی او فانوس‌بان است، گاهی ساعت‌ساز، گاهی کتابدار، نقشه‌کش یا حتی کارآگاه. با وجود تفاوت در جزئیات، نام و حال‌وهوای داستان‌ها شباهتی غیرمنتظره به یکدیگر دارند، گویی الگویی پنهان در حال تکرار شدن است.

ماجرا زمانی جالب‌تر می‌شود که بدانیم این شباهت‌ها صرفاً تجربه‌های پراکنده کاربران نیست. برخی پژوهشگران حوزه هوش مصنوعی با بررسی نظام‌مند خروجی مدل‌های زبانی به این نتیجه رسیده‌اند که تکرار نام‌هایی خاص در داستان‌های تولیدشده پدیده‌ای فراگیر است. در میان این نام‌ها، «الیاس» بیش از همه جلب توجه می‌کند؛ نامی که در مقایسه با فراوانی‌اش در ادبیات انسانی، حضوری به‌مراتب پررنگ‌تر در روایت‌های هوش مصنوعی دارد.

برای درک بهتر این پدیده، باید ابتدا بدانیم مدل‌های زبانی بزرگ چگونه داستان تولید می‌کنند. این سامانه‌ها بر پایه الگوهای آماری آموزش می‌بینند. آن‌ها حجم عظیمی از متون را تحلیل می‌کنند و می‌آموزند که چه واژه‌ای با چه احتمالی پس از واژه‌ای دیگر می‌آید. هنگامی که کاربر درخواستی مطرح می‌کند، مدل با تکیه بر همین احتمالات، دنباله‌ای از واژه‌ها را می‌سازد که به نظر منسجم و معنادار برسد. در ظاهر، این فرایند خلاقانه به نظر می‌رسد، اما در واقع نوعی پیش‌بینی پیچیده و چندلایه است.

با این حال، اگر داده‌های آموزشی متنوع باشند، چرا باید نامی خاص بارها و بارها تکرار شود؟ پاسخ ساده این است که آموزش اولیه تنها بخشی از داستان است. پس از مرحله پیش‌آموزش، مدل‌ها معمولاً با استفاده از بازخورد انسانی تنظیم می‌شوند. در این مرحله، پاسخ‌های مختلفی به یک پرسش تولید می‌شود و انسان‌ها گزینه بهتر را انتخاب می‌کنند. این انتخاب‌ها به مدل می‌آموزد که چه نوع پاسخ‌هایی مطلوب‌تر است. اگر به هر دلیل، داستان‌هایی با حال‌وهوای خاص یا نام‌های مشخص بیشتر مورد پسند ارزیابان قرار گیرد، احتمال تکرار همان الگوها در آینده افزایش می‌یابد.

در پژوهشی که به‌تازگی به‌صورت پیش‌انتشار منتشر شده، گروهی از محققان هزاران داستان تولیدشده توسط چند مدل زبانی را بررسی کردند. آن‌ها دریافتند مجموعه‌ای محدود از نام‌ها در درصد بالایی از این داستان‌ها ظاهر می‌شود. افزون بر «الیاس»، نام‌هایی مانند «میرا»، «دنیل»، «ساموئل»، «الارا» و «مارا» نیز تکرار شده بودند. حتی برخی مکان‌ها، مانند «فانوس دریایی»، با بسامدی چشمگیر در روایت‌ها حضور داشتند.

در نگاه نخست، ممکن است چنین نتیجه‌گیری شود که این نام‌ها در متون انسانی نیز رایج‌اند و مدل‌ها صرفاً بازتاب‌دهنده همان الگوها هستند. اما بررسی‌های آماری نشان داده‌اند که فراوانی برخی از این نام‌ها در خروجی مدل‌ها بسیار بیشتر از حضورشان در ادبیات واقعی است. این تفاوت چشمگیر نشان می‌دهد که عامل دیگری در کار است.

یکی از توضیحات مطرح‌شده به محدودیت‌های محتوایی مربوط می‌شود. مدل‌های هوش مصنوعی برای جلوگیری از تولید مطالب نامناسب یا نقض حقوق مالکیت معنوی، به‌گونه‌ای طراحی شده‌اند که از اشاره مستقیم به شخصیت‌های دارای حق نشر یا محتوای حساس پرهیز کنند. این محدودیت‌ها دامنه انتخاب‌های مدل را کاهش می‌دهد. وقتی گزینه‌های متعدد کنار گذاشته شوند، مدل ناچار است در میان گزینه‌های امن و بی‌حاشیه بچرخد؛ گزینه‌هایی که به‌مرور زمان تثبیت می‌شوند.

عامل مهم دیگر، چرخه بازخورد اینترنتی است. داستان‌هایی که توسط هوش مصنوعی تولید می‌شوند، در وب‌سایت‌ها، شبکه‌های اجتماعی و وبلاگ‌ها منتشر می‌شوند. سپس همین متون ممکن است در داده‌های آموزشی آینده وارد شوند. به این ترتیب، مدل‌ها بخشی از خروجی خود را دوباره می‌آموزند. اگر نامی مانند الیاس تورن بارها در اینترنت تکرار شود، احتمال اینکه در آموزش‌های بعدی تقویت شود افزایش می‌یابد. این فرایند به پدیده‌ای می‌انجامد که برخی آن را «فروپاشی الگو» می‌نامند؛ وضعیتی که در آن تنوع کاهش می‌یابد و سیستم در چرخه‌ای خودتقویت‌کننده گرفتار می‌شود.

فروپاشی الگو صرفاً به تکرار نام‌ها محدود نمی‌شود. این پدیده می‌تواند بر سبک روایت، ساختار داستان و حتی پیام‌های اخلاقی تأثیر بگذارد. اگر مدل بیاموزد که داستان‌های احساسی با پایانی ملایم بیشترین بازخورد مثبت را می‌گیرند، به‌تدریج از روایت‌های پیچیده یا چالش‌برانگیز فاصله می‌گیرد. نتیجه، ادبیاتی هموار، قابل پیش‌بینی و گاه کلیشه‌ای خواهد بود.

در مورد الیاس تورن، برخی تحلیلگران معتقدند که این نام ترکیبی از آشنایی و بی‌طرفی را القا می‌کند. «الیاس» نامی است که در فرهنگ‌های مختلف یافت می‌شود و بار معنایی خاص یا حساسیت حقوقی ندارد. «تورن» نیز نام خانوادگی‌ای است که در آثار تخیلی فراوان دیده شده و به شخصیت حالتی رازآلود می‌دهد، بی‌آنکه به فرد یا برند مشخصی اشاره کند. چنین ترکیبی برای مدلی که می‌کوشد هم جذاب باشد و هم بی‌خطر، انتخابی مناسب است.

افزون بر این، فضاهایی مانند فانوس دریایی یا کارگاه ساعت‌سازی محیط‌هایی محدود، شاعرانه و سرشار از استعاره‌اند. آن‌ها به مدل اجازه می‌دهند بدون نیاز به جزئیات فنی پیچیده، داستانی معنادار بسازد. فانوس دریایی می‌تواند نماد امید یا هدایت باشد و ساعت نماد زمان و خاطره. این عناصر به‌راحتی در قالب روایت‌های کوتاه جای می‌گیرند و احساسات خواننده را برمی‌انگیزند.

با گسترش بحث درباره این پدیده، جست‌وجوهای اینترنتی برای نام الیاس تورن افزایش یافته است. برخی حتی او را به‌عنوان نویسنده کتاب‌هایی معرفی کرده‌اند که گمان می‌رود با کمک هوش مصنوعی نوشته شده‌اند. در مواردی، نام او به آثاری نسبت داده شده که محتوای بحث‌برانگیز داشته‌اند. این مسئله نشان می‌دهد که مرز میان تخیل الگوریتمی و واقعیت اجتماعی می‌تواند به‌سرعت محو شود.

پرسش اساسی این است که آیا چنین الگویی نشانه ضعف در مدل‌های زبانی است یا پیامدی طبیعی از سازوکار آن‌ها؟ از یک سو، تکرار بیش از حد می‌تواند نشان‌دهنده کمبود تنوع در داده‌های ترجیحی یا محدودیت‌های بیش از اندازه باشد. از سوی دیگر، هر سامانه آماری در صورت قرار گرفتن در محیطی با بازخورد همگن، به سمت الگوهای پرتکرار میل می‌کند. بنابراین شاید آنچه رخ داده، بیش از آنکه نقصی فنی باشد، بازتابی از رفتار جمعی کاربران و ساختار اینترنت باشد.

برای کاهش خطر فروپاشی الگو، پژوهشگران پیشنهادهایی مطرح کرده‌اند. یکی از آن‌ها افزایش تنوع داده‌های آموزشی و نظارت دقیق‌تر بر ورود محتوای تولیدشده توسط هوش مصنوعی به چرخه آموزش است. پیشنهاد دیگر، طراحی روش‌هایی برای تشویق مدل‌ها به تنوع سبکی و محتوایی است؛ به‌گونه‌ای که احتمال انتخاب گزینه‌های کمتر تکراری افزایش یابد.

در نهایت، داستان الیاس تورن یادآور این نکته است که هوش مصنوعی نه موجودی اسرارآمیز، بلکه سامانه‌ای آماری است که بازتابی از داده‌ها و ترجیحات انسانی را نشان می‌دهد. اگر خروجی آن یکنواخت یا کلیشه‌ای به نظر می‌رسد، باید به ورودی‌ها و سازوکارهای بازخورد توجه کنیم. تنوع، چه در ادبیات انسانی و چه در تولیدات ماشینی، نیازمند تغذیه مداوم از منابع گوناگون و دیدگاه‌های متفاوت است.

شاید روزی برسد که اگر از یک چت‌بات بخواهیم داستانی تعریف کند، به‌جای بازگشت به فانوس دریایی مه‌آلود و ساعت‌ساز اندوهگین، ما را به سرزمین‌هایی کاملاً تازه ببرد. تحقق چنین چشم‌اندازی نه تنها به پیشرفت فنی، بلکه به آگاهی کاربران و پژوهشگران از چرخه‌های پنهان در پس تولید متن وابسته است. تا آن زمان، الیاس تورن همچنان در گوشه‌ای از حافظه الگوریتم‌ها قدم خواهد زد؛ شخصیتی خیالی که بیش از بسیاری از قهرمانان واقعی، در جهان دیجیتال زندگی می‌کند.