مهار رایگان توهم هوش مصنوعی؛ کشف روشی نوین برای اعتراف مدل‌ها به ندانستن

یکی از بزرگ‌ترین چالش‌های مدل‌های زبانی بزرگ (LLM)، پدیده «توهم» یا تولید اطلاعات نادرست با لحنی کاملاً مطمئن است. پژوهشگران به‌تازگی راهکاری نوین و شگفت‌انگیز ارائه داده‌اند که نشان می‌دهد مدل‌های هوش مصنوعی بدون نیاز به داده‌های برچسب‌خورده و پرهزینه، می‌توانند با تکیه بر سیگنال‌های شک درونی خود یاد بگیرند در مواقع تردید سکوت کنند یا بگویند «نمی‌دانم».

معمای توهم هوش مصنوعی؛ چرا چت‌بات‌ها با اعتمادبه‌نفس دروغ می‌گویند؟

از زمان اوج‌گیری هوش مصنوعی مولد، بزرگ‌ترین مانع در استفاده از این ابزارها در حوزه‌های حساسی مانند پزشکی، حقوق و امور مالی، توهم (Hallucination) بوده است. مدل‌های هوش مصنوعی واقعیت‌ها و گزاره‌های کذب را با همان تسلط و روانی کلامی بیان می‌کنند که حقایق علمی را توضیح می‌دهند. تاکنون برای حل این معضل، شرکت‌های بزرگ ناچار بودند مجموعه‌داده‌های عظیمی متشکل از پرسش‌ها و پاسخ‌های «درست» و «غلط» را با هزینه بسیار بالا و به دست متخصصان انسانی برچسب‌گذاری کنند تا به مدل بیاموزند چه زمانی حق حدس زدن ندارد و باید از پاسخ دادن خودداری کند (Abstention).

کشف جدید پژوهشگران: بهره‌گیری از «سیگنال شک» بدون هزینه

پژوهش جدیدی که در پایگاه علمی arXiv منتشر شده، نشان می‌دهد که مدل‌های هوش مصنوعی در واقع از نظر درونی متوجه تزلزل پاسخ‌های خود می‌شوند. زمانی که یک مدل در حال تولید پاسخی اشتباه است، سطح احتمال و اطمینان درونی (Confidence) آن افت مشهودی پیدا می‌کند. این افت اطمینان، یک سیگنال رایگان و بی‌دردسر است که پیش از این نادیده گرفته می‌شد.

تیم تحقیقاتی با استفاده از روش کارآمد LoRA (Low-Rank Adaptation) مدل‌های متعددی از ۱ تا ۸ میلیارد پارامتر را بازتنظیم (Fine-tune) کردند. در این روش، مدل بدون نیاز به حتی یک برچسب انسانی، طوری تنظیم شد که در صورت بالا بودن میزان اطمینان درونی‌اش پاسخ دهد و در صورتی که این سیگنال افت کند، مستقیماً اعلام کند: «مطمئن نیستم».

مقایسه رویکرد جدید با روش‌های سنتی مبتنی بر برچسب‌گذاری

نتایج این آزمایش روی شش مدل زبانی متن‌باز و در مواجهه با پرسش‌های دانشی کوتاه‌پاسخ شگفت‌انگیز بود. سنجش درستی پاسخ‌ها توسط یک مدل داور مستقل ارزیابی شد و نشان داد که روش «سیگنال شک بدون برچسب» دقیقاً به اندازه روش‌های تحت نظارت و مبتنی بر دیتاست‌های گران‌قیمت کارآمد است.

نقطه کور استراتژی جدید: توهمات با اطمینان بالا

با وجود موفقیت خیره‌کننده این تکنیک، پژوهشگران به یک محدودیت ساختاری یا «نقطه کور» نیز اشاره کرده‌اند. مدل‌های زبانی در پاره‌ای از موارد دچار خطاهایی می‌شوند که در عین نادرست بودن، اطمینان آماری بسیار بالایی به آن‌ها دارند. در چنین سناریوهایی، از آنجا که سطح اطمینان مدل دچار افت نمی‌شود، سیگنال شکی فعال نخواهد شد و مدل همان پاسخ کذب را با اطمینان بازگو می‌کند. بنابراین، اگرچه این روش بخش عمده توهمات ناشی از ابهام را فیلتر می‌کند، اما هنوز برای حذف کامل خطاهای بنیادی به سازوکارهای مکمل اعتبارسنجی نیاز است.

پیامدهای این دستاورد برای صنعت فناوری و کسب‌وکارها

کاهش هزینه‌های فاین‌تیون و ایمن‌سازی چت‌بات‌ها می‌تواند تاثیری چشمگیر بر توسعه هوش مصنوعی در استارتاپ‌ها و شرکت‌های کوچک‌تر بگذارد. پیش از این، انحصار مدل‌های قابل‌اعتماد در اختیار غول‌های فناوری بود که بودجه‌های میلیاردی برای تولید دیتاست‌های برچسب‌خورده داشتند. اکنون توسعه‌دهندگان می‌توانند با کمترین هزینه، هوش مصنوعی را به دستیاری صادق‌تر تبدیل کنند که شجاعت گفتن «نمی‌دانم» را دارد.

جمع‌بندی

دستیابی به هوش مصنوعی ایمن و قابل‌اعتماد نیازی به هزینه‌های نجومی برای برچسب‌گذاری همه خطاهای ممکن ندارد؛ مدل‌ها خود حاوی سرنخ‌هایی از میزان یقین و تردیدشان هستند. پیاده‌سازی این سیگنال‌های شک، گامی حیاتی به‌سوی سیستم‌های هوشمندی است که به‌جای پاسخ‌های گمراه‌کننده، مرزهای دانش خود را می‌شناسند.

سؤالات متداول

چرا مدل‌های هوش مصنوعی توهم می‌زنند؟

مدل‌های زبانی با پیش‌بینی محتمل‌ترین کلمه بعدی آموزش دیده‌اند، نه لزوماً درک حقیقت. به همین دلیل اگر اطلاعات کافی نداشته باشند، ممکن است پاسخی ساختگی اما به لحاظ نگارشی صحیح تولید کنند.

مزیت اصلی روش «سیگنال شک» نسبت به روش‌های پیشین چیست؟

این روش نیاز به داده‌های گران‌قیمت برچسب‌گذاری‌شده توسط انسان را کاملاً حذف می‌کند و مدل فقط بر اساس سطح اطمینان آماری درونی خودش تصمیم می‌گیرد پاسخ دهد یا سکوت کند.

آیا این تکنیک می‌تواند ۱۰۰ درصد توهمات هوش مصنوعی را مهار کند؟

خیر؛ نقطه کور این روش مواردی است که مدل به پاسخ نادرست خود اطمینان کامل دارد. در این سناریو، افتی در اطمینان ایجاد نمی‌شود تا مدل از پاسخ دادن خودداری کند.

این نوآوری چه تاثیری بر هزینه‌های شرکت‌های نرم‌افزاری دارد؟

این تکنیک با امکان پیاده‌سازی سریع از طریق روش‌های سبکی چون LoRA، هزینه توسعه مدل‌های دقیق و کاربردی را برای استارتاپ‌ها و تیم‌های توسعه به‌شدت کاهش می‌دهد.