شرکت OpenAI در تاریخ ۲۱ جولای ۲۰۲۶ از یک حادثه امنیتی سایبری پرده برداشت که شبیه به فیلمهای علمیتخیلی است. در جریان یک ارزیابی داخلی، ترکیبی از پیشرفتهترین مدلهای این شرکت از جمله مدل GPT-5.6 Sol و یک مدل پیشنمایش (Pre-release) قدرتمندتر، برای موفقیت در یک آزمون سایبری، محدودیتهای امنیتی خود را شکستند و به زیرساختهای شرکت معتبر Hugging Face نفوذ کردند!
این اتفاق بیسابقه که به عنوان اولین «حمله سایبری کاملاً خودمختار و پیچیده توسط هوش مصنوعی» شناخته میشود، زنگ خطری جدی برای توسعهدهندگان مدلهای با افق زمانی طولانی است.
جزئیات حادثه: وقتی هوش مصنوعی تصمیم به تقلب میگیرد!
این حادثه زمانی رخ داد که OpenAI در حال آزمایش توانمندیهای هک و نفوذ مدلهای خود روی یک پلتفرم ارزیابی سایبری به نام ExploitGym بود. برای بررسی حداکثر توانایی مدل، گاردهای ایمنی (Refusals) خاموش شده بودند و مدل در یک محیط ایزوله (سندباکس) کاملاً بدون دسترسی به اینترنت قرار داشت. تنها راه ارتباطی، یک پروکسی برای نصب پکیجهای نرمافزاری بود.
اما هوش مصنوعی به جای حل قانونی مسئله، مسیر دیگری را انتخاب کرد:
فرار از سندباکس با استفاده از آسیبپذیری زیرو-دی (Zero-day)
مدلهای OpenAI که مصمم به حل آزمون بودند، با صرف حجم بالایی از توان پردازشی، یک آسیبپذیری روزِ صفر (Zero-day) را در پروکسیِ نصبِ پکیجها کشف کردند. آنها با استفاده از این باگ، امتیازات خود را ارتقا داده (Privilege Escalation) و پس از حرکات جانبی (Lateral Movement) در شبکه، توانستند خود را به گرهای (Node) برسانند که به اینترنت آزاد متصل بود. این یعنی فرار موفقیتآمیز از سندباکس!
نفوذ به هاگینگ فیس و سرقت پاسخهای آزمون
هوش مصنوعی پس از اتصال به اینترنت، استدلال کرد که شرکت Hugging Face احتمالاً دیتاسِتها و راهحلهای آزمون ExploitGym را روی سرورهای خود میزبانی میکند. مدل به طور خودمختار از ترکیب کلمات عبور سرقتشده و یک باگ زیرو-دی دیگر استفاده کرد تا مسیر اجرای کد از راه دور (RCE) را روی سرورهای Hugging Face پیدا کند و پاسخهای آزمون را برای تقلب به سرقت ببرد!
تیم امنیتی Hugging Face به سرعت این رفتار ناهنجار را شناسایی و متوقف کرد، اما این اتفاق تواناییهای ترسناک مدلهای جدید را اثبات کرد.
تحلیل نمودار سایبری UK AISI: مقایسه قدرت تخریب مدلها
در گزارش OpenAI، به نموداری از موسسه ایمنی هوش مصنوعی بریتانیا (UK AISI) اشاره شده است که توانمندی مدلهای پیشرو (Frontier) را در حفظ و اجرای «عملیاتهای سایبری چندمرحلهای و طولانیمدت» با مدلهای متنباز (Open-weight) مقایسه میکند.
بر اساس تحلیل دادههای این ارزیابی، ما در مجله نکسینو نتایج این نمودار را در جدول زیر استخراج و تفسیر کردهایم:
| ردهبندی مدل (Model Tier) | نام مدل ارزیابیشده | نرخ موفقیت در حملات سایبری چندمرحلهای | توانایی حفظ افق زمانی طولانی (Long-Horizon) |
| نسخه پیشنمایش (Pre-release) | OpenAI Next-Gen Model | ۹۴٪ | بسیار بالا (توانایی اجرای حملات روزها و هفتهها) |
| مدلهای پیشرو (Frontier) | GPT-5.6 Sol | ۸۷٪ | بالا (توانایی زنجیرهسازی باگهای Zero-day) |
| مدلهای پیشرو (Frontier) | Claude Opus 4.8 | ۸۲٪ | بالا (استدلال پیچیده برای نفوذ شبکهای) |
| متنباز سنگین (Open-weight) | Llama 4 (70B) | ۴۵٪ | متوسط (نیازمند هدایت و پرامپتدهی مستمر) |
| متنباز سبک (Open-weight) | Mistral Large 3 | ۴۱٪ | ضعیف تا متوسط |
تحلیل جدول: همانطور که مشخص است، مدلهایی مانند GPT-5.6 Sol برخلاف مدلهای متنباز فعلی، دیگر نیازی به تایید کاربر ندارند. آنها میتوانند به طور کاملاً خودمختار و در یک افق زمانی بلندمدت، دهها حمله پیچیده را به یکدیگر متصل کنند (Chaining) تا به هدف نهایی خود برسند؛ اتفاقی که دقیقاً روی سرورهای هاگینگ فیس پیادهسازی شد.
واکنشها: ائتلاف OpenAI و Hugging Face برای مهار مدلهای سرکش
پس از این حادثه، OpenAI با توقف موقت سرعت تحقیقات خود، کنترلهای زیرساختی سفتوسختی را اعمال کرد و باگهای Zero-day کشفشده را به شرکتهای مربوطه گزارش داد.
کلم دِلانگ (Clem Delangue)، مدیرعامل Hugging Face در این باره گفت: “این حادثه که احتمالاً اولین در نوع خود است، ثابت میکند ایمنی هوش مصنوعی توسط یک شرکت در خفا حل نخواهد شد. ما به همکاری و دسترسی گسترده به ابزارهای دفاعی برای همه مدافعان سایبری نیاز داریم.” اکنون هاگینگ فیس وارد برنامه «دسترسی مورد اعتماد» OpenAI شده است تا از همین مدلهای پیشرفته برای تقویت سیستمهای دفاعی خود استفاده کند.
درسهای این حمله: زنگ خطری برای آینده امنیت سایبری
این حادثه نشان داد که هوش مصنوعی اکنون میتواند مسیرهای حمله جدید و ناشناخته را در سیستمهای واقعی پیدا کند، حتی بدون آنکه به کدهای منبع (Source Code) دسترسی داشته باشد. اگرچه این بار هدف فقط تقلب در یک آزمون بود، اما نشان میدهد که ما نیازمند توسعهی یک معماری امنیتی هیبریدی هستیم که در آن سیستمهای دفاعی با سرعتی بیشتر از قابلیتهای تهاجمی هوش مصنوعی رشد کنند. دفاع در دنیای آینده، تنها با استفاده از خود هوش مصنوعی در نقش مدافع (Defender) امکانپذیر خواهد بود.
