سم آلتمن، مدیرعامل سرشناس OpenAI، در تصمیمی غیرمنتظره و بحث‌برانگیز اعلام کرده است که در جلسه استماع ویژه کنگره آمریکا با محوریت «خطرات مأموران خودسر هوش مصنوعی» شرکت نخواهد کرد. این اقدام در شرایطی رخ می‌دهد که فناوری عامل‌های خودمختار (AI Agents) به‌سرعت در حال تبدیل‌شدن به محور اصلی رقابت غول‌های فناوری است و هم‌زمان نگرانی قانون‌گذاران درباره پیامدهای امنیتی و اقتصادی این ابزارها به اوج خود رسیده است.
تصمیم غیرمنتظره سم آلتمن؛ پشت پرده غیبت در جلسه استماع کنگره
جلسه جدید کنگره ایالات متحده که قرار بود با تمرکز بر توسعه و خطرات نسل جدید عامل‌های هوش مصنوعی خودمختار با حضور رهبران ارشد سیلیکون‌ولی برگزار شود، با شوک بزرگی روبه‌رو شد. سم آلتمن که در سال‌های اخیر همواره به‌عنوان چهره اصلی و مدافع قانون‌گذاری مسئولانه هوش مصنوعی در برابر سنا و کنگره حاضر می‌شد، این بار تصمیم گرفته است از حضور فیزیکی در این نشست خودداری کند.
بر اساس گزارش‌های موثق، قانون‌گذاران قصد داشتند آلتمن و دیگر چهره‌های کلیدی صنعت هوش مصنوعی را در مورد پدیده‌ای موسوم به «مأموران سرکش یا خودسر» (Rogue AI Agents) به چالش بکشند. انصراف آلتمن از این جلسه، موجی از انتقادها را میان سناتورها برانگیخته و برخی آن را نشانه‌ای از تلاش OpenAI برای دور ماندن از زیر ذره‌بین نظارت‌های سخت‌گیرانه در آستانه عرضه تجاری نسل جدید عامل‌های خود می‌دانند.
مأموران هوش مصنوعی (AI Agents) چیستند و چرا کنگره نگران است؟
تا پیش از این، اکثر کاربران با مدل‌های زبانی بزرگ (LLM) نظیر ChatGPT در قالب چت‌بات‌های متنی تعامل داشتند؛ سامانه‌هایی که تنها به پرسش‌ها پاسخ می‌دادند. اما اکنون صنعت به سمت عامل‌های هوش مصنوعی خودمختار حرکت کرده است. این عامل‌ها قادرند بدون دخالت مداوم انسان، برنامه‌ریزی کنند، به ابزارهای نرم‌افزاری متصل شوند، کدهای دستوری اجرا نمایند و تصمیم‌های چندمرحله‌ای بگیرند.
نگرانی اصلی نمایندگان کنگره به سناریوهایی مربوط می‌شود که این عامل‌ها به‌دلیل خطاهای محاسباتی، آموزش‌های سوگیرانه یا نفوذ بدافزارها، رفتارهای پیش‌بینی‌نشده یا مخرب از خود نشان دهند. مهم‌ترین سرفصل‌های نگرانی قانون‌گذاران عبارتند از:
- حملات سایبری خودکار: توانایی عامل‌های خودمختار در یافتن رخنه‌های امنیتی و بهره‌برداری از آن‌ها با سرعت و ابعادی فراتر از توان تیم‌های دفاع سایبری انسانی.
- اختلال در سامانه‌های مالی: اتخاذ تصمیم‌های خودکار معاملاتی یا انتقال دارایی که می‌تواند شوک‌های مالی ناگهانی در بازارهای سهام و رمزارز ایجاد کند.
- از بین رفتن ردپای مسئولیت (Accountability Gap): در صورتی که یک عامل هوش مصنوعی خسارتی جدی به بار آورد، مشخص نیست مسئولیت حقوقی متوجه توسعه‌دهنده، کاربر یا خود پلتفرم است.
- دسترسی بدون کنترل به داده‌های حساس: ادغام این عامل‌ها با ایمیل‌ها، حساب‌های بانکی و فایل‌های اداری حساس در شرکت‌ها.
از استقبال سال ۲۰۲۳ تا احتیاط سال ۲۰۲۵: چرخش استراتژیک OpenAI
سم آلتمن در ماه می ۲۰۲۳ با استقبالی تاریخی در کنگره حاضر شد و حتی خودش خواستار تشکیل یک نهاد فدرال برای صدور مجوز برای مدل‌های پیشرفته هوش مصنوعی شد. با این حال، در ماه‌های اخیر مواضع OpenAI دستخوش تغییرات چشمگیری شده است.
«حرکت هوش مصنوعی از حالت ابزار پاسخ‌دهنده به مأمور اجرایی، مرز میان نوآوری و فاجعه سایبری را بسیار باریک کرده است؛ دلیلی که کنگره را بیش از هر زمان دیگری نگران ساخته است.»
با ورود پروژه‌هایی نظیر «Operator» از سوی OpenAI و ابزارهای مشابه از رقبایی همچون Anthropic و Google، رقابت تجاری بر سر تصاحب سهم بازار عامل‌های خودمختار وارد فاز بی‌رحمانه‌ای شده است. تحلیل‌گران بر این باورند که OpenAI اکنون نگران تصویب مقرراتی است که سرعت توسعه و استقرار تجاری ابزارهای جدید این شرکت را کاهش دهد.
مقایسه رویکرد شرکت‌های بزرگ در قبال مأموران خودمختار و نظارت دولتی
شرکت‌های پیشگام هوش مصنوعی هر یک استراتژی متفاوتی را در تنظیم روابط خود با نهادهای رگولاتوری در پیش گرفته‌اند:
| شرکت توسعه‌دهنده | محصول در حوزه عامل‌های هوش مصنوعی | رویکرد در برابر قانون‌گذاری دولتی | میزان شفافیت امنیتی |
|---|---|---|---|
| OpenAI | پروژه Operator و ابزارهای واسط API | ترجیح خودتنظیمی صنعتی و لابی‌گری برای جلوگیری از قوانین سخت‌گیرانه | متوسط (کاهش مستندات فنی متن‌باز) |
| Anthropic | قابلیت Computer Use در مدل Claude 3.5 | همکاری نزدیک با نهادهای ارزیابی ایمنی (US AISI) | بالا (ارائه مقالات مفصل ایمنی) |
| Google DeepMind | پروژه Astra و مدل‌های ادغام‌شده با اندروید | پایبندی به استانداردهای بین‌المللی و محافظه‌کاری در انتشار عمومی | بالا (رویکرد محتاطانه سازمانی) |
| Meta | مدل‌های منبع‌باز خانواده Llama | مخالفت صریح با محدودیت‌های رگولاتوری به‌بهانه ترویج منبع‌باز | بسیار بالا در کد، متغیر در تدابیر حفاظتی |
پیامدهای این تقابل بر بازار تکنولوژی و کاربران نهایی
غیبت سم آلتمن احتمالاً به تشدید تنش‌ها میان واشنگتن و دره سیلیکون دامن خواهد زد. در صورتی که کنگره احساس کند شرکت‌های هوش مصنوعی تمایلی به همکاری داوطلبانه ندارند، احتمال تصویب پیش‌نویس‌های سخت‌گیرانه‌تر نظیر احضارهای قانونی اجباری (Subpoena) یا اعمال محدودیت بر زنجیره تأمین محاسباتی قوت می‌گیرد.
برای بازار و کاربران، این مناقشات به معنای دوگانگی میان سرعت نوآوری و اطمینان از امنیت خواهد بود. در حالی که عامل‌های هوش مصنوعی نوید اتوماسیون بی‌سابقه‌ای در کارهای روزمره اداری و برنامه‌نویسی را می‌دهند، خلأ قانونی پیرامون این فناوری می‌تواند زمینه را برای حوادث امنیتی غیرقابل جبران مهیا کند.
جمع‌بندی
غیبت آلتمن در جلسه بررسی خطرات مأموران هوش مصنوعی نشان می‌دهد که دوران ماه عسل غول‌های فناوری با قانون‌گذاران به پایان رسیده است. با گذر از چت‌بات‌های ساده به سمت ابزارهای اقدام‌گر مستقل، چالش‌های نظارتی ابعاد جدی‌تری به خود گرفته‌اند. آینده فناوری نه فقط در آزمایشگاه‌های هوش مصنوعی، بلکه در توانایی جهان برای ایجاد تعادل میان پتانسیل تحول‌آفرین این ابزارها و حفظ امنیت زیرساخت‌های حیاتی رقم خواهد خورد.
سؤالات متداول
چرا سم آلتمن در جلسه استماع کنگره شرکت نمی‌کند؟
هنوز دلیل رسمی و کاملی از سوی شخص آلتمن منتشر نشده، اما تحلیل‌گران معتقدند اجتناب از فشارهای سیاسی پیرامون خطرات عامل‌های هوش مصنوعی و جلوگیری از ایجاد تعهدات رگولاتوری سخت‌گیرانه دلیل این تصمیم بوده است.
مأمور هوش مصنوعی خودسر (Rogue AI Agent) به چه معناست؟
به سیستم‌های هوش مصنوعی مستقلی گفته می‌شود که دارای دسترسی‌های اجرایی هستند و ممکن است به دلایل نقص فنی، دستورات مخرب یا تصمیم‌گیری‌های غیرمنتظره، اقداماتی آسیب‌زا و غیرقابل کنترل انجام دهند.
پروژه Operator شرکت OpenAI چیست؟
پروژه‌ای متمرکز بر توسعه عامل‌های هوش مصنوعی که می‌تواند به جای کاربر وظایفی مانند کدنویسی، رزرو بلیت، مدیریت ایمیل‌ها و تعامل با نرم‌افزارهای مختلف را به‌صورت خودکار انجام دهد.
غیبت آلتمن چه تأثیری بر روند قانون‌گذاری هوش مصنوعی خواهد داشت؟
این رویکرد احتمالاً بی‌اعتمادی قانون‌گذاران را افزایش داده و سناتورها را به سمت تدوین لوایح نظارتی اجباری و احضارهای رسمی سوق خواهد داد.
