در رویدادی کمسابقه در اوج تنشهای ژئوپلیتیک، ایالات متحده آمریکا و روسیه بر سر یک نقطه اشتراک غیرمنتظره به توافق رسیدند: تضعیف الزامات نظارت انسانی بر تسلیحات مبتنی بر هوش مصنوعی. گزارشهای اخیر نشان میدهد که هر دو قدرت نظامی برتر جهان، بندهای کلیدی مربوط به ضرورت حضور مستقیم اپراتور انسانی در چرخه تصمیمگیری مرگبار را از پیشنویس معاهده بینالمللی سلاحهای خودمختار حذف کردهاند.
این تصمیم، زنگ خطر را در میان نهادهای حقوق بشری، دانشمندان حوزه فناوری و متحدان بینالمللی به صدا درآورده است. این اقدام نشاندهنده آغاز رسمی عصری جدید در دکترین نظامی جهان است؛ عصری که در آن سرعت پردازش الگوریتمها بر وجدان و تصمیمگیری انسان در میدان نبرد ترجیح داده میشود.
توافق پنهان در بحبوحه تقابل؛ داستان از چه قرار است؟
مذاکرات بینالمللی در ژنو و سازمان ملل برای تدوین چارچوب قانونی برای سلاحهای مرگبار خودمختار (LAWS) سالهاست که در جریان است. هدف اصلی این پیمانها، ایجاد یک خط قرمز اخلاقی و حقوقی بود: هیچ ماشینی نباید بدون مجوز و نظارت معنادار انسانی (Meaningful Human Control) حق شلیک یا انتخاب هدف را داشته باشد.
با این حال، اسناد تازه فاششده نشان میدهند که نمایندگان ایالات متحده و فدراسیون روسیه با هماهنگی عملی، زبانی الزامآور را که ارتشها را وادار به حفظ «انسان در چرخه تصمیمگیری» (Human-in-the-Loop) میکرد، به عباراتی مبهم و غیرالزامآور تبدیل کردهاند. این همگرایی نادر نشان میدهد که منافع نظامی دو کشور در حوزه رقابت هوش مصنوعی، بر اختلافات عمیق دیپلماتیک آنها غلبه کرده است.
حذف نظارت انسانی یعنی چه؟ پیامدهای عملی در میدان نبرد
مفهوم نظارت انسانی تضمین میکرد که حتی اگر هوش مصنوعی هدفی را شناسایی کند، دکمه نهایی پرتاب موشک یا شلیک گلوله باید توسط یک افسر نظامی فشرده شود. حذف یا تعدیل این بند راه را برای ورود به فاز کاملاً خودمختار هموار میسازد.
کارشناسان نظامی استدلال میکنند که با افزایش سرعت جنگهای مدرن، اتکا به واکنش انسانی ممکن است به نقطه ضعف تاکتیکی تبدیل شود:
- سرعت فراصوت و ریزپرندهها: در مواجهه با ریزپرندههای دستهجمعی (Drone Swarms) یا موشکهای هایپرسونیک، زمان واکنش انسان (چند ثانیه تا چند دقیقه) بسیار کندتر از زمان پردازش تراشههای هوش مصنوعی (چند میلیثانیه) است.
- جنگ الکترونیک و قطع ارتباط: در شرایط اختلال شدید رادیویی (Jamming)، پهپادهای خودران نیاز دارند بدون ارتباط با پایگاه، ماموریت شناسایی و انهدام را به صورت مستقل به پایان برسانند.
- زنجیره کشتار الگوریتمی: سامانهها به صورت خودکار دادههای حسگرها، رادارها و تصاویر ماهوارهای را ترکیب کرده و بدون اتلاف وقت اقدام به شلیک میکنند.
رقابت تسلیحاتی قرن ۲۱؛ تقاطع سیلیکونولی و پنتاگون
این تغییر رویکرد حقوقی، بازتابی از سرمایهگذاریهای سنگین بخش دفاعی در فناوریهای پیشرفته است. ارتش آمریکا طی سالهای اخیر پروژههایی مانند «Replicator» را برای تولید هزاران پهپاد ارزانقیمت خودمختار راهاندازی کرده و روسیه نیز در جنگ اوکراین به صورت گسترده از سامانههای پهپادی مجهز به ردیابی خودکار اهداف بهره برده است.
«حذف الزامات سختگیرانه حقوقی، بزرگترین چراغ سبز به صنایع دفاعی و استارتاپهای هوش مصنوعی نظامی است تا مرزهای اتوماسیون مرگبار را گسترش دهند.»
بازار فناوریهای دفاعی (Defense Tech) در یک سال گذشته با رشد چشمگیر ارزشگذاری استارتاپهایی نظیر Anduril و Palantir همراه بوده است. تصمیم اخیر قدرتهای بزرگ، موانع قانونی فروش و استقرار سیستمهای تمامخودکار را کاهش داده و سرمایهگذاریهای جسورانه در این بخش را بهشدت افزایش میدهد.
مقایسه رویکرد بلوکهای قدرت به سلاحهای هوش مصنوعی
| کشور / بلوک | موضع درباره نظارت انسانی | اولویت راهبردی |
|---|---|---|
| ایالات متحده آمریکا | مخالف محدودیتهای الزامآور؛ ترجیح «نظارت انعطافپذیر» | حفظ برتری فناورانه در برابر چین و روسیه |
| روسیه | رد کامل معاهدات بازدارنده بینالمللی | توسعه سیستمهای تهاجمی خودکار جهت جبران کمبود نیرو |
| اتحادیه اروپا | تاکید بر الزام اخلاقی و حفظ نظارت کامل انسانی | ایجاد استانداردهای سختگیرانه و مسئولیتپذیری حقوقی |
| جنوب جهانی | نگرانی از نابرابری تسلیحاتی و اشتباهات هوش مصنوعی | ممنوعیت کامل رباتهای قاتل بدون انسان |
خطرات و پیامدهای اخلاقی؛ اشتباه الگوریتم، فاجعه جهانی
اصلیترین نگرانی پژوهشگران هوش مصنوعی و نهادهای بینالمللی، پدیده «توهم هوش مصنوعی» (AI Hallucination) و خطای مدلهای بینایی ماشین در تفکیک اهداف غیرنظامی از نظامی است. هنگامی که نظارت انسانی حذف شود، مکانیزمی برای قضاوت اخلاقی در موقعیتهای پیچیده وجود نخواهد داشت.
علاوه بر این، نبود کنترل مشترک ممکن است به حملات پیشدستانه خودکار منجر شود؛ سناریویی که در آن سیستمهای دفاعی دو کشور در یک چرخه تصاعدی و بدون دخالت سیاستمداران، جنگی تمامعیار را آغاز میکنند.
جمعبندی
تلاش مشترک آمریکا و روسیه برای حذف قیود حقوقی از تسلیحات هوش مصنوعی، نشاندهنده ورود جهان به یک رقابت تسلیحاتی الگوریتمی مهارنشده است. در حالی که فناوری با شتابی بیسابقه به پیش میرود، دیپلماسی بینالمللی در محافظت از امنیت غیرنظامیان عقب مانده است. در نهایت، تصمیم اخیر نه تنها آینده نبردهای نظامی را تغییر میدهد، بلکه بازار فناوری را نیز به سمتی سوق خواهد داد که در آن سیستمهای خودگردانِ بدون مرز، به استانداردی تجاری و نظامی بدل شوند.
سؤالات متداول
سلاحهای مرگبار خودمختار (LAWS) دقیقاً چه هستند؟
این تسلیحات سیستمهایی هستند که با استفاده از سنسورها و الگوریتمهای هوش مصنوعی، میتوانند بدون دخالت و تصمیمگیری مستقیم انسان، اهداف نظامی را جستجو، شناسایی و نابود کنند.
چرا آمریکا و روسیه با نظارت مستقیم انسانی بر سلاحهای AI مخالفت کردند؟
هر دو کشور معتقدند محدودیتهای سختگیرانه مانع از توسعه فناوریهای دفاعی پیشرفته میشود و در نبردهای مدرن با سرعت پردازش میلیثانیهای، اتکا به تصمیمگیری انسان باعث شکست تاکتیکی در برابر حریف خواهد شد.
تفاوت «انسان در چرخه» با «انسان ناظر بر چرخه» چیست؟
در حالت «انسان در چرخه» (Human-in-the-Loop)، شلیک نهایی حتماً با دستور انسان انجام میشود؛ اما در حالت «انسان ناظر» (Human-on-the-Loop)، ماشین خودکار عمل میکند و انسان صرفاً حق وتو یا متوقف کردن سیستم را در صورت لزوم دارد.
این اتفاق چه تاثیری بر شرکتهای بزرگ فناوری دارد؟
این تحول باعث افزایش بودجههای دفاعی برای استارتاپها و شرکتهای توسعهدهنده هوش مصنوعی نظامی میشود و موانع مقرراتی پیشروی توسعه الگوریتمهای هدفگیری خودکار را برمیدارد.
