در پی هشدارهای تکاندهنده دانشمندان درباره خطرات غیرقابل کنترل «ابرهوش مصنوعی» (ASI)، گروهی از قانونگذاران بریتانیا خواستار اقدام فوری و اعلام ممنوعیت بر توسعه فناوریهایی شدهاند که هوش آنها از مجموع تواناییهای ذهنی بشر فراتر میرود. این درخواستها که چهرههای شاخص سیاسی مانند اندی برنهام، شهردار منچستر بزرگ را مخاطب قرار داده، نشاندهنده ورود بحث ایمنی هوش مصنوعی از محافل آکادمیک به سیاستگذاریهای کلان اجرایی است.
ماجرای درخواست ممنوعیت ابرهوش مصنوعی در بریتانیا چیست؟
در ساعات گذشته، فضای سیاسی و فناورانه بریتانیا تحت تأثیر بیانیهها و هشدارهای جدیدی قرار گرفته است که مستقیماً مرزهای توسعه هوش مصنوعی را هدف قرار دادهاند. گروهی از نمایندگان پارلمان بریتانیا از رهبران محلی و ملی، از جمله اندی برنهام (شهردار منچستر بزرگ)، خواستهاند تا موضعی صریح در برابر شتابزدگی شرکتهای فناوری در توسعه ابرهوش مصنوعی (Artificial Superintelligence یا ASI) اتخاذ کنند و از اعمال ممنوعیت یا توقف اضطراری (Moratorium) بر این فناوری پشتیبانی نمایند.
این درخواستها به دنبال جلسات استماع امنیتی و گزارشهای پژوهشگرانی مطرح شده که معتقدند فاصله میان هوش مصنوعی عمومی (AGI) و ابرهوش مصنوعی بسیار کمتر از برآوردهای اولیه است و در صورت عدم مهار بهموقع، سازوکارهای کنترل انسانی روی این سیستمها کاملاً بیاثر خواهد شد.
مرز میان هوش مصنوعی محدود، AGI و ASI؛ تفاوت در چیست؟
برای درک علت وحشت قانونگذاران و کارشناسان، تفکیک دقیق سه سطح توسعه هوش مصنوعی ضروری است:
- هوش مصنوعی محدود (Narrow AI): سیستمهای امروزی مانند مدلهای زبانی بزرگ (LLMs)، الگوریتمهای پردازش تصویر و سیستمهای خودران که صرفاً در وظایف مشخصی آموزش دیدهاند.
- هوش مصنوعی عمومی (AGI): سیستمی که میتواند هر وظیفه ذهنی قابل انجام توسط انسان را با همان کیفیت یا بهتر انجام دهد و قدرت تعمیم و یادگیری مستقل دارد.
- ابرهوش مصنوعی (ASI): هویتی شناختی که از باهوشترین انسانهای تاریخ در تمام زمینهها (از خلاقیت علمی و حل مسئله گرفته تا مهارتهای اجتماعی و استراتژی) بهطور تصاعدی برتر است و میتواند کدهای خود را بدون دخالت انسان بازنویسی و ارتقا دهد.
| سطح هوش مصنوعی | توانمندی کلیدی | وضعیت فعلی | سطح ریسک امنیتی |
|---|---|---|---|
| Narrow AI (محدود) | انجام تسکهای مشخص و ایزوله | موجود و تجاریشده (ChatGPT، ابزارهای تحلیلی) | متوسط (سوگیری، دیپفیک، مشاغل) |
| AGI (عمومی) | انعطافپذیری ذهنی در سطح انسان | در دست تحقیق و توسعه در آزمایشگاههای پیشرو | بسیار بالا (عدم تطابق اهداف، پیامدهای اقتصادی) |
| ASI (ابرهوش) | برتری شناختی مطلق و خودبهینهسازی نامحدود | فرضی، اما طبق پیشبینیها نزدیکتر از حد انتظار | اگزیستانسیال و حیاتی (خطر برای بقای انسان) |
چرا زنگ خطر برای مهار ASI با صدای بلندتری به صدا درآمده است؟
هشدار اخیر نمایندگان پارلمان نتیجه چند فاکتور کلیدی است که در ماههای اخیر سرعت گرفتهاند:
۱. کاهش چشمگیر افق زمانی پیشبینیها
تا چند سال پیش، تحلیلگران افق دستیابی به ابرهوش مصنوعی را دههها بعد ارزیابی میکردند؛ اما با جهش چشمگیر در معماری مدلهای استنتاجی و سرمایهگذاریهای صدها میلیارد دلاری غولهای فناوری، برخی از پیشگامان این صنعت معتقدند این رویداد ممکن است ظرف چند سال آینده رقم بخورد.
۲. بحران مهار و همراستاسازی (Alignment Problem)
بزرگترین کابوس دانشمندان رایانه این است که وقتی سیستمی توانایی یادگیری و بازنویسی ساختار خود را پیدا کند، انسانها ابزار فنی برای تضمین همراستایی اهداف آن با ارزشها و امنیت بشر در اختیار نخواهند داشت. سیستمی با ضریب هوشی مافوق تصور، میتواند نظارتهای امنیتی را دور بزند یا رفتارهای فریبکارانه بروز دهد.
«حرکت کورکورانه به سمت هوش فرابشری بدون داشتن راهکار اثباتشده برای کنترل آن، نه پیشرفت علمی، بلکه قمار بر سر سرنوشت بشریت است.»
تضاد میان رقابت اقتصادی و حفظ امنیت ملی در بریتانیا
دولت بریتانیا پیش از این با میزبانی نخستین «اجلاس ایمنی هوش مصنوعی» در بلچلی پارک تلاش کرد خود را به عنوان قطب جهانی نظارت بر AI مطرح کند. با این حال، رقابت ژئوپلیتیک با ایالات متحده و چین و تلاش برای جذب سرمایهگذاری دیتاسنترها و شرکتهای پیشرو، دولتها را در یک دوراهی پیچیده قرار داده است.
درخواست از شهردارانی مانند اندی برنهام برای اعلام موضع منطقهای، حاکی از استراتژی جدیدی است: اگر دولتهای مرکزی به دلیل منافع اقتصادی از وضع قوانین بازدارنده سختگیرانه طفره میروند، نهادهای مدنی و رهبران شهری با وضع مقررات سختگیرانه برای احداث زیرساختهای محاسباتی عظیم میتوانند جلوی توسعه مهارنشده را بگیرند.
تأثیر این مواضع بر بازار تکنولوژی و غولهای AI
طرح چنین مباحثی در سطح پارلمانی فراتر از یک بحث نظری ساده است و پیامدهای ملموسی برای اکوسیستم فناوری به همراه دارد:
- افزایش فشار رگولاتوری: احتمال وضع قوانین اجباری سختگیرانهتر مشابه «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act) در بریتانیا.
- بازبینی در سرمایهگذاریهای زیرساختی: شرکتهایی مانند OpenAI، گوگل دیپمایند و انتروپیک ممکن است در استقرار مراکز داده فوقسنگین خود با موانع قانونی و نظارتی بیشتری مواجه شوند.
- تمرکز بیشتر بر تحقیقات ایمنی (Safety Research): الزام شرکتها به تخصیص درصدی معین از توان پردازشی به پروتکلهای مهار و امنیت به جای صرف تمام منابع برای ارتقای توان مدلها.
جمعبندی
بحث درباره ممنوعیت یا تعلیق توسعه ابرهوش مصنوعی (ASI) دیگر یک سناریوی علمی-تخیلی نیست، بلکه به یکی از چالشهای اضطراری سیاستمداران و فناوران بدل شده است. اقدام اخیر قانونگذاران بریتانیایی نشان میدهد که فشار عمومی برای جلوگیری از مسابقه تسلیحاتی هوش مصنوعی در حال اوجگیری است. اینکه آیا میتوان بدون متوقف کردن نوآوریهای مفید، سدی در برابر خطرات اگزیستانسیال ASI ایجاد کرد یا خیر، مهمترین پرسش دهه جاری خواهد بود.
سؤالات متداول
ابرهوش مصنوعی (ASI) چیست و چه تفاوتی با هوش مصنوعی کنونی دارد؟
ابرهوش مصنوعی (ASI) به سیستمی فرضی اشاره دارد که تواناییهای شناختی و تحلیلی آن در تمام حوزهها به مراتب بالاتر از باهوشترین انسانهاست، در حالی که مدلهای کنونی هوش مصنوعی صرفاً در حوزههای از پیش تعریفشده و تحت کنترل انسان عمل میکنند.
چرا نمایندگان بریتانیا خواستار مداخله شهردار منچستر شدهاند؟
منچستر و مناطق بزرگ بریتانیا به قطبهای جذب زیرساختهای دیجیتال و دیتاسنترهای هوش مصنوعی تبدیل شدهاند؛ قانونگذاران معتقدند رهبران منطقهای میتوانند با محدود کردن مجوزهای زیرساختی، در مهار ریسکهای توسعه مهارنشده پیشگام شوند.
خطر اصلی ابرهوش مصنوعی از نظر دانشمندان چیست؟
اصلیترین دغدغه، مسئله کنترل و همراستاسازی (Alignment) است؛ اگر هوشی مافوق بشری به اهدافی متناقض با بقا یا امنیت انسان دست یابد، انسان فاقد توان فنی برای متوقف کردن یا مهار آن خواهد بود.
آیا ممنوعیت توسعه ASI در عمل امکانپذیر است؟
ممنوعیت یکجانبه در یک کشور چالشبرانگیز است زیرا ممکن است توسعه آن را به کشورهای رقیب منتقل کند؛ با این حال، ایجاد معاهدات بینالمللی شبیه به پیمانهای منع سلاحهای هستهای به عنوان راهکاری عملی مطرح است.
