داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic) و خالق مدل هوش مصنوعی کلود (Claude)، در اظهاراتی هشداردهنده خواستار کاهش شتاب مسابقه توسعه مدلهای پیشرفته هوش مصنوعی شد. این درخواست در شرایطی مطرح میشود که رقابت فشرده میان غولهای فناوری، سرعت پیشرفت الگوریتمها را از ظرفیتهای کنترلی و ایمنی فراتر برده است.
زنگ خطری از قلب سیلیکونولی؛ پیام جدید داریو آمودی چیست؟
در روزهای اخیر، اظهارات مدیران ارشد فناوری ابعاد جدیدی به خود گرفته است. داریو آمودی (Dario Amodei)، همبنیانگذار و مدیرعامل شرکت آنتروپیک، اعلام کرده است که جامعه جهانی و توسعهدهندگان پیشرو فناوری باید سرعت کنونی توسعه مدلهای بزرگ زبانی و هوش جامع مصنوعی (AGI) را تعدیل کنند. به گفته او، شکاف میان «قابلیتهای فنی مدلها» و «ابزارهای نظارتی و ایمنی» روزبهروز عمیقتر میشود و ادامه این روند میتواند ریسکهای غیرقابل جبرانی را متوجه زیرساختهای حیاتی، امنیت سایبری و اقتصاد جهانی کند.
آنتروپیک که توسط جمعی از محققان سابق OpenAI تأسیس شد، همواره بر اصل توسعه هوش مصنوعی ایمن و هدایتپذیر (Constitutional AI) تأکید داشته است. با این حال، مطرحشدن این موضعگیری از سوی شرکتی که خود یکی از پیشرفتهترین مدلهای هوش مصنوعی دنیا (سری Claude 3.5) را در اختیار دارد، نشاندهنده عمق نگرانیها در لایههای بالای صنعت است.
چرا شتاب فعلی توسعه نگرانکننده توصیف میشود؟
سرعت پیشرفت مدلهای هوش مصنوعی در ۱۸ ماه گذشته از تمامی پیشبینیهای خطی فراتر رفته است. دلایل اصلی نگرانی کارشناسان و آمودی را میتوان در چند محور کلیدی خلاصه کرد:
- پیشرفت تصاعدی قابلیتهای خودمختار (Agentic AI): مدلهای جدید دیگر صرفاً به تولید متن محدود نمیشوند؛ آنها توانایی اجرای کد، تصمیمگیری چندمرحلهای و تعامل مستقیم با سیستمعاملها را دارند.
- خطرات در حوزههای حساس بیولوژیکی و سایبری: دسترسی مدلها به دانش تخصصی میتواند ساخت تسلیحات بیولوژیکی یا اجرای حملات سایبری خودکار در مقیاس وسیع را برای بازیگران مخرب آسانتر کند.
- کمبود زمان برای تدوین استانداردها: رگولاتورها و نهادهای قانونگذار چندین گام از فناوری عقب هستند و امکان ارزیابی دقیق ریسکهای مدلهای نسل بعد را در چرخههای انتشار چندماهه ندارند.
مقایسه رویکرد غولهای فناوری نسبت به سرعت توسعه و ایمنی
نگرش شرکتهای بزرگ هوش مصنوعی به موازنه میان سرعت ورود به بازار و تحقیقات ایمنی متفاوت است. جدول زیر نگاهی اجمالی به این مواضع دارد:
| شرکت | محصول اصلی | رویکرد به سرعت توسعه | اولویت راهبردی |
|---|---|---|---|
| Anthropic | Claude | محتاطانه و تأکید بر کاهش سرعت عمومی رقابت | توسعه مبتنی بر ایمنی ساختاری (Constitutional AI) |
| OpenAI | ChatGPT / GPT-4o / o1 | عرضه سریع و بهبود مکرر در تعامل با کاربر نهایی | دستیابی به هوش جامع مصنوعی (AGI) تجاری |
| Google (DeepMind) | Gemini | یکپارچهسازی سریع در اکوسیستم خدمات و ابری | حفظ سلطه در جستجو و رقابت ابری |
| Meta | Llama | توسعه متنباز و تسریع دسترسی عمومی جهانی | دموکراتیزهکردن دسترسی و مهار انحصار رقبا |
تاثیر بر بازار و سرنوشت سرمایهگذاریهای سنگین
درخواست برای کاهش سرعت توسعه هوش مصنوعی صرفاً یک بحث فلسفی نیست، بلکه مستقیماً با بازارهای مالی و صدها میلیارد دلار سرمایهگذاری پیوند دارد. سرمایهگذارانی مانند آمازون و گوگل که میلیاردها دلار در آنتروپیک سرمایهگذاری کردهاند، انتظار بازگشت سرمایه و برتری رقابتی دارند. کاهش دستوری یا داوطلبانه سرعت انتشار مدلها میتواند باعث تغییر دینامیک ارزشگذاری استارتاپها، طولانیتر شدن چرخههای تحقیقوتوسعه و تمرکز بیشتر بودجهها بر بخش ارزیابی ریسک (Red Teaming) شود.
«پیشرفت نباید به بهای از دست دادن کنترل باشد. اگر ما نتوانیم رفتارهای مدلهای فردا را پیشبینی و مهار کنیم، هرگونه برتری فنی بیمعنا خواهد بود.» — داریو آمودی
آیا اجماع جهانی برای کنترل مسابقه هوش مصنوعی ممکن است؟
یکی از بزرگترین چالشهای مهار سرعت هوش مصنوعی، مسئله «تراژدی منابع مشترک» و رقابت ژئوپلیتیک است. اگر شرکتهای غربی توسعه را کُند کنند، این نگرانی وجود دارد که رقبای بینالمللی در آسیا بدون رعایت موازین ایمنی پیشی بگیرند. از این رو، مدیران آنتروپیک بر ضرورت تدوین معاهدات بینالمللی و نظارت نهادهای حاکمیتی بر زنجیره تأمین تراشههای پیشرفته تأکید میکنند.
جمعبندی
اظهارات اخیر مدیرعامل آنتروپیک نشان میدهد گفتمان حاکم بر دنیای هوش مصنوعی از رقابت صِرف برای عرضه سریعترین مدلها، به سمت بازاندیشی در مورد کنترل و امنیت در حال چرخش است. آینده صنعت هوش مصنوعی به این بستگی دارد که آیا بازیگران اصلی و دولتها میتوانند پیش از وقوع بحرانهای امنیتی، چارچوبی پایدار برای مهار خطرات احتمالی تدوین کنند یا خیر.
سؤالات متداول
چرا مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد؟
به دلیل رشد تصاعدی توانایی مدلها در مواردی چون کارهای خودمختار و ریسکهای سایبری و بیولوژیکی، در حالی که ابزارهای سنجش ایمنی و قوانین نظارتی با همین سرعت رشد نکردهاند.
آنتروپیک چیست و چه فرقی با OpenAI دارد؟
آنتروپیک شرکتی تحقیقاتی در حوزه هوش مصنوعی است که توسط کارکنان سابق OpenAI تأسیس شد و تمرکز اصلی خود را بر ساخت سیستمهای ایمن، قابل درک و همراستا با ارزشهای انسانی (مانند مدل کلود) قرار داده است.
آیا شرکتهای دیگر مانند OpenAI یا گوگل با کاهش سرعت موافقند؟
بیشتر شرکتها بر لزوم ارزیابی ایمنی تأکید دارند، اما به دلیل فشارهای رقابتی و منافع تجاری، تاکنون تمایل چندانی به توقف یا کند کردن رسمی روند انتشار مدلهای خود نشان ندادهاند.
پیامد احتمالی کند شدن مسابقه هوش مصنوعی برای کاربران عادی چیست؟
ممکن است فاصله زمانی انتشار نسخههای جدید ابزارهای هوش مصنوعی بیشتر شود، اما در عوض مدلهایی با خطای کمتر، امنیت بالاتر و حریم خصوصی مطمئنتر در دسترس کاربران قرار خواهد گرفت.
