در حالی که رقابت تسلیحاتی و اقتصادی میان دو ابرقدرت جهان بر سر فناوریهای نوین به اوج خود رسیده است، گزارشهای جدید نشان میدهند واشنگتن و پکن خود را برای برگزاری دور جدیدی از مذاکرات رسمی و سطح بالا پیرامون «ایمنی هوش مصنوعی» در اواسط سپتامبر آماده میکنند. این نشست در شرایطی برگزار میشود که هر دو کشور همزمان با رقابت شدید بر سر تسلط بر هوش مصنوعی، نگران پیامدهای غیرقابلمهار و تهدیدهای امنیتی ناشی از توسعه نامحدود این مدلها هستند.
نشست استراتژیک واشنگتن و پکن؛ چرا ایمنی هوش مصنوعی فوریت پیدا کرده است؟
سرعت خیرهکننده پیشرفت در حوزه مدلهای هوش مصنوعی مولد و حرکت به سمت هوش جامع مصنوعی (AGI)، نگرانیهای امنیتی بیسابقهای را برای تصمیمگیرندگان جهانی ایجاد کرده است. در این میان، ایالات متحده و چین به عنوان دو رهبر بلامنازع توسعه فناوری هوش مصنوعی، به این نتیجه رسیدهاند که عدم هماهنگی و فقدان پروتکلهای مشترک میتواند به سوءتفاهمهای فاجعهبار ژئوپلیتیکی، حملات سایبری خودکار یا خطرات غیرقابل کنترل بیانجامد.
مذاکراتی که برای اواسط سپتامبر برنامهریزی شده، دومین گام رسمی و متمرکز دو کشور در این حوزه پس از گفتوگوهای بهار گذشته در ژنو به شمار میآید. هدف اصلی این نشست، ایجاد کانالهای ارتباطی پایدار میان تیمهای فنی و امنیتی دو طرف برای ارزیابی ریسکهای «هوش مصنوعی مرزی» (Frontier AI) و تعریف خطوط قرمز عملیاتی است.
پیشینه دیپلماسی فناوری میان دو ابرقدرت
مسیر منتهی به مذاکرات ماه سپتامبر از نشست تاریخی جو بایدن و شی جینپینگ در وودساید کالیفرنیا (اواخر ۲۰۲۳) آغاز شد؛ جایی که سران دو کشور بر ضرورت گفتوگو پیرامون ریسکهای هوش مصنوعی تأکید کردند. متعاقب آن، نخستین دور گفتوگوهای رسمی در اردیبهشتماه در سوئیس برگزار شد. اگرچه دو کشور در حوزه حقوق مالکیت فکری و محدودیتهای صادرات تراشهها اختلافنظرهای ریشهای دارند، اما حفظ ارتباط در سطح ایمنی فنی، یکی از معدود حوزههایی است که منافع مشترک هر دو طرف را تأمین میکند.
توسعه کنترلنشده مدلهای مرزی هوش مصنوعی، درست مانند تسلیحات هستهای در قرن بیستم، نیازمند پیمانهای بازدارنده و پروتکلهای شفاف برای مهار حوادث احتمالی است.
محورهای کلیدی گفتوگوهای سپتامبر؛ چانهزنی بر سر چه مواردی است؟
اگرچه جزئیات دقیق دستور کار این نشستها بهدلیل حساسیتهای امنیتی تا حدی محرمانه باقی میماند، اما کارشناسان معتقدند سه محور اصلی کانون این مذاکرات خواهد بود:
۱. ریسکهای اگزیستانسیال و مدلهای خودمختار مرزی
بررسی این موضوع که آیا مدلهای نسل بعدی قابلیت خودکارسازی حملات سایبری پیچیده یا کمک به تولید سلاحهای بیولوژیک و شیمیایی را دارند یا خیر. تدوین چارچوبهای ارزیابی ریسک پیش از انتشار عمومی مدلها یکی از اهداف کلیدی است.
۲. ممنوعیت هوش مصنوعی در کنترل سلاحهای هستهای
یکی از مهمترین خطوط قرمز که پیشتر نیز توسط متخصصان بینالمللی مطرح شده بود، لزوم حفظ کامل «عامل انسانی» در زنجیره تصمیمگیری پیرامون تسلیحات اتمی است. آمریکا و چین تلاش خواهند کرد در مورد تضمین عدم سپردن کنترل زرادخانهها به الگوریتمهای خودمختار به توافقاتی پایدار دست یابند.
۳. استانداردسازی دیپفیک و راستیآزمایی محتوا
تولید اخبار جعلی در ابعاد کلان و انتشار محتوای دستکاریشده میتواند ثبات سیاسی و اجتماعی را هدف قرار دهد. توافق بر سر درج واترمارکهای امنیتی و ابزارهای شناسایی محتوای تولیدشده توسط ماشین، بخشی از مذاکرات فنی خواهد بود.
تنشهای تجاری در پسزمینه؛ تقابل تراشهها و رگولاتوری
نمیتوان مذاکرات ایمنی هوش مصنوعی را بدون در نظر گرفتن جنگ تجاری نیمهرساناها تحلیل کرد. واشنگتن با وضع محدودیتهای شدید روی صادرات پردازندههای پیشرفته (نظیر محصولات انویدیا) و تجهیزات لیتوگرافی پیشرفته ASML به چین، تلاش دارد برتری فناورانه خود را حفظ کند. در پاسخ، پکن سرمایهگذاری عظیمی روی بومیسازی زنجیره تولید تراشه و توسعه مدلهای بومی انجام داده است.
این تناقض که چگونه دو کشور میتوانند در زمینه ایمنی همکاری کنند در حالی که در زمینه زنجیره تأمین در حال نبرد اقتصادی هستند، چالش اصلی دیپلماتها در سپتامبر خواهد بود.
| محور مقایسه | رویکرد ایالات متحده | رویکرد چین |
|---|---|---|
| استراتژی رگولاتوری | تمرکز بر استانداردهای داوطلبانه شرکتها و فرمان اجرایی کاخ سفید | قوانین سختگیرانه دولتی و کنترل کامل دادهها و الگوریتمها |
| محدودیت دسترسی | اعمال تحریمهای صادرات سختافزار پیشرفته | تلاش برای بومیسازی و دور زدن محدودیتهای زنجیره تأمین |
| اولویت ایمنی | جلوگیری از تهدیدات امنیت ملی و سوءاستفادههای بیولوژیک | حفظ ثبات اجتماعی، امنیت اطلاعات و همسویی مدلها با حاکمیت |
تأثیر نتایج این نشست بر بازار جهانی فناوری
پیامدهای این گفتوگوها تنها به اتاقهای دربسته دیپلماتیک محدود نخواهد شد. هرگونه توافق یا حتی شکست در رسیدن به درک مشترک، تأثیر مستقیمی بر غولهای فناوری خواهد داشت:
- کمپانیهای پیشرو آمریکایی: شرکتهایی مانند OpenAI، گوگل، مایکروسافت و آنتروپیک در صورت توافق دو کشور، ممکن است با الزامات ارزیابی و ممیزی سختگیرانهتری پیش از انتشار مدلها مواجه شوند.
- اکوسیستم فناوری چین: شرکتهایی مانند بایدو، علیبابا، تنسنت و دیپسیک ممکن است مکلف به رعایت استانداردهای شفافسازی بینالمللی شوند تا شائبه استفادههای نظامی کاهش یابد.
- زنجیره تأمین سختافزار: شفافسازی خطوط قرمز میتواند تا حدی ابهام سرمایهگذاران را در خصوص تحریمهای آتی تراشهها کاهش دهد.
جمعبندی
مذاکرات آتی ایمنی هوش مصنوعی میان آمریکا و چین در ماه سپتامبر، بیش از آنکه نشانه پایان رقابت فناورانه باشد، تلاشی عملگرایانه برای جلوگیری از بروز حوادث فاجعهبار است. در دنیایی که الگوریتمها روزبهروز خودمختارتر میشوند، حتی شدیدترین رقبای ژئوپلیتیک نیز ناگزیرند قواعدی حداقلی برای مهار خطرات مشترک تعریف کنند؛ رویدادی که میتواند آینده توسعه هوش مصنوعی در دهه جاری را شکل دهد.
سؤالات متداول
مذاکرات ایمنی هوش مصنوعی میان آمریکا و چین در چه تاریخی برگزار میشود؟
بر اساس گزارشها، این دور از گفتوگوهای دوجانبه برای اواسط ماه سپتامبر برنامهریزی شده است.
هدف اصلی از مذاکره بر سر ایمنی هوش مصنوعی چیست؟
شناسایی ریسکهای مدلهای مرزی، جلوگیری از حوادث ناخواسته سایبری و نظامی، و تضمین اینکه کنترل تسلیحات مرگبار به الگوریتمهای خودمختار واگذار نشود.
آیا تحریم تراشههای انویدیا مانع از برگزاری این مذاکرات میشود؟
خیر؛ با وجود تداوم جنگ تجاری و تحریمهای صادرات سختافزار، هر دو کشور ایمنی هوش مصنوعی را حوزهای مجزا و حیاتی برای امنیت ملی خود میدانند و گفتوگوها را ادامه میدهند.
آیا شرکتهای خصوصی هوش مصنوعی نیز در این توافقات دخیل هستند؟
دستورالعملها و استانداردهایی که در این نشستها تعیین میشوند، مستقیماً بر الزامات ارزیابی امنیتی شرکتهایی مانند OpenAI، گوگل و بایدو پیش از انتشار مدلهای جدید تأثیر خواهند گذاشت.
