گوگل در تازهترین تصمیم راهبردی خود، تیم «هوش مصنوعی مسئولانه» (Responsible AI) را از آزمایشگاه پیشرو و محوری «گوگل دیپمایند» جدا کرده و به بخش دیگری از بدنه سازمانی خود منتقل کرد. این جابهجایی غیرمنتظره که بازتاب گستردهای در محافل فناوری داشته، در برههای حساس رخ میدهد که رقابت غولهای فناوری برای پیشتازی در مدلهای زایا به اوج خود رسیده است.
ماجرای تغییر ساختار اخیر در مانتینویو چیست؟
بر اساس گزارشهای موثق منتشرشده، گوگل در جدیدترین بازآرایی سازمانی خود تصمیم گرفته است تیمی را که وظیفه ارزیابی اخلاقی، ایمنی و توسعه متعهدانه مدلهای هوش مصنوعی را بر عهده داشت، از بدنه گوگل دیپمایند (Google DeepMind) جدا کند. این تیم اکنون به بخش گستردهتری از ساختارهای نظارتی و ایمنی مرکزی گوگل ملحق میشود.
آزمایشگاه دیپمایند به رهبری دمیس هاسابیس، موتور محرکه اصلی توسعه مدلهای قدرتمندی نظیر Gemini محسوب میشود. ادغام اولیه تیمهای «گوگل برین» و «دیپمایند» در سال ۲۰۲۳ با هدف تمرکز بر توان پژوهشی صورت گرفت، اما تغییرات جدید نشان میدهد ساختار مدیریتی پیرامون ایمنی و تجاریسازی این فناوریها همچنان دستخوش دگرگونی است.
چرا گوگل این تصمیم جنجالی را گرفت؟
تحلیلگران صنعت فناوری دو سناریوی موازی را برای تبیین این اقدام مطرح میکنند:
- یکپارچهسازی نظارت بر کل اکوسیستم محصولات: مدیریت ارشد گوگل معتقد است که ارزیابی ریسک و اخلاق نباید صرفاً محدود به یک آزمایشگاه تحقیقاتی باشد، بلکه باید به صورت افقی بر تمام محصولات تجاری—از موتور جستجو و اندروید گرفته تا سرویسهای ابری—نظارت کند.
- افزایش سرعت توسعه و کاهش بروکراسی: رقابت فشرده با اوپنایآی (OpenAI)، مایکروسافت و آنتروپیک، گوگل را وادار کرده است تا فرآیند تحقیق و توسعه در دیپمایند را تا جای ممکن چابکتر کند و موانع داخلی پیشروی انتشار مدلها را کاهش دهد.
تاریخچه پرچالش اخلاق هوش مصنوعی در گوگل
این نخستین باری نیست که بخش اخلاق هوش مصنوعی گوگل دستخوش حواشی و تغییرات گسترده میشود. در سالهای ۲۰۲۰ و ۲۰۲۱ نیز اخراج و خروج چهرههای برجسته حوزه اخلاق هوش مصنوعی نظیر تیمنیت گبرو و مارگارت میچل جنجالهای فراوانی پیرامون میزان پایبندی این شرکت به هشدارهای امنیتی ایجاد کرده بود.
انتقال تیمهای نظارتی به لایههای بیرونی توسعه، پرسشهای جدی درباره میزان استقلال بازوهای ارزیابی ایمنی در شرکتهای بزرگ فناوری ایجاد میکند.
پیامدهای این تصمیم بر بازار و اکوسیستم هوش مصنوعی
خروج تیم ایمنی از دیپمایند پیامهای متناقضی به بازار فناوری مخابره میکند. از یکسو، سرعت واکنش دیپمایند به رونمایی از مدلهای رقبا افزایش خواهد یافت؛ اما از سوی دیگر، این نگرانی تقویت میشود که توسعه ابزارها بر سنجش دقیق خطرات امنیتی، سوگیریهای الگوریتمی و دیپفیکها اولویت پیدا کند.
مقایسه رویکرد نظارتی شرکتهای پیشرو در ایمنی هوش مصنوعی
| شرکت | جایگاه تیم ایمنی و اخلاق | تمرکز اصلی نظارت |
|---|---|---|
| گوگل | انتقال به ساختار مرکزی Trust & Safety | انطباق با قوانین و یکپارچگی میانمحصولی |
| اوپنایآی (OpenAI) | ترکیب تیمهای داخلی و برونسپاری ارزیابی | کاهش ریسکهای فاجعهبار و هوش عمومی (AGI) |
| آنتروپیک (Anthropic) | تعبیه در هسته پژوهش (Constitutional AI) | ترازسازی از پایه با اصول ایمنی |
تحلیل نکسینو مگ: آیا ایمنی فدای سرعت تجاریسازی میشود؟
گوگل در تلاش است تا با متمرکزسازی پروتکلهای امنیتی، پاسخگویی یکپارچهای به نهادهای قانونگذار جهانی نظیر اتحادیه اروپا و دولت ایالات متحده ارائه دهد. با این حال، تفکیک فیزیکی و ساختاری مهندسان پژوهشگر از ناظران ایمنی، این ریسک را دارد که بازخوردها دیرهنگام دریافت شوند و شکافی میان تئوریهای اخلاقی و کدهای اجرایی به وجود آید.
جمعبندی
تغییر ساختار تیم مسئولیتپذیری هوش مصنوعی در گوگل نشاندهنده تغییر جهت استراتژیک این شرکت از تمرکز پژوهشمحور به سمت تجاریسازی پرسرعت و مقیاسپذیری جهانی است. موفقیت این رویکرد به این بستگی دارد که آیا ساختار نظارتی جدید میتواند بدون کند کردن روند نوآوری، مانع از سوگیریها و آسیبهای الگوریتمی در نسلهای آینده جمینای شود یا خیر.
سؤالات متداول
چرا گوگل تیم هوش مصنوعی مسئولانه را از دیپمایند جدا کرد؟
هدف اصلی این اقدام، ایجاد یک ساختار نظارتی متمرکز و یکپارچه برای تمام محصولات گوگل و همچنین افزایش چابکی دیپمایند در توسعه مدلهای جدید هوش مصنوعی اعلام شده است.
آیا این تغییر روی مدلهای جمینای (Gemini) اثرگذار خواهد بود؟
بله؛ این حرکت میتواند چرخه انتشار ویژگیها و مدلهای جدید جمینای را سریعتر کند، هرچند چالشهای هماهنگی ایمنی ممکن است روندهای تاییدیه را تغییر دهد.
وظیفه تیم هوش مصنوعی مسئولانه (Responsible AI) چیست؟
این تیم وظیفه دارد خطرات امنیتی، سوگیریهای شناختی و تبعیضهای الگوریتمی، حفظ حریم خصوصی دادهها و انطباق سیستمها با موازین اخلاقی را بررسی کند.
واکنش جامعه فناوری به این تغییر ساختاری چیست؟
کارشناسان ابراز نگرانی کردهاند که فاصله گرفتن ناظران ایمنی از تیمهای هسته تحقیق، ممکن است باعث کمرنگ شدن هشدارهای امنیتی در مسابقه تجاریسازی هوش مصنوعی شود.
