چین برای مقابله با سناریوی فرار هوش مصنوعی چه تدابیری می‌اندیشد؟

چین به منظور آمادگی برای سناریوی خروج احتمالی مدل‌های پیشرفته هوش مصنوعی از کنترل انسان، در حال تدوین و اجرای چارچوب‌های نظارتی و تدابیر امنیتی است. مقامات چینی، خطرات ناشی از خودآگاهی و سرکشی سیستم‌های هوش مصنوعی را جدی گرفته و مقابله با آن را در اولویت قرار داده‌اند.

توسعه مدل‌های وزن‌باز و چالش‌های امنیتی

شرکت‌های چینی به سمت توسعه مدل‌های وزن‌باز حرکت کرده‌اند تا امکان بازرسی و پایش دقیق کدها فراهم شود. با این حال، سامانه‌های چینی نیز با چالش‌های امنیتی خاص خود مواجه هستند.

چارچوب‌های نظارتی و نگرانی‌های سیاسی

نهادهای سیاست‌گذار چین از سپتامبر ۲۰۲۴، سناریوی ازدست‌رفتن کنترل بر سامانه‌ها را در اسناد رسمی خود قرار داده‌اند. این اسناد به خطرات ناشی از هوش مصنوعی و نیاز به حفظ کنترل انسانی تأکید دارند.

قوانین جدید و الزامات برای شرکت‌ها

قوانین جدید به شرکت‌های ارائه‌دهنده ایجنت‌های خودمختار الزام می‌کند که ابزارهای مداخله و توقف را توسعه دهند و حق تصمیم‌گیری نهایی را به کاربران انسانی واگذار کنند. همچنین، این قوانین به مراکز شخص ثالث اجازه می‌دهد که سامانه‌ها را مورد پایش و ممیزی قرار دهند.