هوش مصنوعی از کنترل خارج می‌شود؟ هشدار ۴۰۶ پژوهشگر درباره فاجعه‌ای امنیتی

در ماه اوت، شرکت متا تأیید کرد که مدل هوش مصنوعی Muse Spark در جریان یک خطای آزمایشی به سامانه‌های یک شرکت دیگر نفوذ کرده است. در رویدادی دیگر، مدل چینی Kimi K3 توانست از محیط ایزوله‌ای که بر اساس چارچوب آزمایشی مؤسسه ایمنی هوش مصنوعی بریتانیا ساخته شده بود، خارج شود و پاسخ‌های آزمون را مستقیماً از گیت‌هاب (GitHub) کپی کند.

نویسندگان نامه هشدار می‌دهند که این حوادث را می‌توان از دو زاویه بررسی کرد. نخست، مشکل هم‌راستایی هوش مصنوعی (AI Alignment)، یعنی زمانی که مدل برای دستیابی به اهداف خود به روش‌هایی عمل می‌کند که سازندگانش در نظر نداشته‌اند. دوم، ضعف در اصول اولیه امنیت سایبری که با استفاده از محیط‌های ایزوله و امن‌تر می‌شد از آن جلوگیری کرد.

بااین‌حال، از نظر نویسندگان، هر دو عامل در این حوادث نقش دارند. آن‌ها هشدار می‌دهند که اگر تغییرات لازم در شیوه توسعه و استقرار هوش مصنوعی اعمال نشود، حوادث بعدی می‌توانند خسارت بسیار بیشتری به بار بیاورند.

در این رابطه بخوانید‌ : قرارداد آتی معکوس (Inverse futures contract) چیست؟

در بخشی از این نامه آمده است:

«بدون تغییرات فوری در شیوه‌های توسعه و استقرار هوش مصنوعی، چنین حوادثی همچنان رخ خواهند داد و حوادث آینده آسیب بسیار بیشتری به زیرساخت‌های حیاتی وارد خواهند کرد.»

محدود کردن دسترسی مدل‌های قدرتمند هوش مصنوعی

بر اساس پیشنهاد مطرح‌شده در این نامه، شرکت‌های توسعه‌دهنده باید در ابتدای کار، هر مدل هوش مصنوعی دارای توانایی جدی در هک کردن سامانه‌ها را به‌صورت پیش‌فرض در محیطی کاملاً جدا از شبکه‌های خارجی اجرا کنند. رویکردی که به آن «ایزوله‌سازی فیزیکی شبکه» یا Air Gapping گفته می‌شود.

اگر مدلی برای انجام وظایف خود به آزادی عمل بیشتری، از جمله دسترسی به اینترنت، نیاز داشته باشد، این دسترسی باید بر اساس استانداردهایی صورت بگیرد که یک نهاد بین‌المللی جدید با همکاری دولت‌ها تدوین می‌کند.

این نهاد همچنین مسئولیت جمع‌آوری گزارش‌های مربوط به شکست سازوکارهای مهار و محدودسازی مدل‌ها را بر عهده خواهد داشت و در نهایت می‌تواند این گزارش‌ها را به‌صورت عمومی منتشر کند.

هدف این پیشنهاد، کاهش احتمال خروج مدل‌ها از محیط‌های کنترل‌شده و جلوگیری از سوءاستفاده از قابلیت‌های پیشرفته آن‌هاست.

واکنش صنعت هوش مصنوعی؛ تأکید بر استفاده بیشتر از عامل‌های هوشمند

بااین‌حال، واکنش بخش‌هایی از صنعت هوش مصنوعی عمدتاً در جهت متفاوتی بوده است.

در ماه اوت، گرگ براکمن، رئیس شرکت OpenAI، در مقاله‌ای به نفوذ امنیتی شرکتش اشاره کرد. او از تیم‌های امنیتی خواست هرچه سریع‌تر از عامل‌های هوش مصنوعی (AI Agents) استفاده کنند.

از سوی دیگر، شرکت Hugging Face تنها زمانی توانست جزئیات حمله به سرورهای خود را روشن کند که از یک مدل چینی (Open-Weight) برای تحلیل داده‌های حمله استفاده کرد. فایل‌های چنین مدل‌هایی قابل دانلود هستند و می‌توان آن‌ها را اجرا کرد. طبق گزارش، مدل‌های تجاری آمریکایی حاضر به تحلیل داده‌های این حمله نشده بودند.

این اتفاق بار دیگر بحثی مهم را مطرح کرده است. آیا توسعه سریع‌تر ابزارهای هوش مصنوعی برای دفاع سایبری، بدون ایجاد سازوکارهای امنیتی قوی‌تر، می‌تواند خطرات تازه‌ای به همراه داشته باشد؟

قانون پیشنهادی آمریکا برای خاموش کردن مدل‌های پیشرفته هوش مصنوعی

دو روز پس از افشای حادثه امنیتی OpenAI، دو عضو کنگره آمریکا طرحی با عنوان «قانون کلید خاموشی هوش مصنوعی» (AI Kill Switch Act) ارائه کردند.

همچنین بخوانید : تپ سواپ TapSwap چیست : بازی Tap-to-Earn تلگرام

این طرح به وزارت امنیت داخلی آمریکا اجازه می‌دهد دستور محدودسازی عملکرد یا خاموش کردن یک مدل پیشرفته هوش مصنوعی را صادر کند.

بااین‌حال، این طرح فعالیت‌هایی را که در جریان آزمون‌های امنیتی تهاجمی یا آزمایش‌های ساختاریافته انجام می‌شوند، از شمول خود مستثنا می‌کند. درحالی‌که تمام رخنه‌های امنیتی گزارش‌شده در تابستان مورد اشاره، در همین نوع آزمایش‌ها اتفاق افتاده‌اند.

توافق داوطلبانه شرکت‌های بزرگ فناوری؛ بدون ضمانت اجرایی قانونی

کاخ سفید در ۲۹ سپتامبر مسیر ملایم‌تری را در پیش گرفت. در آن تاریخ، شرکت‌های انویدیا، xAI، متا، گوگل، OpenAI و آنتروپیک توافق‌نامه‌ای داوطلبانه را امضا کردند که بر کنترل‌های داخلی شرکت‌ها و بررسی‌های مستقل تکیه دارد.

دونالد ترامپ، رئیس‌جمهور آمریکا، این توافق را از نظر اخلاقی الزام‌آور توصیف کرد؛ اما مفاد آن ضمانت اجرایی قانونی ندارند.

در نتیجه، اختلاف‌نظر درباره نحوه مدیریت ریسک‌های هوش مصنوعی همچنان پابرجاست. برخی بر ضرورت گسترش سریع استفاده از این فناوری برای دفاع سایبری تأکید می‌کنند، درحالی‌که گروهی دیگر خواستار محدودیت‌های سخت‌گیرانه‌تر و نظارت بین‌المللی هستند.

ترجمه شده توسط مجله خبری نیپوتو