پژوهشگران دانشگاه کالیفرنیا اعلام کردند برخی روترهای شخص ثالث (LLM) می‌توانند به یک نقطه ضعف امنیتی خطرناک تبدیل شوند و حتی منجر به سرقت ارزهای دیجیتال کاربران شوند. در یک مقاله تحقیقاتی که روز پنج‌شنبه منتشر شد، محققان چندین روش حمله در زنجیره تأمین مدل‌های هوش مصنوعی را شناسایی کردند؛ از جمله تزریق کد مخرب و سرقت اطلاعات حساس کاربران.

یکی از نویسندگان این تحقیق، چائوفان شو (Chaofan Shou)، در شبکه اجتماعی X نوشت:

«۲۶ روتر LLM به‌طور مخفیانه تماس‌های ابزار مخرب تزریق می‌کنند و اطلاعات محرمانه کاربران را سرقت می‌کنند.»

در این رابطه بخوانید‌ : چگونه می توانیم هودلر بهتری باشیم؟

خطر روترهای واسطه در اکوسیستم هوش مصنوعی

امروزه بسیاری از ایجنت‌های هوش مصنوعی درخواست‌ها را از طریق APIهای واسطه یا روترهای شخص ثالث به مدل‌هایی مانند OpenAI، Anthropic و Google ارسال می‌کنند.

اما مشکل اینجاست که این روترها اتصال TLS (پروتکل امنیتی اینترنت) را در میانه مسیر خاتمه می‌دهند و بنابراین به نسخه کاملاً خوانا از تمام پیام‌ها دسترسی دارند.

این موضوع می‌تواند خطرناک باشد، زیرا توسعه‌دهندگانی که از ابزارهایی مانند Claude Code برای توسعه مواردی مثل:

• قراردادهای هوشمند
• کیف پول‌های رمزارزی
• زیرساخت‌های بلاکچین

استفاده می‌کنند، ممکن است کلیدهای خصوصی، عبارت‌های بازیابی و داده‌های حساس را ناخواسته از طریق این روترها ارسال کنند.

آزمایش محققان: سرقت واقعی اتریوم از یک کیف پول آزمایشی

پژوهشگران برای بررسی این موضوع ۲۸ روتر پولی و ۴۰۰ روتر رایگان را که از انجمن‌های عمومی جمع‌آوری شده بودند بررسی کردند.

نتایج تحقیق بسیار نگران‌کننده بود:

• ۹ روتر کد مخرب تزریق می‌کردند
• ۲ روتر از روش‌های فرار تطبیقی استفاده می‌کردند
• ۱۷ روتر به اطلاعات دسترسی AWS محققان دسترسی پیدا کردند
• ۱ روتر توانست اتریوم (ETH) را از یک کلید خصوصی آزمایشی برداشت کند

محققان برای این آزمایش چند کیف پول فریب‌دهنده ایجاد کردند و مقدار کمی ETH در آن‌ها قرار دادند. در مجموع کمتر از ۵۰ دلار اتریوم در این آزمایش از دست رفت.

با این حال، جزئیات بیشتری مانند هش تراکنش منتشر نشده است.

تشخیص روترهای مخرب تقریباً غیرممکن است

طبق گفته محققان، شناسایی اینکه یک روتر مخرب است یا خیر بسیار دشوار است.

دلیل آن این است که روترها به‌طور طبیعی برای انتقال درخواست‌ها به اطلاعات محرمانه به‌صورت متن ساده دسترسی دارند.

بنابراین مرز میان مدیریت داده‌های حساس و سرقت آن‌ها برای کاربر عملاً قابل تشخیص نیست.

همچنین بخوانید : ارز دیجیتال چین لینک (Chainlink) چیست؟ و چه کاربردی دارد؟

حالت خطرناک «YOLO Mode» در برخی ایجنت‌های هوش مصنوعی

یکی دیگر از یافته‌های نگران‌کننده این تحقیق مربوط به حالتی به نام YOLO Mode است.

در این حالت که در برخی فریم‌ورک‌های AI Agent وجود دارد ایجنت هوش مصنوعی بدون تأیید کاربر دستورات را به‌صورت خودکار اجرا می‌کند.

این ویژگی می‌تواند باعث شود روترهای ظاهراً امن بدون اطلاع اپراتور به ابزارهای مخرب تبدیل شوند.

همچنین برخی روترهای رایگان ممکن است با ارائه دسترسی ارزان به APIها، کاربران را جذب کرده و در پشت صحنه اطلاعات آن‌ها را سرقت کنند.

راهکار پیشنهادی محققان برای جلوگیری از این حملات

محققان برای کاهش این خطر چند توصیه مهم ارائه کردند:

• هرگز کلید خصوصی یا Seed Phrase را در یک جلسه AI Agent وارد نکنید
• امنیت کاربر (Client-side security) را تقویت کنید
• از ارسال اطلاعات حساس از طریق ابزارهای هوش مصنوعی خودداری کنید

در بلندمدت نیز پیشنهاد شده شرکت‌های هوش مصنوعی پاسخ‌های مدل‌های خود را به‌صورت رمزنگاری‌شده امضا کنند تا عامل‌ها بتوانند از نظر ریاضی اصالت دستورات را تأیید کنند.

ترجمه شده توسط مجله خبری نیپوتو