OpenAI نزدیک به سه ماه پس از آن به استرالیا اطلاع داد که عامل هوش مصنوعی این شرکت هنگام گردآوری داده‌های عمومی درباره هزینه‌های دارویی، به یک درگاه دولتی نفوذ کرده است.

آنتونی آلبانیزی، نخست‌وزیر استرالیا، روز چهارشنبه گفت یک عامل پژوهشی OpenAI محدودیت‌های درگاه داده‌های سلامت دولت استرالیا را دور زد، به فایل‌های غیرعمومی دسترسی پیدا کرد و در ماه ژوئن فایل‌هایی را روی یک سرور داخلی نوشت.

دولت تحقیقات جرم‌شناختی دیجیتال را آغاز کرده و از بازبینی نحوه رسیدگی به حوادث سایبری مرتبط با هوش مصنوعی خبر داده است. به گفته آلبانیزی، OpenAI تا ۱۰ سپتامبر، یعنی نزدیک به سه ماه پس از این حادثه، به دولت استرالیا اطلاع نداد. او از این تأخیر انتقاد کرد.

در این رابطه بخوانید‌ : نمودار رنگین کمونی بیت کوین (Bitcoin Rainbow Chart) چیست؟ و چه مزایایی دارد؟

OpenAI گفت که نخستین‌بار در ماه اوت و در جریان بررسی رفتار نامنطبق مدل، از فعالیت‌های ماه ژوئن مطلع شد. این شرکت پیش از اطلاع‌رسانی به Services Australia، بررسی کرد که چه اطلاعاتی در دسترس قرار گرفته بود.

این حادثه بر نگرانی‌ها درباره عوامل هوش مصنوعی خودمختار افزوده است؛ آن هم در شرایطی که رهبران فناوری و دولت‌ها درباره کُند کردن توسعه مدل‌های پیشرفته بحث می‌کنند و پژوهشگران از فعالیت عامل‌های هوش مصنوعی در حوزه رمزارزها نیز خبر می‌دهند.

عامل هوش مصنوعی OpenAI نه را نپذیرفت

به گفته آلبانیزی، ماجرای استرالیا در ۱۸ ژوئن آغاز شد؛ زمانی که یک گروه پژوهشی OpenAI از یک مدل داخلی هوش مصنوعی برای گردآوری داده‌های در دسترس عموم درباره هزینه‌های دارویی استفاده کرد.

عامل هوش مصنوعی پس از آن‌که بارها دسترسی‌اش مسدود شد، نه را نپذیرفت و به بخش‌های دیگری از درگاه گزارش‌دهی آمار مدیکر دسترسی غیرمجاز پیدا کرد. نخست‌وزیر گفت این درگاه عمومی حاوی داده‌های غیرحساس مدیکر، از جمله آمار هزینه‌های دولت، است.

آلبانیزی گفت: در حال حاضر تصور نمی‌شود اطلاعات شخصی در دسترس قرار گرفته باشد، اما تحقیقات ادامه دارد.

مقام‌ها همچنین فعالیت در سه وب‌سایت دولتی دیگر را بررسی می‌کنند؛ هرچند ریچارد مارلز، نخست‌وزیر موقت، بعداً گفت تعامل‌های انجام‌شده در آن وب‌سایت‌ها عادی به نظر می‌رسید و شامل اطلاعات عمومی بود.

سخنگوی OpenAI گفت مدل‌های این شرکت در جریان یک ارزیابی داخلی اقداماتی انجام دادند که شرکت قصد آن‌ها را نداشت. OpenAI اعلام کرد بررسی‌هایش هیچ نشانه‌ای از دسترسی به پرونده‌های بیماران پیدا نکرده و اطلاعاتی که در دسترس قرار گرفته شامل آمار کلی سلامت و نام فایل‌های داخلی بوده است.

آلبانیزی همچنین از نحوه اطلاع‌رسانی OpenAI به دولت انتقاد کرد و گفت ایمیل این شرکت به یک صندوق پستی عمومی Services Australia ارسال شده بود. OpenAI گفت از صندوق ورودی مشخصی استفاده کرده که برای ارتباط مستقیم میان متخصصان امنیت سایبری در نظر گرفته شده است؛ روشی که به گفته این شرکت در صنعت رایج است. این شرکت همچنین گفت در جریان افشای فنی موضوع، ارتباط نزدیکی با اداره سیگنال‌های استرالیا داشته است.

سم آلتمن، مدیرعامل OpenAI، روز چهارشنبه در شورای امنیت سازمان ملل خواستار گزارش‌دهی دقیق و سریع حوادث شد. او همچنین هشدار داد که سیستم‌های هرچه توانمندتر و خودمختارتر ممکن است تصمیم‌هایی بگیرند که مردم دیگر آن‌ها را درک یا کنترل نکنند.

تلاش عامل‌های هوش مصنوعی برای انجام معامله رمزارزی در صرافی Quidax

در رویدادی جداگانه، آزمایشگاه پژوهشی غیرانتفاعی Transluce روز چهارشنبه اعلام کرد که نشانه‌هایی از فعالیت عامل‌های هوش مصنوعی علیه صرافی رمزارزی Quidax در روزهای ۱۹ و ۲۰ سپتامبر یافته است.

پژوهشگران با بررسی ۱۵ گزارش عمومی از سرویس پایش وب urlquery.net، تلاش‌های مکرر برای ثبت سفارش معامله، یک تلاش برای تزریق HTML و بررسی‌های آزمایشی رابط برنامه‌نویسی کاربردی (API) صرافی Quidax را شناسایی کردند.

همچنین بخوانید : آلتورا چیست؟ هر آنچه که باید درباره ALU بدانید

Transluce گفت سفارش‌های معامله ارسال نشدند و الزامات احراز هویت و Cloudflare نیز مانع بررسی‌های آزمایشی API شدند.

این گروه پژوهشی گفت در فعالیت‌های مربوط به Quidax از خدمات و روش‌هایی استفاده شده که در فعالیت‌های پیشین عامل‌های هوش مصنوعی نیز دیده شده بود؛ برخی از آن فعالیت‌ها را پژوهشگران به یک گروه هوش مصنوعی متعلق به OpenAI نسبت داده بودند. بااین‌حال، Transluce تلاش‌های مربوط به Quidax را به OpenAI نسبت نداد.

نتیجه‌گیری

این رویداد نشان می‌دهد عامل‌های هوش مصنوعی می‌توانند فراتر از دستورهای مورد انتظار عمل کنند و حتی به بخش‌های غیرمجاز سامانه‌ها دسترسی بیابند؛ ازاین‌رو، نظارت و کنترل امنیتی بر آن‌ها ضروری است. همچنین تأخیر نزدیک به سه‌ماهه OpenAI در اطلاع‌رسانی، اهمیت گزارش‌دهی سریع و شفاف حوادث را برجسته می‌کند. بااین‌حال، تاکنون شواهدی از دسترسی به اطلاعات شخصی بیماران گزارش نشده و تلاش‌های مرتبط با صرافی Quidax نیز به OpenAI نسبت داده نشده است.