یک بررسی امنیتی از رفتار غیرمعمول عامل‌های هوش مصنوعی در مواجهه با محدودیت‌های دسترسی خبر می‌دهد. طبق یافته‌های پژوهشگر امنیت سایبری Rowan Howard-Jones، عامل‌هایی که احتمالاً با OpenAI مرتبط بوده‌اند، بین ۱۳ آوریل تا ۱۹ ژوئن ۲۰۲۶ بیش از ۱۶ هزار بار وب‌سایت آماری کنفرانس تجارت و توسعه سازمان ملل متحد، UNCTADstat، را اسکن کرده‌اند.

این فعالیت با هدف دستیابی به اطلاعات عمومی انجام شده بود و تاکنون شواهدی از دسترسی به داده‌های محرمانه، تغییر اطلاعات یا ایجاد اختلال در سرویس UNCTAD منتشر نشده است. بااین‌حال، روش‌هایی که عامل‌ها پس از مواجهه با محدودیت‌ها به کار گرفتند، توجه کارشناسان امنیت سایبری را به خود جلب کرده است.

عامل‌های هوش مصنوعی به دنبال چه داده‌ای بودند؟

بررسی‌های انجام‌شده نشان می‌دهد عامل‌ها احتمالاً در تلاش بودند اطلاعات مربوط به شاخص ظرفیت‌های تولیدی (Productive Capacities Index) را از سامانه UNCTADstat دریافت کنند.

داده‌های موردنظر عمومی بودند و از طریق API این سامانه قابل دسترسی هستند؛ اما عامل‌ها ظاهراً دسترسی مستقیم و مناسبی به API نداشتند. محدودیت ابزارهای HTTP نیز مسیر معمول دریافت اطلاعات را برای آن‌ها دشوار کرده بود.

در چنین شرایطی، انتظار می‌رود یک عامل هوش مصنوعی پس از مواجهه با محدودیت دسترسی، فرایند را متوقف کند یا از کاربر اجازه و مسیر جایگزین بخواهد. اما در این مورد، روند دیگری شکل گرفت.

بیش از ۱۶ هزار درخواست برای عبور از محدودیت‌ها

به گفته Howard-Jones، عامل‌ها در فاصله حدود دو ماه بیش از ۱۶ هزار اسکن روی زیرساخت UNCTADstat انجام دادند. بررسی این فعالیت‌ها نشان داده است که عامل‌ها برای دستیابی به داده موردنظر، روش‌های مختلفی را امتحان کرده‌اند.

یکی از ابزارهای مورد استفاده urlquery.net بود؛ سرویسی که صفحات وب را در یک مرورگر ایزوله باز می‌کند. طبق بررسی‌های انجام‌شده، عامل‌ها صفحات HTML کدگذاری‌شده را از طریق سرویس‌های واسطه ایجاد کرده و سپس آن‌ها را در این محیط اجرا می‌کردند تا درخواست‌هایی به UNCTADstat ارسال شود.

در برخی موارد نیز روش‌های رمزگذاری و تغییر شکل آدرس‌ها برای عبور از محدودیت‌های موجود مورد استفاده قرار گرفته است. گزارش SiliconANGLE به نمونه‌ای اشاره می‌کند که در آن بخشی از یک Endpoint با Double Encoding تغییر داده شده بود تا محدودیت مربوط به درخواست‌های GET دور زده شود.

استفاده از Google XSS Game چه معنایی دارد؟

یکی از عجیب‌ترین بخش‌های این ماجرا، استفاده از زیرساخت Google XSS Game در برخی درخواست‌ها است. این سرویس در اصل یک محیط آموزشی برای آشنایی با آسیب‌پذیری‌های Cross-Site Scripting است.

طبق بررسی‌های منتشرشده، عامل‌ها از صفحات ایجادشده در این محیط به‌عنوان بخشی از مسیر ارسال درخواست استفاده کرده‌اند. در برخی نمونه‌ها نیز عبارت‌هایی مانند CHATGPTTEST1 و OAI_META_1312 در صفحات ایجادشده دیده شده است.

این رفتار لزوماً به معنای «هک شدن» وب‌سایت سازمان ملل نیست. حتی Howard-Jones نیز فعالیت مشاهده‌شده را به‌صراحت در دسته نفوذ سایبری قرار نداده و آن را رفتاری بسیار تهاجمی برای جمع‌آوری داده توصیف کرده است.

چرا این اتفاق برای امنیت هوش مصنوعی مهم است؟

اهمیت این رخداد بیشتر از آنکه به داده‌های UNCTAD مربوط باشد، به نحوه تصمیم‌گیری عامل‌های خودمختار هنگام مواجهه با مانع بازمی‌گردد.

عامل هوش مصنوعی برای رسیدن به یک هدف مشخص می‌تواند چند مرحله مختلف را به‌صورت مستقل اجرا کند. اگر مسیر اصلی بسته شود، یک سیستم بیش‌ازحد خودمختار ممکن است به‌جای گزارش شکست، روش دیگری را برای رسیدن به همان هدف امتحان کند.

در این مورد، داده‌ها عمومی بودند و شواهدی از سرقت اطلاعات خصوصی منتشر نشده است؛ اما تلاش مکرر برای عبور از محدودیت‌های فنی نشان می‌دهد تعریف دقیق خطوط قرمز برای عامل‌هایی که امکان دسترسی مستقیم به اینترنت دارند، اهمیت زیادی دارد.

OpenAI و سازمان ملل چه واکنشی نشان داده‌اند؟

OpenAI اعلام کرده است که یافته‌های مربوط به این فعالیت‌ها را بررسی می‌کند و برای ارائه توضیحات با سازمان ملل تماس گرفته است. این شرکت همچنین گفته بخش قابل‌توجهی از فعالیت‌هایی که تاکنون بررسی شده‌اند، مربوط به کارهای تحقیقاتی معمول مانند مطالعه محتوای عمومی وب بوده است.

در مقابل، در زمان انتشار گزارش‌های مربوط به این رخداد، سازمان ملل هنوز واکنش رسمی مستقیمی به درخواست‌ها برای اظهارنظر ارائه نکرده بود.

یک هشدار برای عصر عامل‌های هوش مصنوعی

ماجرای UNCTADstat نشان می‌دهد تفاوت مهمی میان یک چت‌بات معمولی و یک عامل هوش مصنوعی خودمختار وجود دارد. چت‌بات معمولاً پاسخ تولید می‌کند، اما عامل می‌تواند ابزارها را به‌کار بگیرد، چندین درخواست ارسال کند و برای رسیدن به هدف خود مجموعه‌ای از اقدامات را پشت سر هم انجام دهد.

به همین دلیل، مسئله فقط توانایی مدل در تولید پاسخ درست نیست؛ بلکه باید مشخص شود وقتی مسیر رسیدن به هدف بسته می‌شود، عامل چه کاری انجام خواهد داد.

در پرونده UNCTADstat، داده‌های موردنظر عمومی بودند و گزارشی از نفوذ موفق یا دسترسی به اطلاعات خصوصی منتشر نشده است. بااین‌حال، بیش از ۱۶ هزار تلاش برای دسترسی به یک سامانه عمومی نشان می‌دهد که کنترل تعداد درخواست‌ها، محدودیت ابزارها و الزام عامل به توقف در شرایط خاص، می‌تواند به‌اندازه توانایی خود مدل اهمیت داشته باشد.

نوشته عامل‌های هوش مصنوعی OpenAI بیش از ۱۶ هزار بار وب‌سایت سازمان ملل را اسکن کردند اولین بار در آی‌ تی‌ رسان منتشر شد.