آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند
شرکت آنتروپیک (Anthropic) در حال توسعه یک سامانه متن‌باز با نام FlashProve است که می‌تواند با استفاده از روش‌های رمزنگاری اثبات کند پاسخ تولیدشده واقعاً متعلق به کدام مدل هوش مصنوعی است. این فناوری می‌تواند از جایگزینی مخفیانه مدل‌های پیشرفته با نسخه‌های ارزان‌تر یا دست‌کاری نتایج ارزیابی هوش مصنوعی جلوگیری کند.
آنتروپیک در یک مطلب پژوهشی که روز سه‌شنبه منتشر کرد، از پروژه‌ای به نام FlashProve رونمایی کرد. هدف این پروژه توسعه روشی برای آن چیزی است که پژوهشگران «استنتاج قابل اثبات» (Provable Inference) می‌نامند؛ سازوکاری که با ارائه یک گواه رمزنگاری‌شده، منشأ تولید یک خروجی هوش مصنوعی را مشخص می‌کند.
به کمک این فناوری، کاربران می‌توانند بررسی کنند پاسخی که دریافت کرده‌اند واقعاً توسط همان مدلی تولید شده است که تصور می‌کنند در حال استفاده از آن هستند. این موضوع به‌ویژه در شرایطی اهمیت پیدا می‌کند که شرکت‌ها و ارائه‌دهندگان خدمات هوش مصنوعی از مدل‌های مختلف با قابلیت‌ها و هزینه‌های متفاوت استفاده می‌کنند.
FlashProve چگونه از جعل هویت مدل‌های هوش مصنوعی جلوگیری می‌کند؟
عملکرد FlashProve از نظر مفهومی شباهت زیادی به امضای دیجیتال در ایمیل‌ها دارد. همان‌طور که امضای رمزنگاری‌شده ایمیل به دریافت‌کننده کمک می‌کند هویت فرستنده واقعی را تأیید کند، این سامانه نیز می‌تواند مشخص کند یک پاسخ مشخص از کدام مدل هوش مصنوعی صادر شده است.
نکته مهم این است که سازوکار پیشنهادی آنتروپیک حتی در برابر جعل هویت توسط شرکتی که خود توسعه‌دهنده و گرداننده مدل است نیز طراحی شده است. به‌عنوان مثال، یک شرکت هوش مصنوعی نمی‌تواند بدون امکان شناسایی، مدلی ارزان‌تر و ضعیف‌تر را جایگزین مدل پیشرفته‌ای کند که به مشتریان وعده داده است.
چنین قابلیتی می‌تواند از دو نوع سوءاستفاده جلوگیری کند: نخست، جایگزینی مدل‌های قدرتمند با نسخه‌های ارزان‌تر برای کاهش هزینه‌های عملیاتی و دوم، استفاده از مدل‌های گران‌تر یا متفاوت برای دست‌کاری نتایج و بزرگ‌نمایی عملکرد یک سرویس هوش مصنوعی.
کاربرد FlashProve در تأیید عملکرد شرکت‌ها و توسعه‌دهندگان
کاربرد این فناوری تنها به بررسی پاسخ‌های مستقیم چت‌بات‌ها محدود نمی‌شود. پژوهشگران آنتروپیک معتقدند FlashProve می‌تواند برای تأیید ادعاهای شرکت‌ها و توسعه‌دهندگان درباره استفاده از مدل‌های هوش مصنوعی نیز کاربرد داشته باشد.
برای مثال، ممکن است یک توسعه‌دهنده ادعا کند کتابخانه نرم‌افزاری خود را با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیب‌پذیری بررسی کرده است. همچنین یک شرکت می‌تواند مدعی شود طرح تجاری آن توسط یک مدل هوش مصنوعی تخصصی ارزیابی و تأیید شده است.
در چنین شرایطی، کاربران و مشتریان معمولاً راه مستقلی برای اطمینان از صحت این ادعاها ندارند. FlashProve قرار است با ارائه مدرک رمزنگاری‌شده، امکان بررسی مستقل هویت مدل استفاده‌شده را فراهم کند.
حفظ محرمانگی اطلاعات داخلی مدل‌ها در FlashProve
یکی از چالش‌های مهم توسعه چنین سامانه‌ای، حفظ اطلاعات اختصاصی مدل‌های هوش مصنوعی است. شرکت‌هایی مانند آنتروپیک و OpenAI وزن‌های مدل‌های خود را که شامل پارامترهای داخلی تعیین‌کننده رفتار و عملکرد آن‌ها هستند، به‌صورت عمومی منتشر نمی‌کنند.
برای حل این مشکل، FlashProve به شرکت‌های توسعه‌دهنده اجازه می‌دهد برای هر مدل یک اثر انگشت رمزنگاری‌شده (Fingerprint) منتشر کنند. این شناسه در ادامه می‌تواند برای تطبیق خروجی‌های تولیدشده با مدل اصلی مورد استفاده قرار بگیرد.
نکته مهم این است که انتشار اثر انگشت رمزنگاری‌شده، وزن‌ها و اطلاعات محرمانه مدل را فاش نمی‌کند. بنابراین، شرکت‌ها می‌توانند بدون واگذاری دارایی‌های فنی و تجاری خود، امکان تأیید هویت مدل‌هایشان را در اختیار کاربران قرار دهند.
پژوهشگران همچنین تأکید کرده‌اند که FlashProve با هدف سبک‌بودن طراحی شده است تا فرایند بررسی و تأیید خروجی‌ها حتی روی دستگاه محلی کاربر نیز امکان‌پذیر باشد.
انتشار کد متن‌باز FlashProve در گیت‌هاب
آنتروپیک هم‌زمان با معرفی این پروژه، مشخصات فنی آن و کدهای اجرایی بخش‌های مختلف سامانه را منتشر کرده است. این منابع تحت مجوز متن‌باز در گیت‌هاب در دسترس قرار گرفته‌اند تا سایر پژوهشگران و توسعه‌دهندگان بتوانند عملکرد آن را بررسی کنند، مشکلات احتمالی را شناسایی کنند و در توسعه آن مشارکت داشته باشند.
بااین‌حال، FlashProve هنوز یک پروژه پژوهشی در حال توسعه است و آنتروپیک اعلام کرده برنامه‌ای برای استفاده عملیاتی از آن در سرویس‌های خود یا سایر آزمایشگاه‌های هوش مصنوعی ندارد.
پژوهشگران این شرکت تأکید کرده‌اند که انتشار مطلب اخیر به معنای تکمیل برنامه تحقیقاتی نیست، بلکه هدف اصلی آن به‌اشتراک‌گذاری دستاوردهای اولیه و فراهم‌کردن زمینه برای مشارکت جامعه علمی در بهبود این فناوری است.
در صورت تکامل و پیاده‌سازی موفق FlashProve، این فناوری می‌تواند گام مهمی برای افزایش شفافیت و اعتمادپذیری خدمات هوش مصنوعی باشد؛ به‌ویژه در بازاری که تشخیص مدل واقعی پشت یک پاسخ یا سرویس، برای کاربران همیشه امکان‌پذیر نیست.
نوشته آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند اولین بار در آی تی رسان منتشر شد.
