ابزار تشخیص محتوای هوش مصنوعی کلود معرفی شد

شرکت آنتروپیک در راستای افزایش شفافیت و اعتبارسنجی خروجی‌های هوش مصنوعی، ابزار اعتبارسنجی جدیدی را در بستر وب راه‌اندازی کرد. این سامانه به کاربران اجازه می‌دهد با بارگذاری فایل‌ها در صفحه اختصاصی claude.com/check-content، ردپای مدل هوش مصنوعی کلود (Claude) را در ساخت یا ویرایش داده‌ها رهگیری کنند.

پشتیبانی از فایل‌های چندرسانه‌ای با استاندارد C2PA
در فاز نخست، این سامانه بر اساس استاندارد بین‌المللی اصالت محتوا (C2PA) طراحی شده و اعتبارسنجی را تنها برای فرمت‌های چندرسانه‌ای نظیر تصاویر (JPEG و GIF)، فایل‌های صوتی (MP3) و ویدیوها (MOV) انجام می‌دهد. در صورتی که فراداده‌های امنیتی مربوط به پردازش توسط کلود در فایل موجود باشد، پیام تاییدی مبنی بر مداخله این هوش مصنوعی به نمایش درمی‌آید؛ بنابراین پلتفرم مذکور فعلاً قابلیت تحلیل مستقیم مقالات، متن‌های دانشگاهی یا پیام‌های متنی را ندارد.

سرنوشت شناسایی متون تولیدشده با کلود
تشخیص محتواهای متنی از طریق سازوکار مجزایی با نام «Detection API» مدیریت می‌شود. با وجود تعبیه واترمارک‌های نامرئی در خروجی‌های متنی کلود که بدون افت کیفیت و حتی پس از کپی‌کردن در ساختار متن باقی می‌مانند، دسترسی به این API فعلاً در چارچوب تطابق با الزامات قانونی اتحادیه اروپا به‌شکل آزمایشی در اختیار برخی سازمان‌های همکار قرار دارد و جزئیات بیشتر آن طی ماه‌های آینده اعلام خواهد شد.