بسیاری از کاربران فضای مجازی، چت‌بات‌های مبتنی بر هوش مصنوعی را محرم اسرار و بستری امن برای بیان شخصی‌ترین دغدغه‌های خود می‌پندارند. با این حال، شواهد و گزارش‌های حقوقی حاکی از آن است که این فضای به‌ظاهر محرمانه، تفاوت چندانی با یک شیشه یک‌طرفه ندارد و داده‌های ثبت‌شده در آن می‌توانند به‌راحتی از کنترل کاربر خارج شده و در اختیار نهادهای ثالث قرار گیرند.

بر اساس یافته‌های نظرسنجی مؤسسه داک‌داک‌گو (DuckDuckGo)، بیش از ۳۰ درصد کاربران مطالبی را با ابزارهای هوش مصنوعی مطرح می‌کنند که حاضر به بازگو کردن آن با نزدیک‌ترین افراد زندگی خود نیستند. این اعتماد کورکورانه در حالی رخ می‌دهد که آگاهی عمومی از تبعات حقوقی آن بسیار ناچیز است؛ به‌طوری‌که ۷۵ درصد افراد نمی‌دانند مکالمات ثبت‌شده با مدل‌های زبانی بزرگ، با حکم قضایی در اختیار پلیس و دادگاه قرار می‌گیرد. طبق گزارش روزنامه واشنگتن‌پست، تنها در دو سال اخیر دست‌کم ۱۲ پرونده قضایی با استناد مستقیم به لاگ مکالمات کاربران با هوش مصنوعی پیش رفته است؛ ضمن اینکه حساب‌های فعال روی شبکه‌های شرکتی نیز کاملاً تحت نظارت کارفرمایان قرار دارند.

ابعاد این ریسک زمانی گسترده‌تر می‌شود که نحوه مدیریت داده توسط شرکت‌های توسعه‌دهنده نظیر اوپن‌ای‌آی و آنتروپیک زیر ذره‌بین قرار می‌گیرد. بیش از نیمی از کاربران از استفاده ابزارهای هوش مصنوعی از پیام‌های متنی برای ارتقا و آموزش مدل‌های زبانی بی‌خبرند. از سوی دیگر، رخدادهای امنیتی گذشته نظیر درز ناخواسته مکالمات چت‌بات «کلاد» در تیرماه سال جاری به بستر وب، فرضیه نفوذناپذیری این سرویس‌ها را باطل کرده است.

پژوهشگران امنیت سایبری در دانشگاه استنفورد تأکید می‌کنند تا زمانی که کاربری در حالت موقت یا ناشناس (Incognito) قرار نداشته باشد، نباید هیچ‌گونه اطلاعات حیاتی، اسناد تجاری یا اعترافات شخصی را در محیط چت‌بات‌ها تایپ کند؛ چرا که بازگشت‌پذیری این داده‌ها پس از ثبت در سرورهای ابری عملاً غیرممکن خواهد بود.