آیا صنعت هوش مصنوعی واقعا آماده کاهش سرعت توسعه است؟

بحث بر سر ایمنی هوش مصنوعی و احتمال کاهش سرعت توسعه مدل‌های پیشرفته دوباره بالا گرفته است. از یک سو، داریو آمودی، مدیرعامل Anthropic، طرحی برای «تنظیم سرعت توسعه» مدل‌های مرزی مطرح کرده و از سوی دیگر، جنسن هوانگ، مدیرعامل Nvidia، با ایده کاهش سرعت صنعت هوش مصنوعی مخالفت کرده است.

این اختلاف دیدگاه در تازه‌ترین قسمت پادکست Equity از TechCrunch نیز مورد بررسی قرار گرفت. آنتونی ها، کریستن کوروسک و شان اوکان درباره این پرسش گفت‌وگو کردند که آیا مدیرانی مانند آمودی و سم آلتمن واقعاً به‌دنبال کاهش سرعت توسعه هوش مصنوعی هستند یا پیشنهادهای اخیر بیشتر به ایجاد چارچوب‌های ایمنی مربوط می‌شود.

طرح Anthropic برای کنترل سرعت توسعه هوش مصنوعی چیست؟

شان اوکان معتقد است هنوز جزئیات کافی درباره معنای دقیق «کاهش سرعت» ارائه نشده است. او با اشاره به پیشنهاد آمودی گفت این طرح، باوجود حمایت برخی مدیران صنعت، همچنان درباره چگونگی اجرای ایده‌های مطرح‌شده ابهام دارد.

آنتونی ها نیز به نکته مشابهی اشاره کرد و گفت سرعت حمایت فعالان حوزه هوش مصنوعی از این ایده قابل توجه بوده است. به گفته او، بخش‌هایی از این پیشنهادها پیش از انتشار مطلب آمودی نیز در جامعه فعالان ایمنی هوش مصنوعی مطرح شده بود و ایده‌های جدیدی محسوب نمی‌شوند.

بااین‌حال، این حمایت گسترده لزوماً به معنای حرکت صنعت به سمت یک کاهش سرعت واقعی نیست و مشخص نیست شرکت‌ها در عمل چه محدودیت‌هایی را خواهند پذیرفت.

کریستن کوروسک نیز تأکید کرد که بحث فعلی مشخصاً درباره آزمایشگاه‌های توسعه‌دهنده هوش مصنوعی پیشرفته یا Frontier AI Labs است. یکی از پیشنهادهای مطرح‌شده، استفاده از ارزیابان مستقل شخص ثالث برای نظارت بر اقدامات ایمنی و حوادث مرتبط با هوش مصنوعی در شرکت‌هایی مانند Anthropic و OpenAI است.

پیشنهاد دیگر به هماهنگی شرکت‌های بزرگ هوش مصنوعی در کشورهای دموکراتیک برای تعیین استانداردها و محدودیت‌های ایمنی مربوط می‌شود. در سطح بین‌المللی نیز ایده همکاری میان کشورها برای هماهنگ‌سازی اقدامات ایمنی مطرح شده است.

چرا Nvidia با کاهش سرعت هوش مصنوعی مخالف است؟

در مقابل این دیدگاه، جنسن هوانگ موضع متفاوتی گرفته است. مدیرعامل Nvidia در اظهارات اخیر خود از ایده ادامه حرکت صنعت هوش مصنوعی حمایت کرده و در جریان حضورش در کنفرانس All-In Summit نیز در گفت‌وگویی با دونالد ترامپ بر مخالفت با کاهش سرعت توسعه این صنعت تأکید کرد.

شان اوکان معتقد است هوانگ در سال‌های اخیر به نوعی به یکی از چهره‌های رابط میان صنعت هوش مصنوعی و دولت آمریکا تبدیل شده است. او همچنین نقش هوانگ را با جایگاهی که پیش‌تر برای مدیرعامل Microsoft، یعنی ساتیا نادلا، در نظر گرفته می‌شد مقایسه کرد.

از نگاه کریستن کوروسک، موقعیت Nvidia در این بحث اهمیت ویژه‌ای دارد؛ زیرا این شرکت از گسترش زیرساخت‌ها و توسعه سریع هوش مصنوعی سود اقتصادی می‌برد. بنابراین، او حضور هوانگ در این بحث را از منظر منافع تجاری Nvidia نیز قابل بررسی می‌داند.

در مقابل، در این گفت‌وگو تأکید شد که هوانگ صرفاً از واژه «کاهش سرعت» استفاده نمی‌کند و اختلاف اصلی تا حدی به نحوه تعریف این مفهوم برمی‌گردد.

آیا «تنظیم سرعت» با «کاهش سرعت» تفاوت دارد؟

یکی از نکات مهم بحث، تفاوت میان واژه‌های «Slowdown» و «Pace» است. آمودی و آلتمن در اظهارات خود بیشتر از مفهوم تنظیم یا مدیریت سرعت توسعه استفاده کرده‌اند و لزوماً به معنای توقف یا کاهش مستقیم سرعت پیشرفت فناوری صحبت نکرده‌اند.

سه محور اصلی پیشنهادهای مطرح‌شده نیز الزاماً به‌معنای کندشدن توسعه مدل‌ها نیستند. نظارت مستقل بر ایمنی، تعیین استانداردهای مشترک و همکاری بین‌المللی می‌توانند چارچوب‌های نظارتی ایجاد کنند، اما مشخص نیست این اقدامات تا چه اندازه سرعت توسعه مدل‌های جدید را کاهش خواهند داد.

به همین دلیل، بخشی از اختلاف فعلی میان فعالان صنعت ممکن است نه درباره اصل ایمنی، بلکه درباره میزان محدودیتی باشد که باید برای توسعه هوش مصنوعی در نظر گرفته شود.

آیا بازار آزاد می‌تواند صنعت هوش مصنوعی را کنترل کند؟

یکی دیگر از محورهای گفت‌وگو این بود که آیا اصلاً به مقررات جدید نیاز است یا سازوکار بازار و قوانین فعلی می‌توانند در برابر رفتارهای پرریسک شرکت‌های هوش مصنوعی نقش حفاظتی ایفا کنند.

کوروسک این پرسش را مطرح کرد که اگر شرکتی محصولی ناامن عرضه کند، آیا قوانین موجود و واکنش مشتریان نمی‌توانند آن شرکت را تحت فشار قرار دهند؟

اوکان پاسخ داد که در شرایط ایده‌آل، بازار آزاد می‌تواند چنین نقشی داشته باشد، اما معتقد است شرایط فعلی صنعت هوش مصنوعی با چنین بازاری فاصله دارد.

به گفته او، یکی از مشکلات این است که شرکت‌های هوش مصنوعی بخش قابل توجهی از درآمد خود را از مشتریان سازمانی به دست می‌آورند. در چنین شرایطی، واکنش مصرف‌کنندگان عادی تأثیر کمتری بر تصمیمات شرکت‌ها دارد.

برای مثال، یک شرکت بزرگ لزوماً صرفاً به دلیل اختلاف بر سر یک موضوع اخلاقی یا ایمنی، سرویس مورد استفاده خود را از یک ارائه‌دهنده به رقیب آن منتقل نمی‌کند؛ زیرا چنین تغییری می‌تواند هزینه و پیچیدگی زیادی داشته باشد.

از سوی دیگر، سرمایه‌گذاری گسترده در شرکت‌های هوش مصنوعی می‌تواند توانایی آنها برای تحمل زیان‌های کوتاه‌مدت را افزایش دهد. بنابراین، حتی اگر یک شرکت به دلیل تصمیمی بحث‌برانگیز با بخشی از مشتریان خود مواجه شود، ممکن است منابع مالی کافی برای ادامه فعالیت داشته باشد.

آینده ایمنی هوش مصنوعی به کدام سمت می‌رود؟

بحث اخیر نشان می‌دهد که میان فعالان صنعت درباره نحوه مدیریت ریسک‌های هوش مصنوعی اجماع کاملی وجود ندارد. برخی مدیران از ایجاد سازوکارهای نظارتی و هماهنگی بیشتر صحبت می‌کنند، درحالی‌که برخی دیگر بر ادامه سرعت فعلی توسعه تأکید دارند.

در حال حاضر، پیشنهادهایی مانند ارزیابی مستقل، استانداردهای مشترک و همکاری بین‌المللی مطرح شده‌اند، اما جزئیات اجرایی و میزان الزام‌آوربودن آنها همچنان محل بحث است.

در نتیجه، سؤال اصلی فقط این نیست که آیا صنعت هوش مصنوعی باید «کندتر» شود؛ بلکه مسئله مهم‌تر این است که چه سطحی از نظارت و کنترل می‌تواند هم‌زمان با ادامه توسعه فناوری، ریسک‌های آن را مدیریت کند.

نوشته آیا صنعت هوش مصنوعی واقعا آماده کاهش سرعت توسعه است؟ اولین بار در آی‌ تی‌ رسان منتشر شد.