جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد
جفری هینتون، برنده جایزه نوبل و یکی از چهره‌های تأثیرگذار در شکل‌گیری هوش مصنوعی مدرن، هشدار داده است که شاید بشر در آینده به این نتیجه برسد که توسعه‌ندادن هوش مصنوعی تصمیم عاقلانه‌تری بود. او همچنین احتمال وقوع بحرانی بزرگ در مقیاس حادثه چرنوبیل را مطرح کرده که می‌تواند به خاموشی گسترده شبکه برق یا ازکارافتادن سیستم‌های مالی منجر شود.
جفری هینتون، دانشمند ۷۸ ساله علوم کامپیوتر که به‌دلیل تحقیقات پیشگامانه در زمینه شبکه‌های عصبی مصنوعی به‌عنوان یکی از پدران هوش مصنوعی شناخته می‌شود، معتقد است این فناوری در کنار فرصت‌های بزرگ، خطراتی جدی برای آینده جوامع انسانی ایجاد کرده است.
او در گفت‌وگویی با گاردین توضیح داد که اگرچه همچنان امکان دستیابی به آینده‌ای بسیار مطلوب با کمک هوش مصنوعی وجود دارد، اما این احتمال نیز مطرح است که در نهایت مشخص شود بشر بدون توسعه چنین فناوری‌ای وضعیت بهتری داشت.
هینتون پیش‌بینی می‌کند طی یک دهه آینده، یا حتی زودتر، مشخص خواهد شد که آیا انسان‌ها توانایی کنترل خطرات هوش مصنوعی را دارند یا خیر. به اعتقاد او، در صورت مدیریت صحیح این فناوری، بشر می‌تواند به وضعیتی از «فراوانی بنیادین» دست پیدا کند؛ اما شکست در کنترل آن ممکن است پیامدهایی مانند افزایش شکاف طبقاتی، بحران‌های فرهنگی، بیکاری گسترده و حتی فروپاشی ساختارهای اجتماعی را به همراه داشته باشد.
این دانشمند پیش از نمایش مستند بلند «هوش مصنوعی: احتمالاً موضوع نگران‌کننده‌ای نیست» اعلام کرد که خود را موظف می‌داند از اعتبار علمی و جایگاهش در صنعت فناوری برای آگاه‌کردن افکار عمومی درباره خطرات هوش مصنوعی استفاده کند.
انتقاد جفری هینتون از مدیران شرکت‌های هوش مصنوعی
یکی از مهم‌ترین نگرانی‌های هینتون به رقابت فشرده شرکت‌های بزرگ فناوری برای توسعه مدل‌های قدرتمندتر مربوط می‌شود. او معتقد است مدیران این شرکت‌ها در مسیر دستیابی به سهم بیشتری از بازار، خطرات احتمالی محصولات خود را نادیده می‌گیرند و منافع مالی را در اولویت قرار می‌دهند.
هینتون در بخشی از اظهارات خود به مارک زاکربرگ، ایلان ماسک و سم آلتمن اشاره کرد و گفت:
«فکر می‌کنم زاکربرگ، ماسک و سم آلتمن خطرات را به‌خوبی درک می‌کنند، اما اصلاً برایشان اهمیتی ندارد؛ آن‌ها پول را ترجیح می‌دهند. این باور من است.»
او همچنین حضور سم آلتمن در رأس OpenAI را نگران‌کننده دانست؛ شرکتی که یکی از بازیگران اصلی رقابت جهانی هوش مصنوعی، به‌ویژه در برابر شرکت‌های چینی، محسوب می‌شود.
این دیدگاه در تضاد با اظهارات آلتمن در ماه سپتامبر قرار دارد. مدیرعامل OpenAI پیش‌تر گفته بود جهان باید به این شرکت اعتماد کند، زیرا مدیران آن اهمیت انجام اقدامات درست را درک می‌کنند.
پیش‌بینی وقوع چرنوبیل هوش مصنوعی در سال ۲۰۲۶ یا ۲۰۲۷
هشدار جنجالی‌تر هینتون به احتمال وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی در آینده نزدیک مربوط می‌شود. او برخی اتفاقات تابستان ۲۰۲۶، از جمله نفوذ ایجنت‌های هوش مصنوعی OpenAI به وب‌سایت هاگینگ فیس (Hugging Face)، را نشانه‌ای هشداردهنده دانست و آن را با حادثه نیروگاه هسته‌ای چرنوبیل مقایسه کرد.
هینتون در این زمینه پیش‌بینی کرد:
«اواخر امسال یا سال آینده شاهد چرنوبیل هوش مصنوعی خواهیم بود و این شاید برای آنکه توجه مردم واقعاً به موضوع جلب شود کافی باشد.»
البته منظور او وقوع یک حادثه هسته‌ای مشابه چرنوبیل نیست. هینتون سناریوهایی را مطرح می‌کند که در آن‌ها سیستم‌های مبتنی بر هوش مصنوعی می‌توانند در حملات سایبری یا اختلالات گسترده زیرساختی نقش داشته باشند.
به گفته این دانشمند، یکی از سناریوهای نگران‌کننده می‌تواند حمله‌ای با هدایت هوش مصنوعی به شبکه تولید و توزیع برق باشد که خاموشی گسترده‌ای ایجاد کند. احتمال دیگر نیز وقوع حمله‌ای است که سامانه مالی را برای یک هفته از دسترس خارج کند.
هینتون درباره پیامدهای چنین اتفاقی گفت:
«می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما توانایی بازیابی و عبور از آن را داریم، اما چنین اتفاقی کاری می‌کند که آن‌ها بالاخره سر جایشان بنشینند و به خطر توجه کنند.»
وقتی از او پرسیده شد منظورش از افرادی که باید به این هشدار توجه کنند چه کسانی هستند، پاسخ داد: «رهبران جهان، به‌جز ترامپ.»
آیا بشر می‌تواند خطرات هوش مصنوعی را کنترل کند؟
اظهارات هینتون بار دیگر مسئله ایمنی هوش مصنوعی و مسئولیت شرکت‌های توسعه‌دهنده این فناوری را به یکی از موضوعات مهم صنعت فناوری تبدیل کرده است.
از یک سو، توسعه هوش مصنوعی می‌تواند بهره‌وری اقتصادی را افزایش دهد، بسیاری از فعالیت‌های پیچیده را ساده‌تر کند و فرصت‌های جدیدی در حوزه‌های علمی و صنعتی به وجود بیاورد. از سوی دیگر، وابستگی زیرساخت‌های حیاتی به سیستم‌های هوشمند، احتمال بروز اختلالات گسترده و سوءاستفاده از این فناوری را نیز افزایش می‌دهد.
هشدارهای هینتون پیش‌بینی قطعی وقوع یک فاجعه نیستند، بلکه بیانگر سناریوهای پرخطری هستند که به اعتقاد او باید جدی گرفته شوند. پرسش اساسی این است که آیا شرکت‌های فناوری و دولت‌ها می‌توانند پیش از وقوع یک بحران بزرگ، سازوکارهای مؤثری برای کنترل و ایمن‌سازی هوش مصنوعی ایجاد کنند یا خیر.
نوشته جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد اولین بار در آی تی رسان منتشر شد.
