جهش ۳۶۹ درصدی درآمد بازار جهانی DRAM زیر تأثیر تقاضای هوش مصنوعی

بازار جهانی حافظه DRAM در سه‌ماهه سوم ۱۴۰۵ با رشد خیره‌کننده درآمد روبه‌رو شد و رکوردی تازه ثبت کرد. برخلاف دوره‌های رونق معمول صنعت نیمه‌رسانا که عمدتاً به افزایش حجم تولید وابسته بودند، این جهش بیش از هر چیز از افزایش شدید قیمت‌ها ناشی شد.

بر اساس گزارش مؤسسه تحقیقاتی کانترپوینت، درآمد سازندگان DRAM نسبت به مدت مشابه سال قبل ۳۶۹ درصد افزایش یافت و به حدود ۲۰۰ میلیارد دلار رسید. تقاضای سنگین مراکز داده و شتاب‌دهنده‌های هوش مصنوعی اصلی‌ترین محرک این تحول بود و متوسط قیمت هر گیگابیت حافظه به ۱٫۹ دلار (معادل یک‌هشتم گیگابایت) رسید.

در این دوره، سامسونگ با سهم ۳۸ درصدی همچنان صدرنشین بازار باقی ماند. اس‌کی هاینیکس با رشد بیش از ۴۰ درصدی درآمد فصلی، سهم خود را به ۲۹ درصد رساند و بخشی از فاصله ایجادشده در ابتدای سال را جبران کرد. مایکرون با ۲۱ درصد و CXMT با ۹ درصد در رتبه‌های بعدی قرار گرفتند. مجموع سهم دو شرکت کره‌ای به ۶۷ درصد رسید و کره جنوبی همچنان مرکز ثقل صنعت DRAM جهان به شمار می‌رود.

نکته قابل‌توجه آن است که حجم بیت‌های عرضه‌شده در طول فصل تنها حدود ۴ درصد رشد کرد، در حالی که درآمد تقریباً پنج برابر شد. این اختلاف نشان می‌دهد رشد اصلی نه از فروش تعداد بسیار بیشتری تراشه، بلکه از افزایش قیمت واحد حافظه و رقابت شدید خریداران برای دسترسی به ظرفیت محدود تولید نشأت گرفته است.

DRAM

جئونگ‌کو چوی، تحلیلگر ارشد کانترپوینت، این وضعیت را یک ابرچرخه قیمتی توصیف می‌کند که هنوز به ابرچرخه حجمی تبدیل نشده است. به گفته او، هوش مصنوعی حافظه را از کالایی نسبتاً استاندارد به منبعی کمیاب و ارزشمند تبدیل کرده و خریداران اکنون بیش از چانه‌زنی بر سر قیمت، برای تضمین عرضه رقابت می‌کنند.

رقابت سازندگان تنها به DRAM متعارف محدود نمی‌شود. حافظه پرپهنای‌باند (HBM) که کنار شتاب‌دهنده‌های هوش مصنوعی استفاده می‌شود، همچنان سودآورترین بخش بازار است. درآمد HBM نسبت به مدت مشابه سال قبل تقریباً دو برابر شد، اما رشد سریع‌تر DDR و LPDDR باعث کاهش سهم نسبی آن از کل درآمد DRAM گردید.

اس‌کی هاینیکس در فروش HBM3E برتری داشت، اما گذار صنعت به نسل HBM4 می‌تواند معادلات را تغییر دهد. کانترپوینت از استقبال مطلوب مشتریان از HBM4 سامسونگ خبر داده و پیش‌بینی می‌کند این شرکت در سال ۱۴۰۶ رتبه نخست بازار HBM را به دست آورد. عرضه محصولات گران‌تر HBM4 از سه‌ماهه چهارم نیز می‌تواند درآمد تولیدکنندگان پیشرو را بیش از پیش افزایش دهد.

برای CXMT، سازنده چینی، تغییر نسل چالش‌برانگیزتر است. این شرکت قصد دارد تولید انبوه HBM3E را در سال ۱۴۰۶ آغاز کند؛ زمانی که رقبا مشغول گسترش عرضه HBM4 خواهند بود. سهم CXMT از بیش از ۱۰ درصد در سه‌ماهه دوم به ۹ درصد در فصل سوم کاهش یافته و ادامه مهاجرت بازار به نسل جدید می‌تواند فشار بیشتری بر جایگاه درآمدی آن وارد کند.

تأثیر هوش مصنوعی عامل‌محور تنها به افزایش مصرف HBM محدود نشده است. سامانه‌هایی که باید وظایف پیچیده را برنامه‌ریزی و اجرا کنند، در کنار پردازنده‌های گرافیکی به پردازنده‌های مرکزی و حافظه سیستمی بیشتری نیاز دارند. نسبت GPU به CPU در زیرساخت‌های ابری از ۴ به ۱ به حدود ۲ به ۱ رسیده و حتی به سمت نسبت ۱ به ۱ حرکت می‌کند.

رک‌های Vera Rubin انویدیا نمونه‌ای از این تغییر معماری هستند. میزان DRAM متصل به هر سوکت پردازنده مرکزی در آن‌ها تقریباً سه برابر نسل قبل شده و به ۱٫۵ ترابایت رسیده است. گسترش چنین طراحی‌هایی تقاضا برای DDR و LPDDR را بالا می‌برد؛ حافظه‌هایی که عمدتاً نقش رم سیستم را بر عهده دارند.

پیامد مالی این روند بسیار چشمگیر بود. درآمد DDR نسبت به سال قبل ۵۰۰ درصد و درآمد LPDDR نزدیک به ۴۰۰ درصد رشد کرد. سرعت رشد هر دو گروه اکنون از HBM پیشی گرفته، هرچند HBM همچنان حاشیه سود بالاتری دارد.

درباره تداوم قیمت‌های بالا، سرعت افزایش قیمت در سه‌ماهه سوم نسبت به نیمه نخست ۱۴۰۵ کاهش یافت، اما نشانه‌ای از بازگشت سریع بازار به شرایط عادی دیده نمی‌شود. قراردادهای بلندمدت از قیمت‌ها حمایت می‌کنند و بخش بزرگی از ظرفیت موجود نیز پیشاپیش به مشتریان بزرگ اختصاص یافته است.

ام‌اس هوانگ، مدیر پژوهشی کانترپوینت، انتظار دارد قیمت حافظه در سال ۱۴۰۶ همچنان بالا باقی بماند. قیمت HBM که طی ۱۴۰۵ با فاصله زمانی از DRAM متعارف حرکت کرده بود، اکنون در حال جبران عقب‌ماندگی خود است. محدودیت عرضه نیز ریشه صنعتی دارد؛ کارخانه‌های بزرگ تازه تا سال ۱۴۰۷ وارد مرحله تولید نمی‌شوند و افزایش ظرفیت در صنعت حافظه فرایندی چندساله است. بنابراین حتی کاهش آهنگ رشد تقاضا الزاماً به افت فوری قیمت منجر نخواهد شد.

نوشته جهش ۳۶۹ درصدی درآمد بازار جهانی DRAM زیر تأثیر تقاضای هوش مصنوعی اولین بار در آی‌ تی‌ رسان منتشر شد.

جهش ۳۶۹ درصدی درآمد بازار جهانی DRAM زیر تأثیر تقاضای هوش مصنوعی

بازار جهانی حافظه DRAM در سه‌ماهه سوم ۱۴۰۵ با رشد خیره‌کننده درآمد روبه‌رو شد و رکوردی تازه ثبت کرد. برخلاف دوره‌های رونق معمول صنعت نیمه‌رسانا که عمدتاً به افزایش حجم تولید وابسته بودند، این جهش بیش از هر چیز از افزایش شدید قیمت‌ها ناشی شد.

بر اساس گزارش مؤسسه تحقیقاتی کانترپوینت، درآمد سازندگان DRAM نسبت به مدت مشابه سال قبل ۳۶۹ درصد افزایش یافت و به حدود ۲۰۰ میلیارد دلار رسید. تقاضای سنگین مراکز داده و شتاب‌دهنده‌های هوش مصنوعی اصلی‌ترین محرک این تحول بود و متوسط قیمت هر گیگابیت حافظه به ۱٫۹ دلار (معادل یک‌هشتم گیگابایت) رسید.

در این دوره، سامسونگ با سهم ۳۸ درصدی همچنان صدرنشین بازار باقی ماند. اس‌کی هاینیکس با رشد بیش از ۴۰ درصدی درآمد فصلی، سهم خود را به ۲۹ درصد رساند و بخشی از فاصله ایجادشده در ابتدای سال را جبران کرد. مایکرون با ۲۱ درصد و CXMT با ۹ درصد در رتبه‌های بعدی قرار گرفتند. مجموع سهم دو شرکت کره‌ای به ۶۷ درصد رسید و کره جنوبی همچنان مرکز ثقل صنعت DRAM جهان به شمار می‌رود.

نکته قابل‌توجه آن است که حجم بیت‌های عرضه‌شده در طول فصل تنها حدود ۴ درصد رشد کرد، در حالی که درآمد تقریباً پنج برابر شد. این اختلاف نشان می‌دهد رشد اصلی نه از فروش تعداد بسیار بیشتری تراشه، بلکه از افزایش قیمت واحد حافظه و رقابت شدید خریداران برای دسترسی به ظرفیت محدود تولید نشأت گرفته است.

DRAM

جئونگ‌کو چوی، تحلیلگر ارشد کانترپوینت، این وضعیت را یک ابرچرخه قیمتی توصیف می‌کند که هنوز به ابرچرخه حجمی تبدیل نشده است. به گفته او، هوش مصنوعی حافظه را از کالایی نسبتاً استاندارد به منبعی کمیاب و ارزشمند تبدیل کرده و خریداران اکنون بیش از چانه‌زنی بر سر قیمت، برای تضمین عرضه رقابت می‌کنند.

رقابت سازندگان تنها به DRAM متعارف محدود نمی‌شود. حافظه پرپهنای‌باند (HBM) که کنار شتاب‌دهنده‌های هوش مصنوعی استفاده می‌شود، همچنان سودآورترین بخش بازار است. درآمد HBM نسبت به مدت مشابه سال قبل تقریباً دو برابر شد، اما رشد سریع‌تر DDR و LPDDR باعث کاهش سهم نسبی آن از کل درآمد DRAM گردید.

اس‌کی هاینیکس در فروش HBM3E برتری داشت، اما گذار صنعت به نسل HBM4 می‌تواند معادلات را تغییر دهد. کانترپوینت از استقبال مطلوب مشتریان از HBM4 سامسونگ خبر داده و پیش‌بینی می‌کند این شرکت در سال ۱۴۰۶ رتبه نخست بازار HBM را به دست آورد. عرضه محصولات گران‌تر HBM4 از سه‌ماهه چهارم نیز می‌تواند درآمد تولیدکنندگان پیشرو را بیش از پیش افزایش دهد.

برای CXMT، سازنده چینی، تغییر نسل چالش‌برانگیزتر است. این شرکت قصد دارد تولید انبوه HBM3E را در سال ۱۴۰۶ آغاز کند؛ زمانی که رقبا مشغول گسترش عرضه HBM4 خواهند بود. سهم CXMT از بیش از ۱۰ درصد در سه‌ماهه دوم به ۹ درصد در فصل سوم کاهش یافته و ادامه مهاجرت بازار به نسل جدید می‌تواند فشار بیشتری بر جایگاه درآمدی آن وارد کند.

تأثیر هوش مصنوعی عامل‌محور تنها به افزایش مصرف HBM محدود نشده است. سامانه‌هایی که باید وظایف پیچیده را برنامه‌ریزی و اجرا کنند، در کنار پردازنده‌های گرافیکی به پردازنده‌های مرکزی و حافظه سیستمی بیشتری نیاز دارند. نسبت GPU به CPU در زیرساخت‌های ابری از ۴ به ۱ به حدود ۲ به ۱ رسیده و حتی به سمت نسبت ۱ به ۱ حرکت می‌کند.

رک‌های Vera Rubin انویدیا نمونه‌ای از این تغییر معماری هستند. میزان DRAM متصل به هر سوکت پردازنده مرکزی در آن‌ها تقریباً سه برابر نسل قبل شده و به ۱٫۵ ترابایت رسیده است. گسترش چنین طراحی‌هایی تقاضا برای DDR و LPDDR را بالا می‌برد؛ حافظه‌هایی که عمدتاً نقش رم سیستم را بر عهده دارند.

پیامد مالی این روند بسیار چشمگیر بود. درآمد DDR نسبت به سال قبل ۵۰۰ درصد و درآمد LPDDR نزدیک به ۴۰۰ درصد رشد کرد. سرعت رشد هر دو گروه اکنون از HBM پیشی گرفته، هرچند HBM همچنان حاشیه سود بالاتری دارد.

درباره تداوم قیمت‌های بالا، سرعت افزایش قیمت در سه‌ماهه سوم نسبت به نیمه نخست ۱۴۰۵ کاهش یافت، اما نشانه‌ای از بازگشت سریع بازار به شرایط عادی دیده نمی‌شود. قراردادهای بلندمدت از قیمت‌ها حمایت می‌کنند و بخش بزرگی از ظرفیت موجود نیز پیشاپیش به مشتریان بزرگ اختصاص یافته است.

ام‌اس هوانگ، مدیر پژوهشی کانترپوینت، انتظار دارد قیمت حافظه در سال ۱۴۰۶ همچنان بالا باقی بماند. قیمت HBM که طی ۱۴۰۵ با فاصله زمانی از DRAM متعارف حرکت کرده بود، اکنون در حال جبران عقب‌ماندگی خود است. محدودیت عرضه نیز ریشه صنعتی دارد؛ کارخانه‌های بزرگ تازه تا سال ۱۴۰۷ وارد مرحله تولید نمی‌شوند و افزایش ظرفیت در صنعت حافظه فرایندی چندساله است. بنابراین حتی کاهش آهنگ رشد تقاضا الزاماً به افت فوری قیمت منجر نخواهد شد.

نوشته جهش ۳۶۹ درصدی درآمد بازار جهانی DRAM زیر تأثیر تقاضای هوش مصنوعی اولین بار در آی‌ تی‌ رسان منتشر شد.

گوگل مدارس مخالف هوش مصنوعی را از دسترسی به موتور جستجوی خود محروم می‌کند

گوگل سیاست جدیدی برای مدارس معرفی کرده است که بر اساس آن، مراکز آموزشی مخالف استفاده از قابلیت‌های هوش مصنوعی این شرکت، امکان دسترسی دانش‌آموزان به موتور جستجوی گوگل را نیز از دست خواهند داد. این تصمیم با واکنش منفی برخی سیاستمداران آمریکایی مواجه شده و اتهام فشار بر مدارس برای پذیرش هوش مصنوعی را به دنبال داشته است.

گوگل در حال بازنگری سیاست‌های خود برای استفاده از ابزارهای آموزشی و هوش مصنوعی است. بر اساس مقررات جدید، دسترسی دانش‌آموزان به سرویس‌هایی مانند Gemini و قابلیت‌های هوش مصنوعی تعبیه‌شده در Google Classroom به‌صورت پیش‌فرض غیرفعال خواهد بود. مدیران مدارس می‌توانند درباره فعال‌سازی هرکدام از این امکانات به‌طور جداگانه تصمیم بگیرند.

بااین‌حال، این اختیار یک محدودیت مهم دارد: مدارسی که تمایلی به استفاده از ابزارهای هوش مصنوعی گوگل ندارند، باید از دسترسی دانش‌آموزان خود به موتور جستجوی این شرکت نیز صرف‌نظر کنند.

گوگل در توجیه این سیاست اعلام کرده است که قابلیت‌های جستجو و هوش مصنوعی به‌شدت با یکدیگر ادغام شده‌اند و امکان ارائه موتور جستجو بدون قابلیت‌های هوش مصنوعی برای حساب‌های آموزشی وجود ندارد.

چرا گوگل مدارس را به استفاده از هوش مصنوعی ملزم می‌کند؟

این تصمیم پس از انتقادهای گسترده معلمان از سیاست قبلی گوگل اتخاذ شده است. این شرکت در ماه اوت ۲۰۲۶ (مرداد ۱۴۰۵)، برخی قابلیت‌های هوش مصنوعی را بدون دریافت تأیید مدیران مدارس در پلتفرم Google Classroom فعال کرده بود.

گوگل

این اقدام با اعتراض معلمان و مسئولان آموزشی روبه‌رو شد و گوگل در نهایت از تصمیم خود عقب‌نشینی کرد. نگرانی‌ها درباره تأثیر هوش مصنوعی بر فرایند یادگیری دانش‌آموزان نیز در افزایش مخالفت‌ها نقش داشت. برخی گزارش‌ها حاکی از آن بود که استفاده گسترده از این ابزارها ممکن است بر عملکرد تحصیلی و نمرات دانش‌آموزان تأثیر منفی بگذارد.

اکنون گوگل قصد دارد طی ماه‌های آینده سیاست جدید خود را اجرا کند؛ سیاستی که اگرچه ظاهراً اختیار بیشتری برای انتخاب ابزارهای آموزشی در اختیار مدیران مدارس قرار می‌دهد، اما در عمل محدودیت قابل‌توجهی برای مخالفان هوش مصنوعی ایجاد می‌کند.

واکنش تند سیاستمداران آمریکایی به تصمیم گوگل

سیاست جدید گوگل با انتقاد شماری از چهره‌های سیاسی آمریکا مواجه شده است. برنی سندرز، سناتور دموکرات، این اقدام را نوعی «اخاذی» توصیف کرده و معتقد است گوگل با چنین رویکردی مدارس را برای پذیرش محصولات هوش مصنوعی خود تحت فشار قرار می‌دهد.

زهران ممدانی، شهردار نیویورک، نیز به این تصمیم واکنش نشان داده و تأکید کرده است که هیچ شرکت خصوصی نباید درباره نحوه آموزش کودکان تصمیم‌گیری کند.

روهیت چوپرا، از مقام‌های مسئول در ایالت کالیفرنیا، نیز نسبت به قدرت شرکت‌های بزرگ فناوری در نظام آموزشی هشدار داده است. به اعتقاد او، شرکت‌های فناوری نباید مدارس را در موقعیتی قرار دهند که برای استفاده از خدمات ضروری خود مجبور به پذیرش محصولات جدید آن‌ها شوند.

دفاع گوگل از سیاست جدید خود

گوگل در مقابل انتقادها تأکید کرده است که هدف این سیاست، افزایش اختیار مدارس در مدیریت ابزارهای دیجیتال و هوش مصنوعی است. بر اساس توضیحات این شرکت، مدیران آموزشی همچنان می‌توانند درباره فعال‌سازی سرویس‌های مختلف تصمیم بگیرند و هیچ الزامی برای استفاده از تمام قابلیت‌های هوش مصنوعی وجود ندارد.

بااین‌حال، شرط حفظ دسترسی به موتور جستجوی گوگل، پرسش‌های جدی درباره میزان واقعی آزادی انتخاب مدارس ایجاد کرده است.

این موضوع فراتر از یک تغییر ساده در تنظیمات سرویس‌های آموزشی است؛ زیرا موتور جستجوی گوگل یکی از ابزارهای اصلی دسترسی دانش‌آموزان به اطلاعات و منابع آموزشی محسوب می‌شود. در نتیجه، پیوندزدن دسترسی به این سرویس با پذیرش قابلیت‌های هوش مصنوعی می‌تواند به الگویی بحث‌برانگیز برای رابطه شرکت‌های فناوری با نظام آموزشی تبدیل شود.

نوشته گوگل مدارس مخالف هوش مصنوعی را از دسترسی به موتور جستجوی خود محروم می‌کند اولین بار در آی‌ تی‌ رسان منتشر شد.

گوگل مدارس مخالف هوش مصنوعی را از دسترسی به موتور جستجوی خود محروم می‌کند

گوگل سیاست جدیدی برای مدارس معرفی کرده است که بر اساس آن، مراکز آموزشی مخالف استفاده از قابلیت‌های هوش مصنوعی این شرکت، امکان دسترسی دانش‌آموزان به موتور جستجوی گوگل را نیز از دست خواهند داد. این تصمیم با واکنش منفی برخی سیاستمداران آمریکایی مواجه شده و اتهام فشار بر مدارس برای پذیرش هوش مصنوعی را به دنبال داشته است.

گوگل در حال بازنگری سیاست‌های خود برای استفاده از ابزارهای آموزشی و هوش مصنوعی است. بر اساس مقررات جدید، دسترسی دانش‌آموزان به سرویس‌هایی مانند Gemini و قابلیت‌های هوش مصنوعی تعبیه‌شده در Google Classroom به‌صورت پیش‌فرض غیرفعال خواهد بود. مدیران مدارس می‌توانند درباره فعال‌سازی هرکدام از این امکانات به‌طور جداگانه تصمیم بگیرند.

بااین‌حال، این اختیار یک محدودیت مهم دارد: مدارسی که تمایلی به استفاده از ابزارهای هوش مصنوعی گوگل ندارند، باید از دسترسی دانش‌آموزان خود به موتور جستجوی این شرکت نیز صرف‌نظر کنند.

گوگل در توجیه این سیاست اعلام کرده است که قابلیت‌های جستجو و هوش مصنوعی به‌شدت با یکدیگر ادغام شده‌اند و امکان ارائه موتور جستجو بدون قابلیت‌های هوش مصنوعی برای حساب‌های آموزشی وجود ندارد.

چرا گوگل مدارس را به استفاده از هوش مصنوعی ملزم می‌کند؟

این تصمیم پس از انتقادهای گسترده معلمان از سیاست قبلی گوگل اتخاذ شده است. این شرکت در ماه اوت ۲۰۲۶ (مرداد ۱۴۰۵)، برخی قابلیت‌های هوش مصنوعی را بدون دریافت تأیید مدیران مدارس در پلتفرم Google Classroom فعال کرده بود.

گوگل

این اقدام با اعتراض معلمان و مسئولان آموزشی روبه‌رو شد و گوگل در نهایت از تصمیم خود عقب‌نشینی کرد. نگرانی‌ها درباره تأثیر هوش مصنوعی بر فرایند یادگیری دانش‌آموزان نیز در افزایش مخالفت‌ها نقش داشت. برخی گزارش‌ها حاکی از آن بود که استفاده گسترده از این ابزارها ممکن است بر عملکرد تحصیلی و نمرات دانش‌آموزان تأثیر منفی بگذارد.

اکنون گوگل قصد دارد طی ماه‌های آینده سیاست جدید خود را اجرا کند؛ سیاستی که اگرچه ظاهراً اختیار بیشتری برای انتخاب ابزارهای آموزشی در اختیار مدیران مدارس قرار می‌دهد، اما در عمل محدودیت قابل‌توجهی برای مخالفان هوش مصنوعی ایجاد می‌کند.

واکنش تند سیاستمداران آمریکایی به تصمیم گوگل

سیاست جدید گوگل با انتقاد شماری از چهره‌های سیاسی آمریکا مواجه شده است. برنی سندرز، سناتور دموکرات، این اقدام را نوعی «اخاذی» توصیف کرده و معتقد است گوگل با چنین رویکردی مدارس را برای پذیرش محصولات هوش مصنوعی خود تحت فشار قرار می‌دهد.

زهران ممدانی، شهردار نیویورک، نیز به این تصمیم واکنش نشان داده و تأکید کرده است که هیچ شرکت خصوصی نباید درباره نحوه آموزش کودکان تصمیم‌گیری کند.

روهیت چوپرا، از مقام‌های مسئول در ایالت کالیفرنیا، نیز نسبت به قدرت شرکت‌های بزرگ فناوری در نظام آموزشی هشدار داده است. به اعتقاد او، شرکت‌های فناوری نباید مدارس را در موقعیتی قرار دهند که برای استفاده از خدمات ضروری خود مجبور به پذیرش محصولات جدید آن‌ها شوند.

دفاع گوگل از سیاست جدید خود

گوگل در مقابل انتقادها تأکید کرده است که هدف این سیاست، افزایش اختیار مدارس در مدیریت ابزارهای دیجیتال و هوش مصنوعی است. بر اساس توضیحات این شرکت، مدیران آموزشی همچنان می‌توانند درباره فعال‌سازی سرویس‌های مختلف تصمیم بگیرند و هیچ الزامی برای استفاده از تمام قابلیت‌های هوش مصنوعی وجود ندارد.

بااین‌حال، شرط حفظ دسترسی به موتور جستجوی گوگل، پرسش‌های جدی درباره میزان واقعی آزادی انتخاب مدارس ایجاد کرده است.

این موضوع فراتر از یک تغییر ساده در تنظیمات سرویس‌های آموزشی است؛ زیرا موتور جستجوی گوگل یکی از ابزارهای اصلی دسترسی دانش‌آموزان به اطلاعات و منابع آموزشی محسوب می‌شود. در نتیجه، پیوندزدن دسترسی به این سرویس با پذیرش قابلیت‌های هوش مصنوعی می‌تواند به الگویی بحث‌برانگیز برای رابطه شرکت‌های فناوری با نظام آموزشی تبدیل شود.

نوشته گوگل مدارس مخالف هوش مصنوعی را از دسترسی به موتور جستجوی خود محروم می‌کند اولین بار در آی‌ تی‌ رسان منتشر شد.

جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد

جفری هینتون، برنده جایزه نوبل و یکی از چهره‌های تأثیرگذار در شکل‌گیری هوش مصنوعی مدرن، هشدار داده است که شاید بشر در آینده به این نتیجه برسد که توسعه‌ندادن هوش مصنوعی تصمیم عاقلانه‌تری بود. او همچنین احتمال وقوع بحرانی بزرگ در مقیاس حادثه چرنوبیل را مطرح کرده که می‌تواند به خاموشی گسترده شبکه برق یا ازکارافتادن سیستم‌های مالی منجر شود.

جفری هینتون، دانشمند ۷۸ ساله علوم کامپیوتر که به‌دلیل تحقیقات پیشگامانه در زمینه شبکه‌های عصبی مصنوعی به‌عنوان یکی از پدران هوش مصنوعی شناخته می‌شود، معتقد است این فناوری در کنار فرصت‌های بزرگ، خطراتی جدی برای آینده جوامع انسانی ایجاد کرده است.

او در گفت‌وگویی با گاردین توضیح داد که اگرچه همچنان امکان دستیابی به آینده‌ای بسیار مطلوب با کمک هوش مصنوعی وجود دارد، اما این احتمال نیز مطرح است که در نهایت مشخص شود بشر بدون توسعه چنین فناوری‌ای وضعیت بهتری داشت.

هینتون پیش‌بینی می‌کند طی یک دهه آینده، یا حتی زودتر، مشخص خواهد شد که آیا انسان‌ها توانایی کنترل خطرات هوش مصنوعی را دارند یا خیر. به اعتقاد او، در صورت مدیریت صحیح این فناوری، بشر می‌تواند به وضعیتی از «فراوانی بنیادین» دست پیدا کند؛ اما شکست در کنترل آن ممکن است پیامدهایی مانند افزایش شکاف طبقاتی، بحران‌های فرهنگی، بیکاری گسترده و حتی فروپاشی ساختارهای اجتماعی را به همراه داشته باشد.

جفری هینتون

این دانشمند پیش از نمایش مستند بلند «هوش مصنوعی: احتمالاً موضوع نگران‌کننده‌ای نیست» اعلام کرد که خود را موظف می‌داند از اعتبار علمی و جایگاهش در صنعت فناوری برای آگاه‌کردن افکار عمومی درباره خطرات هوش مصنوعی استفاده کند.

انتقاد جفری هینتون از مدیران شرکت‌های هوش مصنوعی

یکی از مهم‌ترین نگرانی‌های هینتون به رقابت فشرده شرکت‌های بزرگ فناوری برای توسعه مدل‌های قدرتمندتر مربوط می‌شود. او معتقد است مدیران این شرکت‌ها در مسیر دستیابی به سهم بیشتری از بازار، خطرات احتمالی محصولات خود را نادیده می‌گیرند و منافع مالی را در اولویت قرار می‌دهند.

هینتون در بخشی از اظهارات خود به مارک زاکربرگ، ایلان ماسک و سم آلتمن اشاره کرد و گفت:

«فکر می‌کنم زاکربرگ، ماسک و سم آلتمن خطرات را به‌خوبی درک می‌کنند، اما اصلاً برایشان اهمیتی ندارد؛ آن‌ها پول را ترجیح می‌دهند. این باور من است.»

او همچنین حضور سم آلتمن در رأس OpenAI را نگران‌کننده دانست؛ شرکتی که یکی از بازیگران اصلی رقابت جهانی هوش مصنوعی، به‌ویژه در برابر شرکت‌های چینی، محسوب می‌شود.

این دیدگاه در تضاد با اظهارات آلتمن در ماه سپتامبر قرار دارد. مدیرعامل OpenAI پیش‌تر گفته بود جهان باید به این شرکت اعتماد کند، زیرا مدیران آن اهمیت انجام اقدامات درست را درک می‌کنند.

پیش‌بینی وقوع چرنوبیل هوش مصنوعی در سال ۲۰۲۶ یا ۲۰۲۷

هشدار جنجالی‌تر هینتون به احتمال وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی در آینده نزدیک مربوط می‌شود. او برخی اتفاقات تابستان ۲۰۲۶، از جمله نفوذ ایجنت‌های هوش مصنوعی OpenAI به وب‌سایت هاگینگ فیس (Hugging Face)، را نشانه‌ای هشداردهنده دانست و آن را با حادثه نیروگاه هسته‌ای چرنوبیل مقایسه کرد.

هینتون در این زمینه پیش‌بینی کرد:

«اواخر امسال یا سال آینده شاهد چرنوبیل هوش مصنوعی خواهیم بود و این شاید برای آنکه توجه مردم واقعاً به موضوع جلب شود کافی باشد.»

البته منظور او وقوع یک حادثه هسته‌ای مشابه چرنوبیل نیست. هینتون سناریوهایی را مطرح می‌کند که در آن‌ها سیستم‌های مبتنی بر هوش مصنوعی می‌توانند در حملات سایبری یا اختلالات گسترده زیرساختی نقش داشته باشند.

به گفته این دانشمند، یکی از سناریوهای نگران‌کننده می‌تواند حمله‌ای با هدایت هوش مصنوعی به شبکه تولید و توزیع برق باشد که خاموشی گسترده‌ای ایجاد کند. احتمال دیگر نیز وقوع حمله‌ای است که سامانه مالی را برای یک هفته از دسترس خارج کند.

هینتون درباره پیامدهای چنین اتفاقی گفت:

«می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما توانایی بازیابی و عبور از آن را داریم، اما چنین اتفاقی کاری می‌کند که آن‌ها بالاخره سر جایشان بنشینند و به خطر توجه کنند.»

وقتی از او پرسیده شد منظورش از افرادی که باید به این هشدار توجه کنند چه کسانی هستند، پاسخ داد: «رهبران جهان، به‌جز ترامپ.»

جفری هینتون

آیا بشر می‌تواند خطرات هوش مصنوعی را کنترل کند؟

اظهارات هینتون بار دیگر مسئله ایمنی هوش مصنوعی و مسئولیت شرکت‌های توسعه‌دهنده این فناوری را به یکی از موضوعات مهم صنعت فناوری تبدیل کرده است.

از یک سو، توسعه هوش مصنوعی می‌تواند بهره‌وری اقتصادی را افزایش دهد، بسیاری از فعالیت‌های پیچیده را ساده‌تر کند و فرصت‌های جدیدی در حوزه‌های علمی و صنعتی به وجود بیاورد. از سوی دیگر، وابستگی زیرساخت‌های حیاتی به سیستم‌های هوشمند، احتمال بروز اختلالات گسترده و سوءاستفاده از این فناوری را نیز افزایش می‌دهد.

هشدارهای هینتون پیش‌بینی قطعی وقوع یک فاجعه نیستند، بلکه بیانگر سناریوهای پرخطری هستند که به اعتقاد او باید جدی گرفته شوند. پرسش اساسی این است که آیا شرکت‌های فناوری و دولت‌ها می‌توانند پیش از وقوع یک بحران بزرگ، سازوکارهای مؤثری برای کنترل و ایمن‌سازی هوش مصنوعی ایجاد کنند یا خیر.

نوشته جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد اولین بار در آی‌ تی‌ رسان منتشر شد.

جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد

جفری هینتون، برنده جایزه نوبل و یکی از چهره‌های تأثیرگذار در شکل‌گیری هوش مصنوعی مدرن، هشدار داده است که شاید بشر در آینده به این نتیجه برسد که توسعه‌ندادن هوش مصنوعی تصمیم عاقلانه‌تری بود. او همچنین احتمال وقوع بحرانی بزرگ در مقیاس حادثه چرنوبیل را مطرح کرده که می‌تواند به خاموشی گسترده شبکه برق یا ازکارافتادن سیستم‌های مالی منجر شود.

جفری هینتون، دانشمند ۷۸ ساله علوم کامپیوتر که به‌دلیل تحقیقات پیشگامانه در زمینه شبکه‌های عصبی مصنوعی به‌عنوان یکی از پدران هوش مصنوعی شناخته می‌شود، معتقد است این فناوری در کنار فرصت‌های بزرگ، خطراتی جدی برای آینده جوامع انسانی ایجاد کرده است.

او در گفت‌وگویی با گاردین توضیح داد که اگرچه همچنان امکان دستیابی به آینده‌ای بسیار مطلوب با کمک هوش مصنوعی وجود دارد، اما این احتمال نیز مطرح است که در نهایت مشخص شود بشر بدون توسعه چنین فناوری‌ای وضعیت بهتری داشت.

هینتون پیش‌بینی می‌کند طی یک دهه آینده، یا حتی زودتر، مشخص خواهد شد که آیا انسان‌ها توانایی کنترل خطرات هوش مصنوعی را دارند یا خیر. به اعتقاد او، در صورت مدیریت صحیح این فناوری، بشر می‌تواند به وضعیتی از «فراوانی بنیادین» دست پیدا کند؛ اما شکست در کنترل آن ممکن است پیامدهایی مانند افزایش شکاف طبقاتی، بحران‌های فرهنگی، بیکاری گسترده و حتی فروپاشی ساختارهای اجتماعی را به همراه داشته باشد.

جفری هینتون

این دانشمند پیش از نمایش مستند بلند «هوش مصنوعی: احتمالاً موضوع نگران‌کننده‌ای نیست» اعلام کرد که خود را موظف می‌داند از اعتبار علمی و جایگاهش در صنعت فناوری برای آگاه‌کردن افکار عمومی درباره خطرات هوش مصنوعی استفاده کند.

انتقاد جفری هینتون از مدیران شرکت‌های هوش مصنوعی

یکی از مهم‌ترین نگرانی‌های هینتون به رقابت فشرده شرکت‌های بزرگ فناوری برای توسعه مدل‌های قدرتمندتر مربوط می‌شود. او معتقد است مدیران این شرکت‌ها در مسیر دستیابی به سهم بیشتری از بازار، خطرات احتمالی محصولات خود را نادیده می‌گیرند و منافع مالی را در اولویت قرار می‌دهند.

هینتون در بخشی از اظهارات خود به مارک زاکربرگ، ایلان ماسک و سم آلتمن اشاره کرد و گفت:

«فکر می‌کنم زاکربرگ، ماسک و سم آلتمن خطرات را به‌خوبی درک می‌کنند، اما اصلاً برایشان اهمیتی ندارد؛ آن‌ها پول را ترجیح می‌دهند. این باور من است.»

او همچنین حضور سم آلتمن در رأس OpenAI را نگران‌کننده دانست؛ شرکتی که یکی از بازیگران اصلی رقابت جهانی هوش مصنوعی، به‌ویژه در برابر شرکت‌های چینی، محسوب می‌شود.

این دیدگاه در تضاد با اظهارات آلتمن در ماه سپتامبر قرار دارد. مدیرعامل OpenAI پیش‌تر گفته بود جهان باید به این شرکت اعتماد کند، زیرا مدیران آن اهمیت انجام اقدامات درست را درک می‌کنند.

پیش‌بینی وقوع چرنوبیل هوش مصنوعی در سال ۲۰۲۶ یا ۲۰۲۷

هشدار جنجالی‌تر هینتون به احتمال وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی در آینده نزدیک مربوط می‌شود. او برخی اتفاقات تابستان ۲۰۲۶، از جمله نفوذ ایجنت‌های هوش مصنوعی OpenAI به وب‌سایت هاگینگ فیس (Hugging Face)، را نشانه‌ای هشداردهنده دانست و آن را با حادثه نیروگاه هسته‌ای چرنوبیل مقایسه کرد.

هینتون در این زمینه پیش‌بینی کرد:

«اواخر امسال یا سال آینده شاهد چرنوبیل هوش مصنوعی خواهیم بود و این شاید برای آنکه توجه مردم واقعاً به موضوع جلب شود کافی باشد.»

البته منظور او وقوع یک حادثه هسته‌ای مشابه چرنوبیل نیست. هینتون سناریوهایی را مطرح می‌کند که در آن‌ها سیستم‌های مبتنی بر هوش مصنوعی می‌توانند در حملات سایبری یا اختلالات گسترده زیرساختی نقش داشته باشند.

به گفته این دانشمند، یکی از سناریوهای نگران‌کننده می‌تواند حمله‌ای با هدایت هوش مصنوعی به شبکه تولید و توزیع برق باشد که خاموشی گسترده‌ای ایجاد کند. احتمال دیگر نیز وقوع حمله‌ای است که سامانه مالی را برای یک هفته از دسترس خارج کند.

هینتون درباره پیامدهای چنین اتفاقی گفت:

«می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما توانایی بازیابی و عبور از آن را داریم، اما چنین اتفاقی کاری می‌کند که آن‌ها بالاخره سر جایشان بنشینند و به خطر توجه کنند.»

وقتی از او پرسیده شد منظورش از افرادی که باید به این هشدار توجه کنند چه کسانی هستند، پاسخ داد: «رهبران جهان، به‌جز ترامپ.»

جفری هینتون

آیا بشر می‌تواند خطرات هوش مصنوعی را کنترل کند؟

اظهارات هینتون بار دیگر مسئله ایمنی هوش مصنوعی و مسئولیت شرکت‌های توسعه‌دهنده این فناوری را به یکی از موضوعات مهم صنعت فناوری تبدیل کرده است.

از یک سو، توسعه هوش مصنوعی می‌تواند بهره‌وری اقتصادی را افزایش دهد، بسیاری از فعالیت‌های پیچیده را ساده‌تر کند و فرصت‌های جدیدی در حوزه‌های علمی و صنعتی به وجود بیاورد. از سوی دیگر، وابستگی زیرساخت‌های حیاتی به سیستم‌های هوشمند، احتمال بروز اختلالات گسترده و سوءاستفاده از این فناوری را نیز افزایش می‌دهد.

هشدارهای هینتون پیش‌بینی قطعی وقوع یک فاجعه نیستند، بلکه بیانگر سناریوهای پرخطری هستند که به اعتقاد او باید جدی گرفته شوند. پرسش اساسی این است که آیا شرکت‌های فناوری و دولت‌ها می‌توانند پیش از وقوع یک بحران بزرگ، سازوکارهای مؤثری برای کنترل و ایمن‌سازی هوش مصنوعی ایجاد کنند یا خیر.

نوشته جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد اولین بار در آی‌ تی‌ رسان منتشر شد.

جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد

جفری هینتون، برنده جایزه نوبل و یکی از چهره‌های تأثیرگذار در شکل‌گیری هوش مصنوعی مدرن، هشدار داده است که شاید بشر در آینده به این نتیجه برسد که توسعه‌ندادن هوش مصنوعی تصمیم عاقلانه‌تری بود. او همچنین احتمال وقوع بحرانی بزرگ در مقیاس حادثه چرنوبیل را مطرح کرده که می‌تواند به خاموشی گسترده شبکه برق یا ازکارافتادن سیستم‌های مالی منجر شود.

جفری هینتون، دانشمند ۷۸ ساله علوم کامپیوتر که به‌دلیل تحقیقات پیشگامانه در زمینه شبکه‌های عصبی مصنوعی به‌عنوان یکی از پدران هوش مصنوعی شناخته می‌شود، معتقد است این فناوری در کنار فرصت‌های بزرگ، خطراتی جدی برای آینده جوامع انسانی ایجاد کرده است.

او در گفت‌وگویی با گاردین توضیح داد که اگرچه همچنان امکان دستیابی به آینده‌ای بسیار مطلوب با کمک هوش مصنوعی وجود دارد، اما این احتمال نیز مطرح است که در نهایت مشخص شود بشر بدون توسعه چنین فناوری‌ای وضعیت بهتری داشت.

هینتون پیش‌بینی می‌کند طی یک دهه آینده، یا حتی زودتر، مشخص خواهد شد که آیا انسان‌ها توانایی کنترل خطرات هوش مصنوعی را دارند یا خیر. به اعتقاد او، در صورت مدیریت صحیح این فناوری، بشر می‌تواند به وضعیتی از «فراوانی بنیادین» دست پیدا کند؛ اما شکست در کنترل آن ممکن است پیامدهایی مانند افزایش شکاف طبقاتی، بحران‌های فرهنگی، بیکاری گسترده و حتی فروپاشی ساختارهای اجتماعی را به همراه داشته باشد.

جفری هینتون

این دانشمند پیش از نمایش مستند بلند «هوش مصنوعی: احتمالاً موضوع نگران‌کننده‌ای نیست» اعلام کرد که خود را موظف می‌داند از اعتبار علمی و جایگاهش در صنعت فناوری برای آگاه‌کردن افکار عمومی درباره خطرات هوش مصنوعی استفاده کند.

انتقاد جفری هینتون از مدیران شرکت‌های هوش مصنوعی

یکی از مهم‌ترین نگرانی‌های هینتون به رقابت فشرده شرکت‌های بزرگ فناوری برای توسعه مدل‌های قدرتمندتر مربوط می‌شود. او معتقد است مدیران این شرکت‌ها در مسیر دستیابی به سهم بیشتری از بازار، خطرات احتمالی محصولات خود را نادیده می‌گیرند و منافع مالی را در اولویت قرار می‌دهند.

هینتون در بخشی از اظهارات خود به مارک زاکربرگ، ایلان ماسک و سم آلتمن اشاره کرد و گفت:

«فکر می‌کنم زاکربرگ، ماسک و سم آلتمن خطرات را به‌خوبی درک می‌کنند، اما اصلاً برایشان اهمیتی ندارد؛ آن‌ها پول را ترجیح می‌دهند. این باور من است.»

او همچنین حضور سم آلتمن در رأس OpenAI را نگران‌کننده دانست؛ شرکتی که یکی از بازیگران اصلی رقابت جهانی هوش مصنوعی، به‌ویژه در برابر شرکت‌های چینی، محسوب می‌شود.

این دیدگاه در تضاد با اظهارات آلتمن در ماه سپتامبر قرار دارد. مدیرعامل OpenAI پیش‌تر گفته بود جهان باید به این شرکت اعتماد کند، زیرا مدیران آن اهمیت انجام اقدامات درست را درک می‌کنند.

پیش‌بینی وقوع چرنوبیل هوش مصنوعی در سال ۲۰۲۶ یا ۲۰۲۷

هشدار جنجالی‌تر هینتون به احتمال وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی در آینده نزدیک مربوط می‌شود. او برخی اتفاقات تابستان ۲۰۲۶، از جمله نفوذ ایجنت‌های هوش مصنوعی OpenAI به وب‌سایت هاگینگ فیس (Hugging Face)، را نشانه‌ای هشداردهنده دانست و آن را با حادثه نیروگاه هسته‌ای چرنوبیل مقایسه کرد.

هینتون در این زمینه پیش‌بینی کرد:

«اواخر امسال یا سال آینده شاهد چرنوبیل هوش مصنوعی خواهیم بود و این شاید برای آنکه توجه مردم واقعاً به موضوع جلب شود کافی باشد.»

البته منظور او وقوع یک حادثه هسته‌ای مشابه چرنوبیل نیست. هینتون سناریوهایی را مطرح می‌کند که در آن‌ها سیستم‌های مبتنی بر هوش مصنوعی می‌توانند در حملات سایبری یا اختلالات گسترده زیرساختی نقش داشته باشند.

به گفته این دانشمند، یکی از سناریوهای نگران‌کننده می‌تواند حمله‌ای با هدایت هوش مصنوعی به شبکه تولید و توزیع برق باشد که خاموشی گسترده‌ای ایجاد کند. احتمال دیگر نیز وقوع حمله‌ای است که سامانه مالی را برای یک هفته از دسترس خارج کند.

هینتون درباره پیامدهای چنین اتفاقی گفت:

«می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما توانایی بازیابی و عبور از آن را داریم، اما چنین اتفاقی کاری می‌کند که آن‌ها بالاخره سر جایشان بنشینند و به خطر توجه کنند.»

وقتی از او پرسیده شد منظورش از افرادی که باید به این هشدار توجه کنند چه کسانی هستند، پاسخ داد: «رهبران جهان، به‌جز ترامپ.»

جفری هینتون

آیا بشر می‌تواند خطرات هوش مصنوعی را کنترل کند؟

اظهارات هینتون بار دیگر مسئله ایمنی هوش مصنوعی و مسئولیت شرکت‌های توسعه‌دهنده این فناوری را به یکی از موضوعات مهم صنعت فناوری تبدیل کرده است.

از یک سو، توسعه هوش مصنوعی می‌تواند بهره‌وری اقتصادی را افزایش دهد، بسیاری از فعالیت‌های پیچیده را ساده‌تر کند و فرصت‌های جدیدی در حوزه‌های علمی و صنعتی به وجود بیاورد. از سوی دیگر، وابستگی زیرساخت‌های حیاتی به سیستم‌های هوشمند، احتمال بروز اختلالات گسترده و سوءاستفاده از این فناوری را نیز افزایش می‌دهد.

هشدارهای هینتون پیش‌بینی قطعی وقوع یک فاجعه نیستند، بلکه بیانگر سناریوهای پرخطری هستند که به اعتقاد او باید جدی گرفته شوند. پرسش اساسی این است که آیا شرکت‌های فناوری و دولت‌ها می‌توانند پیش از وقوع یک بحران بزرگ، سازوکارهای مؤثری برای کنترل و ایمن‌سازی هوش مصنوعی ایجاد کنند یا خیر.

نوشته جفری هینتون: شاید توسعه هوش مصنوعی بزرگ‌ترین اشتباه بشر بوده باشد اولین بار در آی‌ تی‌ رسان منتشر شد.

آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند

شرکت آنتروپیک (Anthropic) در حال توسعه یک سامانه متن‌باز با نام FlashProve است که می‌تواند با استفاده از روش‌های رمزنگاری اثبات کند پاسخ تولیدشده واقعاً متعلق به کدام مدل هوش مصنوعی است. این فناوری می‌تواند از جایگزینی مخفیانه مدل‌های پیشرفته با نسخه‌های ارزان‌تر یا دست‌کاری نتایج ارزیابی هوش مصنوعی جلوگیری کند.

آنتروپیک در یک مطلب پژوهشی که روز سه‌شنبه منتشر کرد، از پروژه‌ای به نام FlashProve رونمایی کرد. هدف این پروژه توسعه روشی برای آن چیزی است که پژوهشگران «استنتاج قابل اثبات» (Provable Inference) می‌نامند؛ سازوکاری که با ارائه یک گواه رمزنگاری‌شده، منشأ تولید یک خروجی هوش مصنوعی را مشخص می‌کند.

به کمک این فناوری، کاربران می‌توانند بررسی کنند پاسخی که دریافت کرده‌اند واقعاً توسط همان مدلی تولید شده است که تصور می‌کنند در حال استفاده از آن هستند. این موضوع به‌ویژه در شرایطی اهمیت پیدا می‌کند که شرکت‌ها و ارائه‌دهندگان خدمات هوش مصنوعی از مدل‌های مختلف با قابلیت‌ها و هزینه‌های متفاوت استفاده می‌کنند.

FlashProve چگونه از جعل هویت مدل‌های هوش مصنوعی جلوگیری می‌کند؟

عملکرد FlashProve از نظر مفهومی شباهت زیادی به امضای دیجیتال در ایمیل‌ها دارد. همان‌طور که امضای رمزنگاری‌شده ایمیل به دریافت‌کننده کمک می‌کند هویت فرستنده واقعی را تأیید کند، این سامانه نیز می‌تواند مشخص کند یک پاسخ مشخص از کدام مدل هوش مصنوعی صادر شده است.

نکته مهم این است که سازوکار پیشنهادی آنتروپیک حتی در برابر جعل هویت توسط شرکتی که خود توسعه‌دهنده و گرداننده مدل است نیز طراحی شده است. به‌عنوان مثال، یک شرکت هوش مصنوعی نمی‌تواند بدون امکان شناسایی، مدلی ارزان‌تر و ضعیف‌تر را جایگزین مدل پیشرفته‌ای کند که به مشتریان وعده داده است.

آنتروپیک

چنین قابلیتی می‌تواند از دو نوع سوءاستفاده جلوگیری کند: نخست، جایگزینی مدل‌های قدرتمند با نسخه‌های ارزان‌تر برای کاهش هزینه‌های عملیاتی و دوم، استفاده از مدل‌های گران‌تر یا متفاوت برای دست‌کاری نتایج و بزرگ‌نمایی عملکرد یک سرویس هوش مصنوعی.

کاربرد FlashProve در تأیید عملکرد شرکت‌ها و توسعه‌دهندگان

کاربرد این فناوری تنها به بررسی پاسخ‌های مستقیم چت‌بات‌ها محدود نمی‌شود. پژوهشگران آنتروپیک معتقدند FlashProve می‌تواند برای تأیید ادعاهای شرکت‌ها و توسعه‌دهندگان درباره استفاده از مدل‌های هوش مصنوعی نیز کاربرد داشته باشد.

برای مثال، ممکن است یک توسعه‌دهنده ادعا کند کتابخانه نرم‌افزاری خود را با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیب‌پذیری بررسی کرده است. همچنین یک شرکت می‌تواند مدعی شود طرح تجاری آن توسط یک مدل هوش مصنوعی تخصصی ارزیابی و تأیید شده است.

در چنین شرایطی، کاربران و مشتریان معمولاً راه مستقلی برای اطمینان از صحت این ادعاها ندارند. FlashProve قرار است با ارائه مدرک رمزنگاری‌شده، امکان بررسی مستقل هویت مدل استفاده‌شده را فراهم کند.

حفظ محرمانگی اطلاعات داخلی مدل‌ها در FlashProve

یکی از چالش‌های مهم توسعه چنین سامانه‌ای، حفظ اطلاعات اختصاصی مدل‌های هوش مصنوعی است. شرکت‌هایی مانند آنتروپیک و OpenAI وزن‌های مدل‌های خود را که شامل پارامترهای داخلی تعیین‌کننده رفتار و عملکرد آن‌ها هستند، به‌صورت عمومی منتشر نمی‌کنند.

برای حل این مشکل، FlashProve به شرکت‌های توسعه‌دهنده اجازه می‌دهد برای هر مدل یک اثر انگشت رمزنگاری‌شده (Fingerprint) منتشر کنند. این شناسه در ادامه می‌تواند برای تطبیق خروجی‌های تولیدشده با مدل اصلی مورد استفاده قرار بگیرد.

نکته مهم این است که انتشار اثر انگشت رمزنگاری‌شده، وزن‌ها و اطلاعات محرمانه مدل را فاش نمی‌کند. بنابراین، شرکت‌ها می‌توانند بدون واگذاری دارایی‌های فنی و تجاری خود، امکان تأیید هویت مدل‌هایشان را در اختیار کاربران قرار دهند.

پژوهشگران همچنین تأکید کرده‌اند که FlashProve با هدف سبک‌بودن طراحی شده است تا فرایند بررسی و تأیید خروجی‌ها حتی روی دستگاه محلی کاربر نیز امکان‌پذیر باشد.

انتشار کد متن‌باز FlashProve در گیت‌هاب

آنتروپیک هم‌زمان با معرفی این پروژه، مشخصات فنی آن و کدهای اجرایی بخش‌های مختلف سامانه را منتشر کرده است. این منابع تحت مجوز متن‌باز در گیت‌هاب در دسترس قرار گرفته‌اند تا سایر پژوهشگران و توسعه‌دهندگان بتوانند عملکرد آن را بررسی کنند، مشکلات احتمالی را شناسایی کنند و در توسعه آن مشارکت داشته باشند.

بااین‌حال، FlashProve هنوز یک پروژه پژوهشی در حال توسعه است و آنتروپیک اعلام کرده برنامه‌ای برای استفاده عملیاتی از آن در سرویس‌های خود یا سایر آزمایشگاه‌های هوش مصنوعی ندارد.

پژوهشگران این شرکت تأکید کرده‌اند که انتشار مطلب اخیر به معنای تکمیل برنامه تحقیقاتی نیست، بلکه هدف اصلی آن به‌اشتراک‌گذاری دستاوردهای اولیه و فراهم‌کردن زمینه برای مشارکت جامعه علمی در بهبود این فناوری است.

در صورت تکامل و پیاده‌سازی موفق FlashProve، این فناوری می‌تواند گام مهمی برای افزایش شفافیت و اعتمادپذیری خدمات هوش مصنوعی باشد؛ به‌ویژه در بازاری که تشخیص مدل واقعی پشت یک پاسخ یا سرویس، برای کاربران همیشه امکان‌پذیر نیست.

نوشته آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند اولین بار در آی‌ تی‌ رسان منتشر شد.

آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند

شرکت آنتروپیک (Anthropic) در حال توسعه یک سامانه متن‌باز با نام FlashProve است که می‌تواند با استفاده از روش‌های رمزنگاری اثبات کند پاسخ تولیدشده واقعاً متعلق به کدام مدل هوش مصنوعی است. این فناوری می‌تواند از جایگزینی مخفیانه مدل‌های پیشرفته با نسخه‌های ارزان‌تر یا دست‌کاری نتایج ارزیابی هوش مصنوعی جلوگیری کند.

آنتروپیک در یک مطلب پژوهشی که روز سه‌شنبه منتشر کرد، از پروژه‌ای به نام FlashProve رونمایی کرد. هدف این پروژه توسعه روشی برای آن چیزی است که پژوهشگران «استنتاج قابل اثبات» (Provable Inference) می‌نامند؛ سازوکاری که با ارائه یک گواه رمزنگاری‌شده، منشأ تولید یک خروجی هوش مصنوعی را مشخص می‌کند.

به کمک این فناوری، کاربران می‌توانند بررسی کنند پاسخی که دریافت کرده‌اند واقعاً توسط همان مدلی تولید شده است که تصور می‌کنند در حال استفاده از آن هستند. این موضوع به‌ویژه در شرایطی اهمیت پیدا می‌کند که شرکت‌ها و ارائه‌دهندگان خدمات هوش مصنوعی از مدل‌های مختلف با قابلیت‌ها و هزینه‌های متفاوت استفاده می‌کنند.

FlashProve چگونه از جعل هویت مدل‌های هوش مصنوعی جلوگیری می‌کند؟

عملکرد FlashProve از نظر مفهومی شباهت زیادی به امضای دیجیتال در ایمیل‌ها دارد. همان‌طور که امضای رمزنگاری‌شده ایمیل به دریافت‌کننده کمک می‌کند هویت فرستنده واقعی را تأیید کند، این سامانه نیز می‌تواند مشخص کند یک پاسخ مشخص از کدام مدل هوش مصنوعی صادر شده است.

نکته مهم این است که سازوکار پیشنهادی آنتروپیک حتی در برابر جعل هویت توسط شرکتی که خود توسعه‌دهنده و گرداننده مدل است نیز طراحی شده است. به‌عنوان مثال، یک شرکت هوش مصنوعی نمی‌تواند بدون امکان شناسایی، مدلی ارزان‌تر و ضعیف‌تر را جایگزین مدل پیشرفته‌ای کند که به مشتریان وعده داده است.

آنتروپیک

چنین قابلیتی می‌تواند از دو نوع سوءاستفاده جلوگیری کند: نخست، جایگزینی مدل‌های قدرتمند با نسخه‌های ارزان‌تر برای کاهش هزینه‌های عملیاتی و دوم، استفاده از مدل‌های گران‌تر یا متفاوت برای دست‌کاری نتایج و بزرگ‌نمایی عملکرد یک سرویس هوش مصنوعی.

کاربرد FlashProve در تأیید عملکرد شرکت‌ها و توسعه‌دهندگان

کاربرد این فناوری تنها به بررسی پاسخ‌های مستقیم چت‌بات‌ها محدود نمی‌شود. پژوهشگران آنتروپیک معتقدند FlashProve می‌تواند برای تأیید ادعاهای شرکت‌ها و توسعه‌دهندگان درباره استفاده از مدل‌های هوش مصنوعی نیز کاربرد داشته باشد.

برای مثال، ممکن است یک توسعه‌دهنده ادعا کند کتابخانه نرم‌افزاری خود را با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیب‌پذیری بررسی کرده است. همچنین یک شرکت می‌تواند مدعی شود طرح تجاری آن توسط یک مدل هوش مصنوعی تخصصی ارزیابی و تأیید شده است.

در چنین شرایطی، کاربران و مشتریان معمولاً راه مستقلی برای اطمینان از صحت این ادعاها ندارند. FlashProve قرار است با ارائه مدرک رمزنگاری‌شده، امکان بررسی مستقل هویت مدل استفاده‌شده را فراهم کند.

حفظ محرمانگی اطلاعات داخلی مدل‌ها در FlashProve

یکی از چالش‌های مهم توسعه چنین سامانه‌ای، حفظ اطلاعات اختصاصی مدل‌های هوش مصنوعی است. شرکت‌هایی مانند آنتروپیک و OpenAI وزن‌های مدل‌های خود را که شامل پارامترهای داخلی تعیین‌کننده رفتار و عملکرد آن‌ها هستند، به‌صورت عمومی منتشر نمی‌کنند.

برای حل این مشکل، FlashProve به شرکت‌های توسعه‌دهنده اجازه می‌دهد برای هر مدل یک اثر انگشت رمزنگاری‌شده (Fingerprint) منتشر کنند. این شناسه در ادامه می‌تواند برای تطبیق خروجی‌های تولیدشده با مدل اصلی مورد استفاده قرار بگیرد.

نکته مهم این است که انتشار اثر انگشت رمزنگاری‌شده، وزن‌ها و اطلاعات محرمانه مدل را فاش نمی‌کند. بنابراین، شرکت‌ها می‌توانند بدون واگذاری دارایی‌های فنی و تجاری خود، امکان تأیید هویت مدل‌هایشان را در اختیار کاربران قرار دهند.

پژوهشگران همچنین تأکید کرده‌اند که FlashProve با هدف سبک‌بودن طراحی شده است تا فرایند بررسی و تأیید خروجی‌ها حتی روی دستگاه محلی کاربر نیز امکان‌پذیر باشد.

انتشار کد متن‌باز FlashProve در گیت‌هاب

آنتروپیک هم‌زمان با معرفی این پروژه، مشخصات فنی آن و کدهای اجرایی بخش‌های مختلف سامانه را منتشر کرده است. این منابع تحت مجوز متن‌باز در گیت‌هاب در دسترس قرار گرفته‌اند تا سایر پژوهشگران و توسعه‌دهندگان بتوانند عملکرد آن را بررسی کنند، مشکلات احتمالی را شناسایی کنند و در توسعه آن مشارکت داشته باشند.

بااین‌حال، FlashProve هنوز یک پروژه پژوهشی در حال توسعه است و آنتروپیک اعلام کرده برنامه‌ای برای استفاده عملیاتی از آن در سرویس‌های خود یا سایر آزمایشگاه‌های هوش مصنوعی ندارد.

پژوهشگران این شرکت تأکید کرده‌اند که انتشار مطلب اخیر به معنای تکمیل برنامه تحقیقاتی نیست، بلکه هدف اصلی آن به‌اشتراک‌گذاری دستاوردهای اولیه و فراهم‌کردن زمینه برای مشارکت جامعه علمی در بهبود این فناوری است.

در صورت تکامل و پیاده‌سازی موفق FlashProve، این فناوری می‌تواند گام مهمی برای افزایش شفافیت و اعتمادپذیری خدمات هوش مصنوعی باشد؛ به‌ویژه در بازاری که تشخیص مدل واقعی پشت یک پاسخ یا سرویس، برای کاربران همیشه امکان‌پذیر نیست.

نوشته آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند اولین بار در آی‌ تی‌ رسان منتشر شد.

آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند

شرکت آنتروپیک (Anthropic) در حال توسعه یک سامانه متن‌باز با نام FlashProve است که می‌تواند با استفاده از روش‌های رمزنگاری اثبات کند پاسخ تولیدشده واقعاً متعلق به کدام مدل هوش مصنوعی است. این فناوری می‌تواند از جایگزینی مخفیانه مدل‌های پیشرفته با نسخه‌های ارزان‌تر یا دست‌کاری نتایج ارزیابی هوش مصنوعی جلوگیری کند.

آنتروپیک در یک مطلب پژوهشی که روز سه‌شنبه منتشر کرد، از پروژه‌ای به نام FlashProve رونمایی کرد. هدف این پروژه توسعه روشی برای آن چیزی است که پژوهشگران «استنتاج قابل اثبات» (Provable Inference) می‌نامند؛ سازوکاری که با ارائه یک گواه رمزنگاری‌شده، منشأ تولید یک خروجی هوش مصنوعی را مشخص می‌کند.

به کمک این فناوری، کاربران می‌توانند بررسی کنند پاسخی که دریافت کرده‌اند واقعاً توسط همان مدلی تولید شده است که تصور می‌کنند در حال استفاده از آن هستند. این موضوع به‌ویژه در شرایطی اهمیت پیدا می‌کند که شرکت‌ها و ارائه‌دهندگان خدمات هوش مصنوعی از مدل‌های مختلف با قابلیت‌ها و هزینه‌های متفاوت استفاده می‌کنند.

FlashProve چگونه از جعل هویت مدل‌های هوش مصنوعی جلوگیری می‌کند؟

عملکرد FlashProve از نظر مفهومی شباهت زیادی به امضای دیجیتال در ایمیل‌ها دارد. همان‌طور که امضای رمزنگاری‌شده ایمیل به دریافت‌کننده کمک می‌کند هویت فرستنده واقعی را تأیید کند، این سامانه نیز می‌تواند مشخص کند یک پاسخ مشخص از کدام مدل هوش مصنوعی صادر شده است.

نکته مهم این است که سازوکار پیشنهادی آنتروپیک حتی در برابر جعل هویت توسط شرکتی که خود توسعه‌دهنده و گرداننده مدل است نیز طراحی شده است. به‌عنوان مثال، یک شرکت هوش مصنوعی نمی‌تواند بدون امکان شناسایی، مدلی ارزان‌تر و ضعیف‌تر را جایگزین مدل پیشرفته‌ای کند که به مشتریان وعده داده است.

آنتروپیک

چنین قابلیتی می‌تواند از دو نوع سوءاستفاده جلوگیری کند: نخست، جایگزینی مدل‌های قدرتمند با نسخه‌های ارزان‌تر برای کاهش هزینه‌های عملیاتی و دوم، استفاده از مدل‌های گران‌تر یا متفاوت برای دست‌کاری نتایج و بزرگ‌نمایی عملکرد یک سرویس هوش مصنوعی.

کاربرد FlashProve در تأیید عملکرد شرکت‌ها و توسعه‌دهندگان

کاربرد این فناوری تنها به بررسی پاسخ‌های مستقیم چت‌بات‌ها محدود نمی‌شود. پژوهشگران آنتروپیک معتقدند FlashProve می‌تواند برای تأیید ادعاهای شرکت‌ها و توسعه‌دهندگان درباره استفاده از مدل‌های هوش مصنوعی نیز کاربرد داشته باشد.

برای مثال، ممکن است یک توسعه‌دهنده ادعا کند کتابخانه نرم‌افزاری خود را با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیب‌پذیری بررسی کرده است. همچنین یک شرکت می‌تواند مدعی شود طرح تجاری آن توسط یک مدل هوش مصنوعی تخصصی ارزیابی و تأیید شده است.

در چنین شرایطی، کاربران و مشتریان معمولاً راه مستقلی برای اطمینان از صحت این ادعاها ندارند. FlashProve قرار است با ارائه مدرک رمزنگاری‌شده، امکان بررسی مستقل هویت مدل استفاده‌شده را فراهم کند.

حفظ محرمانگی اطلاعات داخلی مدل‌ها در FlashProve

یکی از چالش‌های مهم توسعه چنین سامانه‌ای، حفظ اطلاعات اختصاصی مدل‌های هوش مصنوعی است. شرکت‌هایی مانند آنتروپیک و OpenAI وزن‌های مدل‌های خود را که شامل پارامترهای داخلی تعیین‌کننده رفتار و عملکرد آن‌ها هستند، به‌صورت عمومی منتشر نمی‌کنند.

برای حل این مشکل، FlashProve به شرکت‌های توسعه‌دهنده اجازه می‌دهد برای هر مدل یک اثر انگشت رمزنگاری‌شده (Fingerprint) منتشر کنند. این شناسه در ادامه می‌تواند برای تطبیق خروجی‌های تولیدشده با مدل اصلی مورد استفاده قرار بگیرد.

نکته مهم این است که انتشار اثر انگشت رمزنگاری‌شده، وزن‌ها و اطلاعات محرمانه مدل را فاش نمی‌کند. بنابراین، شرکت‌ها می‌توانند بدون واگذاری دارایی‌های فنی و تجاری خود، امکان تأیید هویت مدل‌هایشان را در اختیار کاربران قرار دهند.

پژوهشگران همچنین تأکید کرده‌اند که FlashProve با هدف سبک‌بودن طراحی شده است تا فرایند بررسی و تأیید خروجی‌ها حتی روی دستگاه محلی کاربر نیز امکان‌پذیر باشد.

انتشار کد متن‌باز FlashProve در گیت‌هاب

آنتروپیک هم‌زمان با معرفی این پروژه، مشخصات فنی آن و کدهای اجرایی بخش‌های مختلف سامانه را منتشر کرده است. این منابع تحت مجوز متن‌باز در گیت‌هاب در دسترس قرار گرفته‌اند تا سایر پژوهشگران و توسعه‌دهندگان بتوانند عملکرد آن را بررسی کنند، مشکلات احتمالی را شناسایی کنند و در توسعه آن مشارکت داشته باشند.

بااین‌حال، FlashProve هنوز یک پروژه پژوهشی در حال توسعه است و آنتروپیک اعلام کرده برنامه‌ای برای استفاده عملیاتی از آن در سرویس‌های خود یا سایر آزمایشگاه‌های هوش مصنوعی ندارد.

پژوهشگران این شرکت تأکید کرده‌اند که انتشار مطلب اخیر به معنای تکمیل برنامه تحقیقاتی نیست، بلکه هدف اصلی آن به‌اشتراک‌گذاری دستاوردهای اولیه و فراهم‌کردن زمینه برای مشارکت جامعه علمی در بهبود این فناوری است.

در صورت تکامل و پیاده‌سازی موفق FlashProve، این فناوری می‌تواند گام مهمی برای افزایش شفافیت و اعتمادپذیری خدمات هوش مصنوعی باشد؛ به‌ویژه در بازاری که تشخیص مدل واقعی پشت یک پاسخ یا سرویس، برای کاربران همیشه امکان‌پذیر نیست.

نوشته آنتروپیک روی فناوری جدیدی کار می‌کند که هویت واقعی مدل‌های هوش مصنوعی را اثبات می‌کند اولین بار در آی‌ تی‌ رسان منتشر شد.