شرکت چینی تنسنت از نسخه پیش‌نمایش جدیدترین مدل هوش مصنوعی متن‌باز خود با نام Hy4 Preview رونمایی کرد. این مدل که برای انجام وظایف پیچیده‌ای همچون مهندسی نرم‌افزار، امور پژوهشی، تحلیل‌های مالی و توسعه بازی طراحی شده، هم‌اکنون روی مخزن هاگینگ فیس و پلتفرم تنسنت کلاد در دسترس قرار گرفته است.

معماری و مشخصات فنی

مدل Hy4 Preview بر پایه معماری ترکیب متخصصان (Mixture of Experts) توسعه یافته و در مجموع دارای ۷۷۰ میلیارد پارامتر است. با این حال، در هر درخواست متنی، حدود ۴۹ میلیارد پارامتر به‌صورت فعال به کار گرفته می‌شوند که بهره‌وری محاسباتی را افزایش می‌دهد.
این مدل از پنجره زمینه یک میلیون توکنی پشتیبانی می‌کند که آن را برای پردازش اسناد بلند و پروژه‌های پیچیده مناسب می‌سازد.

به گفته تنسنت، توسعه این مدل با ارتقای هم‌زمان ابعاد مدل، طول بافت و داده‌های آموزشی انجام شده و در فرایند پیش‌آموزش و پس‌آموزش، بزرگ‌ترین جهش عملکردی نسل به نسل در میان مدل‌های این شرکت به ثبت رسیده است.

داده‌های آموزشی و عملکرد

تنسنت تأکید دارد که داده‌های آموزشی این مدل با همکاری متخصصان داخلی در حوزه‌های مهندسی نرم‌افزار، توسعه بازی، تحلیل مالی و امنیت اطلاعات آماده شده تا مدل در محیط‌های کاری واقعی عملکرد دقیق‌تری ارائه دهد.

در یک ارزیابی توسط ۱۶۳ متخصص داخلی روی ۲۰۳ وظیفه مهندسی، مدل Hy4 Preview در مقایسه با دو مدل مطرح دیگر امتیازهای بالاتری کسب کرده است:

دسترسی و قیمت‌گذاری

مدل Hy4 Preview علاوه بر هاگینگ فیس و تنسنت کلاد، در پلتفرم اوپن‌روتر و ابزارهای داخلی تنسنت مانند CodeBuddy نیز ادغام شده است.
قیمت‌گذاری API این مدل به ازای هر ۱ میلیون توکن به شرح زیر است:

• ورودی: ۰٫۸۳۴ دلار

• خروجی: ۲٫۵۰۱ دلار

نقاط قوت و چالش‌ها

تنسنت با اشاره به متن‌باز بودن این مدل، تأکید کرده که Hy4 Preview یک نسخه اولیه است و در مراحل پیش‌آموزش و پس‌آموزش همچنان ظرفیت ارتقا دارد. با این حال، این شرکت به برخی اشکالات شناخته‌شده نیز اشاره کرده است:

• صرف زمان بیش‌ازحد برای استدلال در کارهای پیچیده

• تمایل مدل به راست‌آزمایی بیش‌ازحد پاسخ‌های خود

تنسنت اعلام کرده است که روند ارتقای مستمر این مدل ادامه خواهد داشت و نسخه‌های بهبودیافته‌تری در آینده منتشر خواهد شد.