هوش مصنوعی محتوای برچسب دار فیس بوک را اولویت بندی می کند

 
 
هوش مصنوعی محتوای برچسب گذاری شده در فیس بوک را اولویت بندی می کند تا بازبین های انسانی آنها را سریع تر بررسی کنند.
 
 به نقل از انگجت، فیس بوک از چندی قبل برای بازبینی محتوای پلتفرم خود از هوش مصنوعی کمک می گرفت و امروز این شرکت آخرین روش ها برای استفاده از ماشین یادگیری برای انجام این امر را فاش کرده است.  
 
طبق گزارشی جدید فیس بوک از ماشین یادگیری برای اولویت بندی پست هایی استفاده می کند که توسط بازبین های انسانی بررسی می شوند.
 
قبل از استفاده از فناوری مذکور، پست ها با توجه به تقدم زمانی دسته بندی می شدند.
 
این روش مدت زمان واکنش به پست هایی که نیازمند توجه سریع هستند را افزایش می دهد. اما با استفاده از روش جدید این سیستم محتوای برچسب دار را با توجه به میزان گسترده و احتمال نقض قوانین اولویت بندی می کند.

گوگل نقشه‌ای را توسعه داد که سفر مجازی به ۲۰۰ سال قبل را امکان‌پذیر می‌کند

 
 
محل زندگی ما همواره در حال تغییر است و به همین دلیل مشاهده گذشته آن تجربه‌ای هیجان‌انگیز می‌تواند باشد. حالا گوگل با یک نقشه آزمایشی امکان مشاهده محل زندگی افراد در ۲۰۰ سال پیش را فراهم می‌کند.
 
یکی از مهندسان نرم افزار گوگل در بخش تحقیقات این کمپانی به نام «رایمونداس کیوریس» قابلیت سفر مجازی در زمان را به عنوان یک نقشه متن باز توسعه داده که افراد می‌توانند توسط آن گذشته محل زندگی خود را مشاهده کنند.
 
در این نقشه یک اسلایدر برای کنترل سال به چشم می‌خورد و به صورت دقیق می‌توانند تغییرات تمام شهرهای آمریکا از سال ۱۸۰۰ را نشان می‌دهد. این نقشه با گذر زمان به صورت خودکار مدل‌های سه بعدی از ساختمان‌ها تولید می‌کند. این نقشه حتی می‌تواند یک برآورد تقریبی از شکل ظاهری یک شهر از دید عابرپیاده را نیز نشان دهد.
 
این نقشه که نام «rǝ» برای آن انتخاب شده، نتیجه تلاش کیوریس در حوزه هوش مصنوعی و یادگیری ماشینی در گوگل محسوب می‌شود. اگرچه این نقشه همچنان در مراحل اولیه قرار دارد، اما عملکرد مناسبی از خود نشان می‌دهد و افراد می‌توانند محل زندگی خود را در دهه‌های گذشته مشاهده کنند.

این نقشه با استفاده از نقشه‌های تاریخی بیمه آتش‌سوزی که منبعی غنی از اطلاعات محیطی محسوب می‌شود، ساخته شده است. در این منبع اطلاعات دقیقی درباره سن، ابعاد، ارتفاع، نوع سقف و همچنین جنس آن‌ها به چشم می‌خورد. این نقشه مدل‌های سه بعدی ساده از این ساختمان‌ها تولید می‌کند و افراد می‌توانند پیشرفت ساخت آن‌ها در طول سال‌ها را مشاهده کنند.
 
کیوریس می‌خواهد این نقشه عملکردی بیش از مدلسازی ساختمان‌ها داشته باشد و به همین دلیل یک پروژه متن باز ایجاد کرده تا افراد بتوانند در توسعه آن نقش داشته باشند. افراد می‌توانند تصاویر تاریخی را در اختیار تیم توسعه‌دهنده قرار دهند تا جزئیات بیشتری به شهرها اضافه شود.
 
با افزودن جزئیات بیشتر به این نقشه، عملکرد آن افزایش پیدا می‌کند و حتی می‌توان از آن برای ساخت بازی‌ها و فیلم‌ها در آینده نیز استفاده کرد، البته این سطح از جزئیات نیازمند اطلاعات زیادی است.

هوش مصنوعی دنیای کار را دگرگون می کند

 
 
گروه علوم و فناوری‌های نوین پژوهشگاه فضای مجازی با تاکید براینکه هوش مصنوعی (AI) دنیای کار را دگرگون می کند، استفاده از هوش مصنوعی را برای آموزش شغل‌های آینده مورد بررسی قرار داد.
 
هوش مصنوعی (AI) دنیای کار را با سرعت زیادی دگرگون می‌کند و تاثیرات آن در دهه‌های آتی بیشتر هم خواهد شد. استفاده از هوش مصنوعی در محل کار می‌تواند بعضی از جوانب کاری (مانند کارهای تکراری و خطرناک) را بهبود ببخشد اما اذهان عمومی نگران این موضوع است که هوش مصنوعی بیکار شدن کارکنان را به دنبال داشته باشد که اثرات ناخوشایندی روی معاش و کیفیت زندگی افراد خواهد داشت.
 
این درحالی است که موضوعی که کمتر در مورد آن صحبت شده اما اهمیت زیادی دارد، این است که هوش مصنوعی چگونه می‌تواند به آموزش، مهارت‌آموزی، ارتقای مهارت‌ها و آمادگی کارکنان برای آینده بازار کار کمک کند.
 
گروه علوم و فناوری‌های نوین پژوهشگاه فضای مجازی در این گزارش ۳ مورد زیر را مورد بررسی قرار داده است.
 
- هوش مصنوعی (AI) در حال دگرگون کردن دنیای کار است.
 
- هوش مصنوعی اتوماسیون میلیون‌ها شغل را به همراه می‌آورد اما میلیون‌ها شغل دیگر نیز ایجاد می‌کند.
 
- هوش مصنوعی با مهارت‌آموزی و بهبود مهارت‌ها، گنجاندن آموزش در فعالیت‌های روزانه، فرصت بخشیدن به کارکنان و آموزش جوانان در آینده بازار کار تاثیر مثبتی به جا می‌گذارد.
 
۸۵ میلیون شغل تا ۵ سال دیگر از بین می رود
 
گزارش آینده بازار کار ۲۰۲۰ که انجمن اقتصاد جهانی (WEF) آن را منتشر کرده نشان می‌دهد که با افزایش اتوماسیون ظرف پنج سال آینده مقدار زمانی که انسان‌ها و ماشین‌ها برای انجام یک کار نیاز دارند با یکدیگر برابر خواهد شد. بر اساس این گزارش تا سال ۲۰۲۵، ۸۵ میلیون شغل در ۲۶ کشور و ۱۵ صنعت مختلف از بین خواهد رفت و ۸۰ درصد از کارفرماها انتظار دارند از دورکاری و دیجیتالی کردن کارها استفاده گسترده‌تری داشته باشند.
 
به عبارت دیگر، حتی اگر هوش مصنوعی دیگر پیشرفتی نداشته باشد، کارکنان امروزی با اخلال زیادی در بازار کار مواجه می‌شوند زیرا ابزارهای اتوماسیون موجود، بازار کار را دگرگون می‌کنند.
چالش پیشِ رو به دو دلیل از این مشکل نیز بزرگ‌تر خواهد بود: اول اینکه کووید-۱۹ خسارت زیادی را برای اقتصاد جهانی به همراه داشته و طبق برآوردها ۱۴ درصد از ساعت‌های کاری یا حدود ۴۰۰ میلیون شغل تمام‌وقت را در سه‌ماهه دوم سال ۲۰۲۰ از بین برده است.
 
دوم اینکه در دوران همه‌گیری، فناوری‌های اتوماسیون، ثابت باقی نمانده‌اند و با سرعت فزاینده‌ای در حال توسعه و تجاری شدن هستند و با جمع‌آوری داده‌های بیشتر و افزایش قدرت محاسباتی و تجربه، قابلیت‌های بیشتری پیدا می‌کنند.
 
۹۷ میلیون شغل جدید تا ۲۰۲۵ ایجاد می شود
 
به رغم وجود نکات منفی، هوش مصنوعی برای کارکنان و آینده بازار کار، فواید زیادی نیز دارد. گزارش آینده بازار کار عنوان می‌کند که تا سال ۲۰۲۵ با توجه به تقسیم کار بین نیروی انسانی و ماشین‌ها ۹۷ میلیون شغل جدید ایجاد خواهد شد.
 
به جای نگرانی در مورد شغل‌هایی که در آینده از بین خواهند رفت، باید شغل‌های جدید و باکیفیتی برای آینده ایجاد کنیم و در عین حال در زمینه مهارت‌آموزی و بهبود مهارت‌ها تلاش بیشتری داشته باشیم تا بتوانیم افرادی را که بیکار شده‌اند برای فرصت‌های شغلی جدید آماده کنیم. اینجاست که هوش مصنوعی به حل مشکلاتی کمک می‌کند که خودش به پدید آمدن آن‌ها کمک کرده بود.
 
خوشبختانه افرادی که در زمینه نوآوری در حوزه هوش مصنوعی هدفمند فعالیت دارند، اطمینان حاصل می‌کنند کارکنانی که با مخاطرات هوش مصنوعی مواجه هستند، از مزایای قابل‌توجه آن هم بهره‌مند شوند.
 
از این رو گفته می شود که هوش مصنوعی از روش‌های زیر می‌تواند آینده روشنی را برای بازار کار ایجاد کند.
 
* تلاش برای مهارت‌آموزی و بهبود مهارت‌ها
 
بعضی از استارت‌آپ‌های هوش مصنوعی به طور مستقیم روی مهارت‌آموزی و بهبود مهارت‌های کارکنان تمرکز دارند و از الگوریتم‌های هوش مصنوعی برای ایجاد برنامه‌های آموزشی شخصی‌سازی‌شده استفاده می‌کنند که از مهارت‌های موجود کارکنان را بهبود بخشیده و آن‌ها را برای فرصت‌های آینده و استفاده از فناوری آماده می‌کند.
 
مثلاً شرکت EdCast که در کالیفرنیا مستقر است، با ارزیابی مهارت‌های کارکنان از طریق تحلیل داده‌محور نیازهای بازار کار آینده، به کاربران این امکان را می‌دهد تا شغل‌های احتمالی آینده را شناسایی کرده و مهارت‌ها و شرایط لازم برای به عهده گرفتن این مشاغل را به دست بیاورند.
 
* گنجاندن آموزش در فعالیت‌های روزانه
 
عده دیگری از نوآوران روی این موضوع تمرکز می‌کنند که آموزش را در فعالیت‌های کاری روزمره بگنجانند تا کارکنان به طور مداوم مهارت‌های خود را افزایش داده و توانایی بیشتری برای برطرف کردن نیازهای آینده بازار کار پیدا کنند.
 
مثلاً استارت‌آپ کانادایی Axonify ایده «میکرو لرنینگ» را مطرح کرده است که در آن کارکنان هر شیفت ۳ تا ۵ دقیقه از وقت خود را به یادگیری و فعالیت‌های بهبوددهنده عملکرد اختصاص می‌دهند که توسط یک الگوریتم هوش مصنوعی مطابق با نیازهای فردی‌شان طراحی شده است.
 
* فرصت بخشیدن به کارکنان
 
مهارت‌آموزی مبتنی بر هوش مصنوعی می‌تواند به آماده شدن کارکنان برای مواجهه با اخلال در بازار کار کمک کند، اما هنوز کارکنان باید با فرصت‌های جدیدی که ایجاد می‌شود وفق پیدا کنند. هوش مصنوعی در اینجا هم می‌تواند کمک کند.
 
استارت‌آپ‌هایی مانند SkyHive و Kalido پلتفرم‌هایی مبتنی بر هوش مصنوعی ایجاد کرده‌اند که بر اساس مهارت‌ها، اهداف حرفه‌ای و نیازهای آموزشی کارکنان، فرصت‌های جدیدی را در اختیار آن‌ها قرار می‌دهد.
 
* آماده‌سازی نسل بعدی کارکنان
 
هوش مصنوعی علاوه بر آموزش کارکنان برای آینده و فرصت بخشیدن به آن‌ها، کمک می‌کند نسل بعدی کارکنان برای کار کردن در فضایی که فناوری آن را دگرگون کرده، آماده شوند. طی سال‌های اخیر افزایش ابزارهایی را شاهد بوده‌ایم که از فناوری آموزش مبتنی بر هوش مصنوعی (EdTech) برای بهبود آموزش در سطح K-۱۲ در کشورهای توسعه‌یافته و در حال توسعه استفاده کرده‌اند.
 
برای مثال، استارت‌آپ ConveGenius که در دهلی مستقر است، ۱۰۰ میلیون دانش‌آموز هندی با دسترسی محدود به آموزش مناسب را هدف قرار داده است و از هوش مصنوعی برای ارزیابی نیازهای آموزشی هر دانش‌آموز استفاده کرده و محتوای آموزشی مورد نیاز آن‌ها برای موفقیت در زمینه کاری و شهروندی را در اختیارشان قرار می‌دهد.
 
استارت‌آپ‌های دیگری نیز به این چالش مهم رسیدگی کرده و فرصت را برای مهارت‌آموزی و بهبود مهارت‌های کارکنان به منظور آماده‌سازی آن‌ها برای آینده، غنیمت شمرده‌اند.
 
هوش مصنوعی تنها بخشی از راه‌حل است
 
هیچ فناوری‌ای نمی‌تواند به تنهایی تمام مشکلات کنونی کارکنان را حل کند. دستیابی به آینده روشن در بازار کار علاوه بر فناوری‌های جدید به سیاست‌های دولتی هوشمندانه، برنامه‌های شرکتی بلندپروازانه و اقدام فردی کارکنان نیاز دارد.
 
اما در عین حال که تلاش می‌کنیم به اخلال در بازار کار واکنش بهتری داشته باشیم، باید نوآوران و کارآفرینان را تشویق کنیم تا روی روش‌های جدیدی برای استفاده از فناوری هوش مصنوعی کار کنند تا مهارت‌های کارکنان امروز را تقویت کرده و فرصت‌های هیجان‌انگیز و جدیدی را برای کارکنان فردا فراهم کنند.

۱۳ شرکت فناوری برای دفاع از هوش مصنوعی متخاصم دست به کار شدند

 
 
یک سازمان تحقیقاتی با همکاری مایکروسافت و ۱۱ شرکت فناوری چارچوبی را برای مقابله با حملات متخاصم که به سیستم های هوش مصنوعی وارد می شود، فراهم کرده اند.
 
 به نقل از اینترنت آو تینگز، شرکت مایکروسافت با همکاری سازمان تحقیقاتی MITRE چارچوبی برای کمک به کارشناسان امنیت سایبری جهت مقابله با حملات به مدل های هوش مصنوعی فراهم کرده اند.
 
این چارچوب «ماتریکس تهدید یادگیری ماشینی متخاصم» (Adversarial ML Threat Matrix نام دارد و در گیت هاب فراهم است. علاوه بر مایکروسافت و MITRE یازده شرکت دیگر نیز در این پروژه با آنها همکاری می کنند.
 
درهمین راستا MITRE دربیانیه ای رسمی در وب سایت خود نوشت: باهمکاری مایکروسافت، بوش، آی بی ام، انویدیا، ایرباس، دیپ اینستینک، تو سیکس لبز، دانشگاه تورنتو، دانشگاه کاردیف، دانشگاه کارنگی ملون، پرایس واترهاوسکوپرز و انستیتو ماشین یادگیری بری ویل این چارچوب را عرضه می کند تا در شناسایی، هشدار و پاسخ به تهدیدها علیه سیستم‌های یادگیری ماشینی (ML) به تحلیلگران کمک کند.
 
مایکروسافت در وبلاگ خود اعلام کرد طی ۴ سال گذشته با افزایش قابل توجه حملات به سیستم هایML تجاری روبرو بوده است. گزارش های بازاری ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم قرار است تیم‌های امنیتی را تقویت کند.
 
این ماتریکس مجموعه ای از رفتارهای خصمانه و آسیب پذیری‌هایی را در بردارد که شرکت مایکروسافت و MIRTE طی سال‌ها مشاهده کرده‌اند.
 
مایکروسافت در پستی در وبلاگ خود گفت: متوجه شده ایم مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از «تکنیک‌های سنتی» مانند فیشینگ در کنار تکنیک‌های یادگیری ماشینی متخاصم استفاده می‌کنند.

۱۳ شرکت فناوری برای دفاع از هوش مصنوعی متخاصم دست به کار شدند

 
 
یک سازمان تحقیقاتی با همکاری مایکروسافت و ۱۱ شرکت فناوری چارچوبی را برای مقابله با حملات متخاصم که به سیستم های هوش مصنوعی وارد می شود، فراهم کرده اند.
 
 به نقل از اینترنت آو تینگز، شرکت مایکروسافت با همکاری سازمان تحقیقاتی MITRE چارچوبی برای کمک به کارشناسان امنیت سایبری جهت مقابله با حملات به مدل های هوش مصنوعی فراهم کرده اند.
 
این چارچوب «ماتریکس تهدید یادگیری ماشینی متخاصم» (Adversarial ML Threat Matrix نام دارد و در گیت هاب فراهم است. علاوه بر مایکروسافت و MITRE یازده شرکت دیگر نیز در این پروژه با آنها همکاری می کنند.
 
درهمین راستا MITRE دربیانیه ای رسمی در وب سایت خود نوشت: باهمکاری مایکروسافت، بوش، آی بی ام، انویدیا، ایرباس، دیپ اینستینک، تو سیکس لبز، دانشگاه تورنتو، دانشگاه کاردیف، دانشگاه کارنگی ملون، پرایس واترهاوسکوپرز و انستیتو ماشین یادگیری بری ویل این چارچوب را عرضه می کند تا در شناسایی، هشدار و پاسخ به تهدیدها علیه سیستم‌های یادگیری ماشینی (ML) به تحلیلگران کمک کند.
 
مایکروسافت در وبلاگ خود اعلام کرد طی ۴ سال گذشته با افزایش قابل توجه حملات به سیستم هایML تجاری روبرو بوده است. گزارش های بازاری ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم قرار است تیم‌های امنیتی را تقویت کند.
 
این ماتریکس مجموعه ای از رفتارهای خصمانه و آسیب پذیری‌هایی را در بردارد که شرکت مایکروسافت و MIRTE طی سال‌ها مشاهده کرده‌اند.
 
مایکروسافت در پستی در وبلاگ خود گفت: متوجه شده ایم مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از «تکنیک‌های سنتی» مانند فیشینگ در کنار تکنیک‌های یادگیری ماشینی متخاصم استفاده می‌کنند.

۱۳ شرکت فناوری برای دفاع از هوش مصنوعی متخاصم دست به کار شدند

 
 
یک سازمان تحقیقاتی با همکاری مایکروسافت و ۱۱ شرکت فناوری چارچوبی را برای مقابله با حملات متخاصم که به سیستم های هوش مصنوعی وارد می شود، فراهم کرده اند.
 
 به نقل از اینترنت آو تینگز، شرکت مایکروسافت با همکاری سازمان تحقیقاتی MITRE چارچوبی برای کمک به کارشناسان امنیت سایبری جهت مقابله با حملات به مدل های هوش مصنوعی فراهم کرده اند.
 
این چارچوب «ماتریکس تهدید یادگیری ماشینی متخاصم» (Adversarial ML Threat Matrix نام دارد و در گیت هاب فراهم است. علاوه بر مایکروسافت و MITRE یازده شرکت دیگر نیز در این پروژه با آنها همکاری می کنند.
 
درهمین راستا MITRE دربیانیه ای رسمی در وب سایت خود نوشت: باهمکاری مایکروسافت، بوش، آی بی ام، انویدیا، ایرباس، دیپ اینستینک، تو سیکس لبز، دانشگاه تورنتو، دانشگاه کاردیف، دانشگاه کارنگی ملون، پرایس واترهاوسکوپرز و انستیتو ماشین یادگیری بری ویل این چارچوب را عرضه می کند تا در شناسایی، هشدار و پاسخ به تهدیدها علیه سیستم‌های یادگیری ماشینی (ML) به تحلیلگران کمک کند.
 
مایکروسافت در وبلاگ خود اعلام کرد طی ۴ سال گذشته با افزایش قابل توجه حملات به سیستم هایML تجاری روبرو بوده است. گزارش های بازاری ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم قرار است تیم‌های امنیتی را تقویت کند.
 
این ماتریکس مجموعه ای از رفتارهای خصمانه و آسیب پذیری‌هایی را در بردارد که شرکت مایکروسافت و MIRTE طی سال‌ها مشاهده کرده‌اند.
 
مایکروسافت در پستی در وبلاگ خود گفت: متوجه شده ایم مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از «تکنیک‌های سنتی» مانند فیشینگ در کنار تکنیک‌های یادگیری ماشینی متخاصم استفاده می‌کنند.

مایکروسافت با ابزاری جدید امنیت سیستم‌های هوش مصنوعی را افزایش می‌دهد

 
 
مایکروسافت به همراه سازمان تحقیقاتی غیرانتفاعی «MITRE» و همکاری چندین شرکت، ابزاری برای محافظت از سیستم‌های مبتنی بر هوش مصنوعی توسعه داده‌ است.
 
علاوه بر این سازمان، موسسات دانشگاهی و سایر غول‌های فناوری مانند IBM و انویدیا نیز در این پروژه همکاری دارند که نتیجه آن انتشار یک ابزار متن باز به نام «ماتریس تهدید یادگیری ماشینی خصمانه» است.
 
این فریمورک برای سازماندهی و دسته‌بندی تکنیک‌های شناخته شده برای حمله به سیستم‌های یادگیری ماشینی طراحی شده تا به تحلیلگران امنیتی چنین حملاتی اطلاع را اطلاع می‌دهد و استراتژی‌هایی برای شناسایی، پاسخ و رفع تهدیدها در اختیار آن‌ها قرار دهد.
 
این ماتریس حملات را بر اساس معیارهای مربوط به جنبه‌های مختلف تهدید مانند اجرا و گسترش، دسترسی و تاثیر اولیه دسته‌بندی می‌کند. مایکروسافت به همراه MITRE حملات واقعی که روی سیستم‌های موجود انجام شده را مورد تحلیل قرار دادند.
 
«میکل رودریگز» که روی برنامه‌های تحقیقات علمی MITRE نظارت دارد، در این زمینه گفته:
 
«اگر فقط سعی کنید جهان چالش‌ها و آسیب‌پذیری‌ها را تصور کنید، کار به جایی نمی‌برید. بجای این کار با استفاده از ماتریس تهدید، محققان امنیتی قادر به کار با مدل‌های تهدید خواهند بود که در دنیای واقعی رخ می‌دهند و با استفاده از یادگیری ماشینی رفتار مهاجم را تقلید می‌کند.»
 
با افزایش استفاده از هوش مصنوعی در بخش‌های مختلف زندگی، از خدمات مالی تا بهداشت، حفظ امنیت زیرساخت‌ آن‌ها از اهمیت بالایی برخوردار است. MITRE به این موضوع اشاره می‌کند که شرکت‌ها با وجود پیشرفت در توسعه الگوریتم‌های جدید، در حفظ امنیت آن‌ها عملکرد موفقی ندارند.

بررسی‌ها نشان می‌دهد که درک کافی نسبت به حفظ امنیت سیستم‌های هوش مصنوعی در برابر تهدیدات دشمنان وجود ندارد. برای مثال سیستم‌های یادگیری ماشینی گوگل، آمازون، مایکروسافت و تسلا در سال‌های گذشته با ترفندهای مختلف فریب خورده‌اند.
 
الگوریتم‌ها مستعد اشتباه هستند، مخصوصا اگر مورد حمله قرار بگیرند. در یک پژوهش جداگانه تیمی از محققان فهرستی از کاربردهای احتمالی مجرمانه هوش مصنوعی در ۱۵ سال آینده تهیه کرده‌اند که از میان موارد نگران‌کننده ایجاد فرصت حمله به الگوریتم‌های مورد استفاده در برنامه‌های اصلی مانند امنیت عمومی و تراکنش‌های مالی بود.
 
طبق گفته مایکروسافت و MITRE، حملات در شکل‌های مختلف صورت می‌گیرند و MITRE امیدوار است به کمک یک روش امنیت سایبری به نام «تیم قرمز»، به اطلاعات بیشتری از هکرها دست پیدا کند. هر یک از این کمپانی‌ها دارای تیم قرمز مخصوص به خود هستند و آن‌ها برخی از حملات که برای تغذیه ماتریس مورد استفاده قرار گرفته‌اند را به نمایش گذاشته‌اند.

مایکروسافت با ابزاری جدید امنیت سیستم‌های هوش مصنوعی را افزایش می‌دهد

 
 
مایکروسافت به همراه سازمان تحقیقاتی غیرانتفاعی «MITRE» و همکاری چندین شرکت، ابزاری برای محافظت از سیستم‌های مبتنی بر هوش مصنوعی توسعه داده‌ است.
 
علاوه بر این سازمان، موسسات دانشگاهی و سایر غول‌های فناوری مانند IBM و انویدیا نیز در این پروژه همکاری دارند که نتیجه آن انتشار یک ابزار متن باز به نام «ماتریس تهدید یادگیری ماشینی خصمانه» است.
 
این فریمورک برای سازماندهی و دسته‌بندی تکنیک‌های شناخته شده برای حمله به سیستم‌های یادگیری ماشینی طراحی شده تا به تحلیلگران امنیتی چنین حملاتی اطلاع را اطلاع می‌دهد و استراتژی‌هایی برای شناسایی، پاسخ و رفع تهدیدها در اختیار آن‌ها قرار دهد.
 
این ماتریس حملات را بر اساس معیارهای مربوط به جنبه‌های مختلف تهدید مانند اجرا و گسترش، دسترسی و تاثیر اولیه دسته‌بندی می‌کند. مایکروسافت به همراه MITRE حملات واقعی که روی سیستم‌های موجود انجام شده را مورد تحلیل قرار دادند.
 
«میکل رودریگز» که روی برنامه‌های تحقیقات علمی MITRE نظارت دارد، در این زمینه گفته:
 
«اگر فقط سعی کنید جهان چالش‌ها و آسیب‌پذیری‌ها را تصور کنید، کار به جایی نمی‌برید. بجای این کار با استفاده از ماتریس تهدید، محققان امنیتی قادر به کار با مدل‌های تهدید خواهند بود که در دنیای واقعی رخ می‌دهند و با استفاده از یادگیری ماشینی رفتار مهاجم را تقلید می‌کند.»
 
با افزایش استفاده از هوش مصنوعی در بخش‌های مختلف زندگی، از خدمات مالی تا بهداشت، حفظ امنیت زیرساخت‌ آن‌ها از اهمیت بالایی برخوردار است. MITRE به این موضوع اشاره می‌کند که شرکت‌ها با وجود پیشرفت در توسعه الگوریتم‌های جدید، در حفظ امنیت آن‌ها عملکرد موفقی ندارند.

بررسی‌ها نشان می‌دهد که درک کافی نسبت به حفظ امنیت سیستم‌های هوش مصنوعی در برابر تهدیدات دشمنان وجود ندارد. برای مثال سیستم‌های یادگیری ماشینی گوگل، آمازون، مایکروسافت و تسلا در سال‌های گذشته با ترفندهای مختلف فریب خورده‌اند.
 
الگوریتم‌ها مستعد اشتباه هستند، مخصوصا اگر مورد حمله قرار بگیرند. در یک پژوهش جداگانه تیمی از محققان فهرستی از کاربردهای احتمالی مجرمانه هوش مصنوعی در ۱۵ سال آینده تهیه کرده‌اند که از میان موارد نگران‌کننده ایجاد فرصت حمله به الگوریتم‌های مورد استفاده در برنامه‌های اصلی مانند امنیت عمومی و تراکنش‌های مالی بود.
 
طبق گفته مایکروسافت و MITRE، حملات در شکل‌های مختلف صورت می‌گیرند و MITRE امیدوار است به کمک یک روش امنیت سایبری به نام «تیم قرمز»، به اطلاعات بیشتری از هکرها دست پیدا کند. هر یک از این کمپانی‌ها دارای تیم قرمز مخصوص به خود هستند و آن‌ها برخی از حملات که برای تغذیه ماتریس مورد استفاده قرار گرفته‌اند را به نمایش گذاشته‌اند.

مایکروسافت با ابزاری جدید امنیت سیستم‌های هوش مصنوعی را افزایش می‌دهد

 
 
مایکروسافت به همراه سازمان تحقیقاتی غیرانتفاعی «MITRE» و همکاری چندین شرکت، ابزاری برای محافظت از سیستم‌های مبتنی بر هوش مصنوعی توسعه داده‌ است.
 
علاوه بر این سازمان، موسسات دانشگاهی و سایر غول‌های فناوری مانند IBM و انویدیا نیز در این پروژه همکاری دارند که نتیجه آن انتشار یک ابزار متن باز به نام «ماتریس تهدید یادگیری ماشینی خصمانه» است.
 
این فریمورک برای سازماندهی و دسته‌بندی تکنیک‌های شناخته شده برای حمله به سیستم‌های یادگیری ماشینی طراحی شده تا به تحلیلگران امنیتی چنین حملاتی اطلاع را اطلاع می‌دهد و استراتژی‌هایی برای شناسایی، پاسخ و رفع تهدیدها در اختیار آن‌ها قرار دهد.
 
این ماتریس حملات را بر اساس معیارهای مربوط به جنبه‌های مختلف تهدید مانند اجرا و گسترش، دسترسی و تاثیر اولیه دسته‌بندی می‌کند. مایکروسافت به همراه MITRE حملات واقعی که روی سیستم‌های موجود انجام شده را مورد تحلیل قرار دادند.
 
«میکل رودریگز» که روی برنامه‌های تحقیقات علمی MITRE نظارت دارد، در این زمینه گفته:
 
«اگر فقط سعی کنید جهان چالش‌ها و آسیب‌پذیری‌ها را تصور کنید، کار به جایی نمی‌برید. بجای این کار با استفاده از ماتریس تهدید، محققان امنیتی قادر به کار با مدل‌های تهدید خواهند بود که در دنیای واقعی رخ می‌دهند و با استفاده از یادگیری ماشینی رفتار مهاجم را تقلید می‌کند.»
 
با افزایش استفاده از هوش مصنوعی در بخش‌های مختلف زندگی، از خدمات مالی تا بهداشت، حفظ امنیت زیرساخت‌ آن‌ها از اهمیت بالایی برخوردار است. MITRE به این موضوع اشاره می‌کند که شرکت‌ها با وجود پیشرفت در توسعه الگوریتم‌های جدید، در حفظ امنیت آن‌ها عملکرد موفقی ندارند.

بررسی‌ها نشان می‌دهد که درک کافی نسبت به حفظ امنیت سیستم‌های هوش مصنوعی در برابر تهدیدات دشمنان وجود ندارد. برای مثال سیستم‌های یادگیری ماشینی گوگل، آمازون، مایکروسافت و تسلا در سال‌های گذشته با ترفندهای مختلف فریب خورده‌اند.
 
الگوریتم‌ها مستعد اشتباه هستند، مخصوصا اگر مورد حمله قرار بگیرند. در یک پژوهش جداگانه تیمی از محققان فهرستی از کاربردهای احتمالی مجرمانه هوش مصنوعی در ۱۵ سال آینده تهیه کرده‌اند که از میان موارد نگران‌کننده ایجاد فرصت حمله به الگوریتم‌های مورد استفاده در برنامه‌های اصلی مانند امنیت عمومی و تراکنش‌های مالی بود.
 
طبق گفته مایکروسافت و MITRE، حملات در شکل‌های مختلف صورت می‌گیرند و MITRE امیدوار است به کمک یک روش امنیت سایبری به نام «تیم قرمز»، به اطلاعات بیشتری از هکرها دست پیدا کند. هر یک از این کمپانی‌ها دارای تیم قرمز مخصوص به خود هستند و آن‌ها برخی از حملات که برای تغذیه ماتریس مورد استفاده قرار گرفته‌اند را به نمایش گذاشته‌اند.

مایکروسافت با ابزاری جدید امنیت سیستم‌های هوش مصنوعی را افزایش می‌دهد

 
 
مایکروسافت به همراه سازمان تحقیقاتی غیرانتفاعی «MITRE» و همکاری چندین شرکت، ابزاری برای محافظت از سیستم‌های مبتنی بر هوش مصنوعی توسعه داده‌ است.
 
علاوه بر این سازمان، موسسات دانشگاهی و سایر غول‌های فناوری مانند IBM و انویدیا نیز در این پروژه همکاری دارند که نتیجه آن انتشار یک ابزار متن باز به نام «ماتریس تهدید یادگیری ماشینی خصمانه» است.
 
این فریمورک برای سازماندهی و دسته‌بندی تکنیک‌های شناخته شده برای حمله به سیستم‌های یادگیری ماشینی طراحی شده تا به تحلیلگران امنیتی چنین حملاتی اطلاع را اطلاع می‌دهد و استراتژی‌هایی برای شناسایی، پاسخ و رفع تهدیدها در اختیار آن‌ها قرار دهد.
 
این ماتریس حملات را بر اساس معیارهای مربوط به جنبه‌های مختلف تهدید مانند اجرا و گسترش، دسترسی و تاثیر اولیه دسته‌بندی می‌کند. مایکروسافت به همراه MITRE حملات واقعی که روی سیستم‌های موجود انجام شده را مورد تحلیل قرار دادند.
 
«میکل رودریگز» که روی برنامه‌های تحقیقات علمی MITRE نظارت دارد، در این زمینه گفته:
 
«اگر فقط سعی کنید جهان چالش‌ها و آسیب‌پذیری‌ها را تصور کنید، کار به جایی نمی‌برید. بجای این کار با استفاده از ماتریس تهدید، محققان امنیتی قادر به کار با مدل‌های تهدید خواهند بود که در دنیای واقعی رخ می‌دهند و با استفاده از یادگیری ماشینی رفتار مهاجم را تقلید می‌کند.»
 
با افزایش استفاده از هوش مصنوعی در بخش‌های مختلف زندگی، از خدمات مالی تا بهداشت، حفظ امنیت زیرساخت‌ آن‌ها از اهمیت بالایی برخوردار است. MITRE به این موضوع اشاره می‌کند که شرکت‌ها با وجود پیشرفت در توسعه الگوریتم‌های جدید، در حفظ امنیت آن‌ها عملکرد موفقی ندارند.

بررسی‌ها نشان می‌دهد که درک کافی نسبت به حفظ امنیت سیستم‌های هوش مصنوعی در برابر تهدیدات دشمنان وجود ندارد. برای مثال سیستم‌های یادگیری ماشینی گوگل، آمازون، مایکروسافت و تسلا در سال‌های گذشته با ترفندهای مختلف فریب خورده‌اند.
 
الگوریتم‌ها مستعد اشتباه هستند، مخصوصا اگر مورد حمله قرار بگیرند. در یک پژوهش جداگانه تیمی از محققان فهرستی از کاربردهای احتمالی مجرمانه هوش مصنوعی در ۱۵ سال آینده تهیه کرده‌اند که از میان موارد نگران‌کننده ایجاد فرصت حمله به الگوریتم‌های مورد استفاده در برنامه‌های اصلی مانند امنیت عمومی و تراکنش‌های مالی بود.
 
طبق گفته مایکروسافت و MITRE، حملات در شکل‌های مختلف صورت می‌گیرند و MITRE امیدوار است به کمک یک روش امنیت سایبری به نام «تیم قرمز»، به اطلاعات بیشتری از هکرها دست پیدا کند. هر یک از این کمپانی‌ها دارای تیم قرمز مخصوص به خود هستند و آن‌ها برخی از حملات که برای تغذیه ماتریس مورد استفاده قرار گرفته‌اند را به نمایش گذاشته‌اند.