انتشار ابزار آزمایش امنیت هوش مصنوعی مولد از سوی مایکروسافت

به گزارش وبگاه خبری Verdict، مایکروسافت در حال راه‌اندازی یک ابزار خودکار است تا به متخصصان امنیتی و مهندسان یادگیری ماشین در زمینه شناسایی خطرات موجود در سیستم‌های هوش مصنوعی مولد کمک کند.

بنابر آن‌چه مایکروسافت اعلام کرده است ابزار جدید (گروه قرمز) [۱]این شرکت «PyRIT» نام دارد. این ابزار با علامت‌گذاری خطراتی که نیاز به بررسی بیشتر و خودکارسازی وظایف دارند، کارایی را افزایش خواهد داد. روز پنجشنبه، ۲۲ فوریه، شرکت مایکروسافت در یک پست وبلاگی اعلام کرد: «ابزار «PyRIT» در پاسخ به اعتقاد ما به اشتراک‌گذاری منابع امنیتی هوش مصنوعی در سراسر زیست‌بوم هوش مصنوعی و نبدیل شدن به منشا کارآمدی عمومی در این راستا ساخته شده است.»

مایکروسافت همچنین اعلام کرد که سازوکار ارزیابی امنیتی هوش مصنوعی مولد با هوش مصنوعی سنتی متفاوت است، زیرا نوع اخیر دارای تنوع معماری گسترده‌تری است و از سوی دیگر نیاز به شناسایی خطرات دارد. این شرکت همچنین ابراز امیدواری کرد: «ما همتایان خود را در سراسر صنعت تشویق می‌کنیم تا از این ابزار استفاده کنند و ببینند چگونه می‌توان از آن برای ارزیابی امنیتی برنامه هوش مصنوعی مولد خود استفاده کنند.»

گفتنی است که «PyRIT» به کاربران این امکان را می‌دهد که اجرای عملیات ارزیابی امنیتی هوش مصنوعی را کنترل کنند و به طور خودکار استراتژی‌ها را بر اساس پاسخ‌هایی که هوش مصنوعی مولد ارائه می‌کند، تغییر دهد.

شرکت تحقیقاتی و تحلیلی «GlobalData» پیش‌بینی کرده است که بازار کلی هوش مصنوعی تا سال ۲۰۳۰ به ارزش ۹۰۹ میلیارد دلار خواهد رسید. این بازار همچنین در سال‌های ۲۰۲۲ تا ۲۰۳۰ با نرخ مرکب سالانه ۳۵ درصد رشد خواهد کرد. در فضای هوش مصنوعی مولد انتظار می‌رود درآمد از ۱،۸ میلیارد دلار در سال ۲۰۲۲ به ۳۳ میلیارد دلار در سال ۲۰۲۷ افزایش یابد.