مایکروسافت: ابزار ایمنی هوش مصنوعی ما هم خطاها را تشخیص می‌دهد، هم آن‌ها را اصلاح می‌کند [تماشا کنید]

چهارشنبه ۴ مهر ۱۴۰۳ - ۱۱:۲۰
مطالعه 1 دقیقه
سایه کاربر درحال کار با لپ تاپ با زمینه لوگو مایکروسافت
ابزار ایمنی جدید مایکروسافت می‌تواند خطاهای هوش مصنوعی را تشخیص دهد و آن‌ها را اصلاح کند.
تبلیغات

مایکروسافت در راستای تلاش برای مبارزه با خطاهای هوش مصنوعی، ویژگی جدیدی به نام Correction معرفی کرد. مشتریانی که از Microsoft Azure برای تقویت سیستم‌های هوش مصنوعی خود استفاده می‌کنند، اکنون می‌توانند از این قابلیت برای تشخیص خودکار و بازنویسی محتوای نادرست هوش مصنوعی استفاده کنند.

ویژگی Correction به‌عنوان بخشی از نسخه‌ی پیش‌نمایش Azure AI Studio دردسترس قرار می‌گیرد؛ مجموعه‌ای از ابزارهای ایمنی که برای تشخیص آسیب‌پذیری‌ها، یافتن «توهمات هوش مصنوعی» و مسدودکردن درخواست‌های مخرب طراحی شده است. پس‌از فعال‌سازی، سیستم Correction با مقایسه‌ی خروجی هوش مصنوعی با داده‌های اصلی، نادرستی‌ها را شناسایی و اصلاح می‌کند.

پخش از رسانه

قابلیت Correction اشتباه هوش مصنوعی را برجسته می‌کند و اطلاعاتی درباره‌ی اینکه چرا نادرست است، ارائه می‌دهد.

پلتفرم ابری Vertex AI گوگل که به‌منظور توسعه‌ی سیستم‌های هوش مصنوعی توسط شرکت‌ها طراحی شده است، ابزار مشابهی دارد که خروجی‌های مدل‌های هوش مصنوعی را با جست‌وجوی گوگل، داده‌های داخلی شرکت و دیتاست‌های متفرقه مقایسه می‌کند.

سخنگوی مایکروسافت در بیانیه‌ای به تک‌کرانچ گفت که سیستم Correction با بهره‌گیری از «مدل‌های زبانی کوچک و بزرگ و مقایسه‌ی خروجی هوش مصنوعی با اسناد مرجع»، تلاش می‌کند تا پاسخ‌ها را دقیق‌تر کند؛ اما این سیستم نیز از خطا مصون نیست.

مایکروسافت تأکید می‌کند که Correction اگرچه به بهبود تطابق پاسخ‌های هوش مصنوعی با اطلاعات موجود کمک می‌کند؛ اما نمی‌تواند تضمین‌کننده‌ی «دقت مطلق» باشد.

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
داغ‌ترین مطالب روز
تبلیغات

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات