اتحادیه اروپا نظارت بر شرکتهای هوش مصنوعی را تشدید میکند
توسعهدهندگان هوش مصنوعی باید ابزارهای ویژهای را برای نظارت بر سیستمهای خود جهت پیشگیری از خطرات امنیتی ایجاد کنند. موضعگیری تند مقامات ارشد کمیسیون اروپا در روز جمعه، پس از انتشار گزارشهایی مبنیبر اقدام به هک توسط مدلهای هوش مصنوعی متعلق به آنتروپیک و OpenAI اتخاذ شد.
به روایت رویترز، این اظهارات درست دو روز پیش از اجراییشدن قانون تاریخی هوش مصنوعی اروپا مطرح میشود که قوانین شفافیت سختگیرانهای را بر این فناوری نوظهور اعمال میکند.
آنتروپیک اعلام کرد که برخی از مدلهای هوش مصنوعی کلاد در طول آزمایشهای امنیت سایبری، به سیستمهای سه شرکت نفوذ کردهاند. این خبر در حالی منتشر شد که چند روز پیش رقیب دیرینهاش یعنی OpenAI اعلام کرد یکی از عاملهای هوش مصنوعی این مجموعه دست به یک حملهی سایبری خودسرانه زد.
هر دو شرکت جزییات این حوادث امنیتی را به اطلاع کمیسیون اروپا رساندهاند و مقامات این نهاد اکنون در حال بررسی ابعاد موضوع هستند. یکی از مقامات کمیسیون اروپا میگوید: «ما پیش از عمومیشدن این حوادث، بهصورت دوجانبه توسط هر دو ارائهدهنده در جریان قرار گرفتیم. در حال حاضر با آنها در تماس هستیم و اطلاعات بیشتری را دریافت خواهیم کرد تا در صورت نیاز، اقدامات رسمی بعدی را پیگیری کنیم.»
مقررات جدید هوش مصنوعی در اروپا، ارائهدهندگان مدلهای هوش مصنوعی عمومی یا مدلهای پایه را ملزم به تهیه مستندات فنی، اتخاذ سیاستهای حق تکثیر و ارائه خلاصههای دقیق از دادههای آموزشی میکند. مقام دیگری در کمیسیون اروپا با تأکید بر اهمیت این قوانین میگوید: «بروز این حوادث نشان میدهد که ایجاد و اجرای فعالیتهای نظارتی لازم توسط توسعهدهندگان تا چه حد حیاتی است.»
