D1-lg

هوش مصنوعی Civitai که ساخت عکس‌های غیراخلاقی را ممکن می‌کرد، از دسترس خارج شد

یک‌شنبه ۱۹ آذر ۱۴۰۲ - ۱۰:۴۰
مطالعه 2 دقیقه
هوش مصنوعی Make A Sence متا
پس از گزارش‌هایی مبنی بر ساخت محتوای غیراخلاقی، پلتفرم هوش مصنوعی Civitai از دسترس خارج شد.
تبلیغات
D4-mci

404Media می‌نویسد هوش مصنوعی Civitai می‌تواند برای ساخت تصاویری استفاده شود که «ممکن است به‌عنوان سوءاستفاده جنسی کودکان دسته‌بندی شوند.»

OctoML می‌گوید چند روز پس از تحقیقات انجام‌شده توسط 404Media، متوجه شد که پلتفرم Civitai می‌تواند تصاویری بسازد که شامل محتوای آسیب‌رسان به کودکان است. در واکنش به این اتفاق، OctoML به روابط تجاری خود با Civitai پایان داد.

Civitai قبلاً برای تولید تصویر به OctoAI متکی بود. در حالی که OctoML در ابتدا اعلام کرد که به همکاری با Civitai ادامه خواهد داد و اقدامات جدیدی را برای جلوگیری از ایجاد تصاویر مضر معرفی کرد، 404 Media روز شنبه گزارش داد که این شرکت اکنون تصمیم گرفته است که به‌طور کلی روابط خود را با این پلتفرم قطع کند.

مطابق تحقیقات انجام‌شده، OctoML از ایجاد مطالب هرزه‌نگاری توسط برخی از کاربران Civitai آگاه بوده است که تصاویر بدون مجوز از افراد واقعی و تصاویر مستهجن از کودکان را شامل می‌شود.

در گزارش بعدی، نشریه‌ی 404Media اشاره کرد که OctoML قبل از اعلام تصمیم خود برای خروج، فیلتری را برای جلوگیری از تولید تمام محتوای نامناسب در Civitai ایجاد کرد.

Civitai همچنین در پاسخ به تحقیقات، روش‌های نظارتی جدیدی را اضافه کرد، از جمله یک تابع اجباری به نام Civitai Safe Helper (Minor) که مدل را از تولید تصاویر کودکان در صورت «تشخیص تم بالغانه یا کلمه کلیدی خاص» منع می‌کند.

در ماه نوامبر (آبان و آذر)، 404Media متوجه شد که از Civitai برای ساختن دیپ‌فیک‌های غیرقانونی از افراد مشهور، اینفلوئنسرها و حتی یک شهروند خصوصی استفاده می‌شود که در بسیاری از موارد ماهیت جنسی داشتند. افراد مورد مطالعه عمدتاً زنان بودند.

OctoML که از سرورهای خدمات وب آمازون استفاده می‌کند، دیگر نمی‌خواهد درگیر این ماجرا باشد. OctoML در بیانیه‌ای گفت: «ما تصمیم گرفتیم روابط تجاری خود را با Civitai قطع کنیم. این تصمیم با تعهد ما برای اطمینان از استفاده‌ی ایمن و مسئولانه از هوش مصنوعی مطابقت دارد.»

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
D5-b3IranServer
داغ‌ترین مطالب روز
دارا خسروشاهی مدیرعامل اوبر
مدیرعامل ایرانی اوبر: خودروهای خودران را وارد جاده‌های عربستان می‌کنیم

اداره‌ی کل حمل‌ونقل عربستان سعودی و اوبر یک قرارداد مهم برای گسترش خودروهای خودران امضا کردند.

63
2 روز پیش
چرا اینترنت گوشی زود تمام می‌شود و چطور از این اتفاق جلوگیری کنیم؟

اگر حجم بسته‌ی اینترنت شما به‌سرعت تمام می‌شود اما دلیل آن‌ را نمی‌دانید، در این مقاله با علل این مشکل و برطرف‌کردن آن آشنا خواهید شد.

43
43 دقیقه پیش
هات اسپات آیفون؛ نحوه فعال سازی و رفع مشکلات رایج آن

با استفاده از هات اسپات آیفون می‌توان اینترنت دیتا را با سایر دستگاه‌های نزدیک اشتراک‌گذاری کرد.

24
یک روز پیش
لوگوی شیائومی در گوشی 12 لایت
این گوشی‌های شیائومی و پوکو به آخر خط رسیدند و دیگر آپدیت نمی‌شوند

تعدادی از گوشی‌های شیائومی از ماه میلادی آینده منسوخ خواهند شد.

97
یک روز پیش
نوبت‌دهی آنلاین تامین اجتماعی
چطور برای نوبت‌ دهی اینترنتی تامین اجتماعی اقدام کنیم؟

با نوبت‌ دهی اینترنتی تامین اجتماعی بدون نیاز به مراجعه‌ی حضوری یا انتظار تلفنی، سریع و آسان نوبت پزشک مورد نظرتان را ثبت کنید.

5
6 ساعت پیش
فلش کردن گوشی سامسونگ
جامع‌ترین راهنمای فلش کردن گوشی سامسونگ

فلش کردن گوشی در مواقع بروز مشکلات شدید نرم‌افزاری همواره بهترین راه چاره است. در مطلب پیش‌رو به آموزش فلش گوشی‌ و تبلت‌های سامسونگ می‌پردازیم.

43
یک روز پیش
ربات نرم بدون مغز
وقتی مغز لازم نیست؛ ربات خلاقانه دانشمندان هلندی فقط با جریان هوا حرکت می‌کند

دانشمندان هلندی ربات نرم بدون مغزی ساخته‌اند که با استفاده از هوا کار می‌کند و مانند آهوی جهنده می‌دود و همچون سگ شنا می‌کند.

8
یک روز پیش
تبلیغات
DN-DNShatel

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات