هوش مصنوعی متا و کودکان؛ یک تغییر بزرگ پس از فشار قانونی

متا اعلام کرد، به‌طور موقت نحوه‌ی پاسخ‌گویی چت‌بات هوش مصنوعی خود به کودکان و نوجوانان را تغییر می‌دهد تا «تجربه‌ای امن و متناسب با سن» برای آن‌ها فراهم شود.

اقدام متا پس از گزارشی از رویترز صورت گرفت که نشان می‌داد در اسناد داخلی شرکت، گفت‌وگوی «عاشقانه» با کودکان مجاز شمرده شده بود.

سخنگوی متا می‌گوید چت‌بات‌ها ازاین‌پس در موضوعاتی مانند روابط عاشقانه، خودآسیبی، خودکشی و اختلال پرخوری وارد تعامل نخواهند شد و نوجوانان صرفاً به گروه محدودی از شخصیت‌های هوش مصنوعی با کارکرد آموزشی و خلاقانه دسترسی خواهند داشت.

این تغییرات در حالی اجرا می‌شود که جاش هاولی، سناتور آمریکایی، وعده داد درباره‌ی نحوه‌ی آموزش چت‌بات‌های متا و امکان مکالمات حساس با کودکان تحقیق خواهد کرد. نهاد ناظر Common Sense Media در ارزیابی اخیر خود استفاده از این ابزار را برای افراد زیر ۱۸ سال «به‌شدت پرخطر» توصیف کرد.

متا پیش‌تر بابت ایمنی کودکان زیر فشار بود؛ از جمله در سال ۲۰۲۴ که مارک زاکربرگ همراه مدیران تیک‌تاک، اسنپ، ایکس و دیسکورد در برابر کنگره‌ی آمریکا درباره‌ی اثرات منفی پلتفرم‌ها بر سلامت روان نوجوانان مورد پرسش قرار گرفت.