نهاد کامن سنس مدیا نسخهی مخصوص نوجوانان چتجیپیتی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابلقبول دانست.
نهاد غیرانتفاعی Common Sense Media نسخهی ویژهی نوجوانان ChatGPT را «خطری غیرقابلقبول» نامید و اعلام کرد تدابیر حفاظتی این ابزار بسیار ضعیفتر از وعدههای اوپنایآی عمل میکنند.
بررسیهای این مؤسسه نشان میدهد سازوکار امنیتی یادشده در ارسال هشدار به والدین و ارائهی راهنمایی مناسب در شرایط بحرانی ناتوان است و همچنان تکالیف درسی دانشآموزان را به جای آنها انجام میدهد.
قابلیتهای نظارتی طراحیشده برای نسخهی نوجوانان که در مردادماه معرفی شده بودند، نتوانستهاند انتظارات کارشناسان ایمنی حوزه کودک را برآورده سازند.
تام سیگل، مدیر اجرایی مؤسسه ایمنی هوش مصنوعی جوانان در کامن سنس مدیا، میگوید: «نسخهی نوجوانان ChatGPT ممکن است به والدین اطمینان کاذب دربارهی تدابیر حفاظتی و هشدارهای ایمنی بدهد که غالبا کار نمیکنند. یک نوجوان میتواند یک ساعت دربارهی آسیبرساندن به خود صحبت کند بدون اینکه والدینش حتی یک هشدار دریافت کنند. تا زمانی که OpenAI این مشکل را برطرف نکند و آن را با آزمایشهای مستقل به اثبات نرساند، ChatGPT باید فقط مخصوص بزرگسالان باشد.»
اوپنایآی به نتایج ارائهشده واکنش نشان داد و متدولوژی ارزیابی را زیر سؤال برد. اریک پورترفیلد، سخنگوی OpenAI، میگوید: «ما عمیقا به ایمنی نوجوانان، توسعه تدابیر حفاظتی و ارائه ابزارهای معنادار به والدین برای هدایت استفاده فرزندانشان از هوش مصنوعی متعهد هستیم. ما از ارزیابیهای مستقل و دقیق استقبال میکنیم، اما معتقد نیستیم آزمایش کامن سنس مدیا عملکرد واقعی تدابیر حفاظتی نوجوانان در ChatGPT یا دیدگاههای کارشناسان را در مورد چگونگی حمایت هوش مصنوعی از نوجوانان بهدرستی نشان دهد.»
«بررسی روششناسی آنها نشان میدهد بخش عمدهی آزمایشهایشان احتمالا قبل از فعالسازی کامل کنترلهای والدین آغاز شده و پایان یافته که یافتههای آنها را نادرست میکند. اگر چنین بوده باشد، آزمایشها مشخص نمیکنند که آیا اعلانهای ایمنی والدین طبق طراحی عمل میکنند یا خیر. ما متعهد به ادامه همکاری با کارشناسان هستیم تا محصولات ما فرصتهای یادگیری و خلق کردن را برای نوجوانان فراهم سازند و به والدین اطمینان خاطر بدهند.»
تام سیگل در پاسخ به دفاعیات مطرحشده، بر صحت آزمایشهای صورتگرفته پافشاری کرد و گفت پیش از آزمون، فعالبودن ویژگیها از شرکت مادر استعلام شده بود.