گفتوگو با یک چتبات هوش مصنوعی ممکن است شبیه درددل با آینه به نظر برسد؛ انگار که در یک فایل خصوصی ایدههایتان را برای خودتان مینویسید. اما ماجرا به این سادگی نیست. در مورد محبوبترین چتباتهای هوش مصنوعی، این آینه بیشتر شبیه شیشهای یکطرفه است؛ یعنی افراد مختلفی ممکن است آن سوی شیشه باشند.
از زمان فراگیری چتباتهای هوش مصنوعی، میلیونها نفر اطلاعات شخصی و رازهای خود را با این ابزارها در میان گذاشتهاند. براساس نظرسنجی اخیر شرکت مرورگر داکداکگو، یکسوم کاربران هوش مصنوعی گفتهاند رازهایی را به چتباتها گفتهاند که حاضر نیستند حتی با افراد مورد اعتمادشان در میان بگذارند.
مشکل اینجاست که چنین رازهایی ممکن است ناخواسته به دست شرکتهای فناوری، پلیس، وکلا و حتی کارفرمایان نیز برسد. براساس گزارش جدید واشنگتنپست، درطول دو سال گذشته دستکم ۱۲ پروندهی قضایی وجود داشته که در سوابق عمومی پرونده، به متن گفتوگو با چتباتها استناد شده است. حتی اگر چتهای شما سر از پروندهی قضایی درنیاورند، ممکن است کارفرما به آنها دسترسی پیدا کند؛ بهخصوص اگر از سرویس هوش مصنوعی ارائهشده از سوی شرکت استفاده میکنید.
«اگر چتبات حالت گفتوگوی موقت یا ناشناس ندارد، نمیتوانید روی خصوصی ماندن گفتوگو حساب کنید»
از سوی دیگر، مشخص نیست شرکتهای هوش مصنوعی مانند اوپنایآی و آنتروپیک تا چه مدت اطلاعات گفتوگوهای کاربران را نگه میدارند. واشنگتنپست به سناریوهای مختلفی اشاره کرده است، از جمله اینکه شرکتها ممکن است طبق قانون مجبور شوند سوابق چتها را حفظ کنند.
احتمال افشای اطلاعات از سوی خود شرکتهای هوش مصنوعی هم وجود دارد. در ماه ژوئیه مشخص شد حجم زیادی از گفتوگوهای کاربران با چتبات کلاد شرکت آنتروپیک در وب عمومی منتشر شده است؛ البته این نخستین بار نبود که چنین اتفاقی رخ میداد.
جن کینگ، پژوهشگر حریم خصوصی در مؤسسه هوش مصنوعی انسانمحور دانشگاه استنفورد، میگوید: «اگر از چتباتی استفاده میکنید که حالت گفتوگوی موقت یا چیزی شبیه حالت ناشناس ندارد، نمیتوانید روی خصوصی ماندن گفتوگو حساب کنید. همین موضوع دربارهی مرورگری که فعالیت شما را ردیابی میکند، صادق است. در چنین شرایطی، نمیتوانید مطمئن باشید که گفتوگوهای شما کاملاً خصوصی میماند.»
- 12 اردیبهشت 03مطالعه '7
- 14 اردیبهشت 04مطالعه '5
- 05 مرداد 04مطالعه '1
بااینحال، کاربران ظاهراً با خیال راحت اطلاعات شخصی خود را با چتباتها در میان میگذارند و بسیاری حتی از سرنوشت این اطلاعات خبر ندارند. در نظرسنجی داکداکگو، ۵۳ درصد از کاربران عادی اظهار داشتند که نمیدانستند چتباتهای هوش مصنوعی از دادههای بهدستآمده از گفتوگوهای کاربران برای آموزش خود استفاده میکنند.
همچنین، ۷۵ درصد از کاربران نمیدانستند پلیس میتواند بهراحتی برای دریافت گفتوگوهای کاربران با مدلهای زبانی بزرگ (LLM)، حکم قضایی بگیرد.
پس اگر روزی خواستید دربارهی مشکلات رابطهی عاطفی یا رازهای بسیار شخصی با چتجیپیتی صحبت کنید، بهتر است یادتان باشد اطلاعاتی که در اینترنت ثبت میشوند، آنقدرها هم خصوصی نیستند و این موضوع دربارهی چتباتهای هوش مصنوعی اهمیت بیشتری دارد.
