هوش مصنوعی «کلاد» بهطور مخفیانه واترمارک نامرئی به متنها و تصاویر اضافه میکند
توسعهدهندگان هوش مصنوعی برای شفافسازی محتوای تولیدشده توسط چتباتها، به روشهای نوین نشانهگذاری روی آوردهاند. آنتروپیک متعهد شده است که متنها و تصاویر ایجادشده توسط چتبات کلاد را به دادههای قابل شناسایی مجهز کند تا تشخیص آنها برای پلتفرمهای آنلاین آسانتر شود. این تصمیم در پاسخ به قوانین سختگیرانهی اتحادیهی اروپا برای شفافیت هوش مصنوعی اتخاذ شده است.
تغییرات جدید برای چشم انسان کاملا نامرئی خواهد بود، اما به سیستمهای نرمافزاری کمک میکند تا منبع تولید محتوا را تشخیص دهند. این ویژگی ابتدا روی مدلهای جدید اعمال میشود و بهمرور برای مدلهای قدیمی نیز توسعه خواهد یافت. نشانهگذاریهای جدید در تمامی سرویسهای این فناوری از جمله نسخهی تحت وب، API و ابزارهای توسعهدهندگان فعال خواهد شد.
برای تصاویر تولیدی، از استاندارد متادیتای C2PA استفاده میشود که پیش از این توسط گوگل و مایکروسافت نیز پذیرفته شده بود. با این حال، نشانهگذاری متنها فرآیند پیچیدهتری دارد. آنتروپیک اعلام کرده است که یک واترمارک نامرئی را بدون تغییر در معنا، کیفیت یا خوانایی پاسخها، مستقیما درون بافت متون تولیدی قرار میدهد.
آنتروپیک میگوید: «از آنجا که این واترمارک بخشی از خود متن است، هنگام کپی و پیست کردن به مکانهای دیگر منتقل میشود و حتی پس از انجام برخی ویرایشها نیز پایداری خود را حفظ میکند. این نشانهگذاری در سطح مدل اعمال میشود؛ یعنی فرقی نمیکند متن از کدام محصول یا بستر کلاد خارج شده باشد.»
این اقدام گامی مهم برای متمایز کردن محتوای انسانی از هوش مصنوعی در فضای وب به شمار میرود. با این حال، کارشناسان اشاره میکنند که متادیتای تصاویر بهراحتی قابل حذف است و هنوز مشخص نیست راهکار آنتروپیک برای متنها تا چه حد در برابر دور زدن مقاوم خواهد بود.
