به گزارش اصفهان زیبا؛ اپن‌ای‌آی قصد دارد متن و کد تولیدشده با چت‌جی‌پی‌تی را در اتحادیه اروپا با یک واترمارک دیجیتال نامرئی علامت‌گذاری کند. این اقدام با هدف اجرای الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا انجام می‌شود.
اپن‌ای‌آی اعلام کرده است که طی هفته‌های آینده، متن‌های واجد شرایط تولیدشده با چت‌جی‌پی‌تی و کدکس در اتحادیه اروپا به‌صورت نامرئی واترمارک می‌شوند. این فناوری با نام «تکست‌گرِین» شناخته می‌شود و الگوی انتخاب واژه‌ها را به شکل جزئی تغییر می‌دهد.
واترمارک برای خواننده قابل مشاهده نیست. با این حال، یک سامانه تشخیص می‌تواند با بررسی الگوی انتخاب واژه‌ها، وجود آن را شناسایی کند.
واترمارک چطور شناسایی می‌شود؟
فناوری تکست‌گرِین با ایجاد تغییرات جزئی در نحوه انتخاب واژه‌ها توسط مدل، یک الگوی قابل تشخیص ایجاد می‌کند. این تغییرات در ظاهر متن دیده نمی‌شوند و خواننده عادی نمی‌تواند وجود واترمارک را تشخیص دهد.
اپن‌ای‌آی تأکید کرده است که این فناوری برای شناسایی کاربر، دستورهای واردشده یا محتوای مکالمات طراحی نشده است. هدف اصلی آن، تشخیص منشأ تولید متن از طریق بررسی الگوی واژه‌هاست.
البته این روش در همه متن‌ها عملکرد یکسانی ندارد. تشخیص واترمارک در متن‌های کوتاه، پاسخ‌های ریاضی و متن‌هایی که کاربر آنها را به‌طور گسترده ویرایش کرده است، دشوارتر خواهد بود.
اجرای واترمارک در اتحادیه اروپا
بر اساس اعلام اپن‌ای‌آی، اجرای واترمارک نامرئی در اتحادیه اروپا طی هفته‌های آینده آغاز می‌شود. این قابلیت هنگام عرضه، به‌صورت پیش‌فرض برای کاربران سراسر جهان فعال نخواهد شد.
در عین حال، مشتریان رابط برنامه‌نویسی اپن‌ای‌آی در سراسر جهان می‌توانند برای برخی مدل‌ها، این قابلیت را به‌صورت اختیاری فعال کنند.
اجرای این فناوری بخشی از تلاش اپن‌ای‌آی برای هماهنگی با الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا است. این اقدام می‌تواند امکان شناسایی متن‌های تولیدشده با ابزارهای هوش مصنوعی را در شرایط مشخص افزایش دهد.