وال استریت ژورنال: OpenAI می‌تواند مقالات تقلبی را ردیابی کند

ICTPRESS - اوپن ای آی ابزاری برای واترمارک دار کردن مقالاتی که توسط چت جی پی تی نوشته شده اند در اختیار دارد اما به دلیل ریسک هایی از عرضه آن خودداری کرده است.

به گزارش شبکه خبری ICTPRESS به نقل از انگجت، پس از انتشار گزارشی در نشریه وال استریت ژورنال مبنی برآنکه اوپن ای آی ابزاری در اختیار دارد که می تواند مقالات نوشته شده با ChatGPT را با دقت بالا تشخیص دهد، این شرکت اطلاعاتی درخصوص تحقیقاتش درباره واترمارک دار کردن متن‌هایش را همراه دلیل آنکه چرا این روش ردیابی را به اشتراک نگذاشته، اعلام کرد.

طبق گزارش با وجود آنکه ابزار یادشده آماده عرضه است، اما بحث و گمانه زنی ها درباره ارائه شدن یا نشدن آن مانع اصلی در اشتراک گذاری آن بوده است. اوپن ای آی در یک به روزرسانی در ماه می در پستی وبلاگی نوشته است: تیمهای ما یک روش واترمارک دار کردن متن توسعه داده اند که مشغول بررسی آن هستیم و همزمان روی گزینه های جایگزین تحقیق می کنیم.

به گفته شرکت واترمارک دار کردن متن یکی از راه حل های متعدد از جمله متا داده و ابزارهای دسته بندی است که به عنوان بخشی از تحقیقات گسترده در زمینه منشأ متن مورد بررسی قرار گرفت.

اوپن ای آی مدعی است این ابزار در برخی شرایط بسیار دقیق است اما هنگامیکه با برخی از انواع دستکاری در متن مانند استفاده از سیستم های ترجمه، تغییر جمله بندی با یک مدل هوش مصنوعی مولد دیگر یا درخواست از هوش مصنوعی برای قراردادن کاراکتری خاص بین لغات و سپس حذف کردن آن، روبرومی شود، عملکرد خوبی ندارد.

در بخشی از بیانیه آمده است: مثلا ممکن است این ابزار استفاده از هوش مصنوعی به عنوان یک ابزار مفید برای نوشتن مقالات برای افراد غیرانگلیسی زبان را با مشکل روبرو کند.

شرکت توسعه دهنده چت جی پی تی در همین پست وبلاگی روی این ریسک ها تمرکز و همچنین اعلام کرده عرضه ابزارهای احراز هویت برای محتوای صوتی بصری را در اولویت قرار داده است.