OpenAI, ChatGPT tarafından oluşturulan metinlere görünmez filigran ekleyecek

OpenAI, Avrupa Birliği'nin Yapay Zekâ Yasası doğrultusunda ChatGPT ve Codex aracılığıyla oluşturulan metinlere görünmez bir filigran ekleyeceğini duyurdu. 2 Ağustos itibarıyla yürürlüğe giren AB şeffaflık kuralları, yapay zekâ içeriklerinin diğer sistemlerce tanımlanabilecek şekilde işaretlenmesini zorunlu kılıyor. Şirket, bu yasal sorumlulukları yerine getirmek amacıyla ilgili adımı atıyor.

Uygulamanın önümüzdeki haftalarda planlara uygun ChatGPT ve Codex kullanıcılarına kademeli olarak sunulması ve şimdilik yalnızca Avrupa Birliği ile sınırlı kalması bekleniyor. Dünya genelindeki geliştiriciler ise OpenAI API'sini kullanarak bu özelliği seçtikleri modeller için bugünden itibaren aktif edebilecek. Ancak bu özellik varsayılan olarak kapalı gelecek ve şirket, metin filigranlamasını küresel ölçekte varsayılan bir özellik yapmayı şu an için planlamıyor.

Söz konusu filigran, fiziksel bir sembol yerine modelin kelime seçimlerini şekillendirerek okuyucuların fark edemeyeceği ancak dedektörlerin yakalayabileceği bir desen oluşturacak. Kelimelerin içine doğrudan işlenen bu iz, metin kopyalanıp başka bir yere aktarılsa dahi kaybolmadan metinle birlikte hareket edecek.

Sistemin işleyişine dair detaylar, araştırmacılarla birlikte hazırlanan "textGrain" isimli teknik raporda yer alıyor. Yöntem, cümleler tamamlanırken sıradaki kelime tahminlerini sıralamak için gizli bir anahtar kullanılmasını temel alıyor. Dedektörler, metin ve ilgili anahtar aracılığıyla içeriğin yapay zekâ tarafından üretilip üretilmediğini tespit edebilecek.