AB bünyesinde ChatGPT metinlerine görünmez filigran uygulaması başlayacak

OpenAI, Avrupa Birliği'nin yapay zeka şeffaflığına yönelik kurallarına uyum sağlamak amacıyla ChatGPT ve Codex çıktılarına görünmez işaretler eklemeye hazırlanıyor. Şirket, bu işlem için kelime seçimlerine istatistiksel sinyaller yerleştiren textGrain adlı bir sistem kullanacak. Bu sinyaller, özel bir araç sayesinde metnin OpenAI tarafından üretilip üretilmediğini belirleyebilecek.

textGrain sisteminin Google'ın SynthID for Text yöntemiyle benzer veya daha iyi performans gösterdiği ifade edilse de OpenAI sistemin her zaman kesin sonuç vermeyebileceği konusunda uyardı. Özellikle matematik içeren içeriklerde ve kısa metinlerde tespit başarısının yüzde 80 civarında kaldığı, metin üzerinde yapılan düzenlemelerin de performansı düşürdüğü belirtiliyor. Ayrıca sistemin metnin doğruluğunu, mülkiyetini veya bir insan tarafından yazıldığını kanıtlamadığı vurgulanıyor.

API müşterileri, seçili modellerde filigranlı metin çıktısını bugünden itibaren isteğe bağlı olarak kullanabilecek. OpenAI, önümüzdeki haftalarda bulut hizmeti ortakları üzerinden sunulan modellerde de bu özelliği hayata geçirmeyi hedefliyor. Filigranı tespit edecek araç ise başlangıçta sadece onaylanmış araştırmacılar ve uzman kuruluşların başvuruları değerlendirilerek kullanıma açılacak. Tespit aracı kullanıcıyı tanımlamayacak, istemleri veya konuşma geçmişini ifşa etmeyecek.

Bu girişim, Avrupa Birliği'nin Yapay Zeka Yasası kapsamındaki şeffaflık kurallarıyla ilişkilendiriliyor. Yeni piyasaya giren şirketlerin bu kurallara uyması istenirken, halihazırda faaliyet gösteren OpenAI, Anthropic, Microsoft, Google ve Meta gibi şirketlere 2 Aralık'a kadar geçiş süresi tanındı.