ChatGPT metinlerinde görünmez filigran uygulaması başlıyor

OpenAI, Avrupa Birliği'nin yeni şeffaflık kurallarına uyum sağlamak amacıyla OpenAI dijital filigran teknolojisini devreye alıyor. Üretken yapay zeka modelleri tarafından hazırlanan kod ve metinlerin tanımlanabilmesini hedefleyen şirket, bu süreçte textGrain isimli bir sistem kullanacak. Bu teknoloji, modellerin kelime tercihlerine görünmez istatistiksel sinyaller yerleştirerek içeriğin yapay zeka ürünü olduğunu kanıtlamayı amaçlıyor.

textGrain sistemi aracılığıyla yerleştirilen bu sinyaller, özel bir dedektör yardımıyla taranarak içeriğin filigranlı olup olmadığı belirlenebiliyor. OpenAI, bu yöntemin SynthID gibi diğer yaklaşımların performansına ulaştığını veya bu performansları geçtiğini ifade ediyor. Ancak şirket, kısa metinler ile matematiksel içeriklerde tespitin daha zor olduğunu ve ideal koşullardaki başarının günlük kullanımda her zaman garanti edilemediğini belirtiyor. OpenAI verilerine göre, metin üzerinde yapılan düzenlemeler ve bu tür içeriklerde başarı oranı yüzde 80 seviyesinde seyrediyor.

Avrupa Birliği’nin Yapay Zeka Yasası’nın 50. maddesi uyarınca, üretken yapay zeka sağlayıcılarının metin çıktılarını makine tarafından okunabilir şekilde tanımlanabilir kılması zorunlu tutuluyor. Bu düzenleme Microsoft, Google, Meta, OpenAI ve Anthropic gibi mevcut ve yeni tüm kuruluşları kapsıyor. Mevcut şirketler için uyum sağlaması gereken son tarih 2 Aralık olarak belirlendi.

Filigran özelliği, Avrupa Birliği'ndeki uygun ChatGPT ve Codex çıktıları için varsayılan olarak aktif olacak. Diğer bölgelerdeki kullanıcılar ise belirli modellerde bu özelliği isteğe bağlı kullanabilecek. OpenAI, tespit yazılımına erişimi başlangıçta yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlı tutmayı planlıyor. Şirket, dedektörün kullanıcıyı tanımlamadığını veya konuşmaları ifşa etmediğini belirtirken, teknolojinin açık kaynaklı hale getirilmesinin de planlandığını duyurdu.