ChatGPT metinlerine görünmez filigran geliyor: textGrain nedir?

Yapay zekâ ile üretilen metinlerin ayırt edilmesi tartışması yeni bir aşamaya geçti. OpenAI, ChatGPT ve Codex'in ürettiği metinlere Avrupa Birliği'nde görünmez bir filigran eklemeye hazırlandığını açıkladı. Şirket, textGrain adını verdiği teknolojinin "önümüzdeki haftalarda" AB'deki uygun ChatGPT ve Codex çıktılarına ekleneceğini duyurdu.

BleepingComputer'ın aktardığına göre filigran, metin okunurken ya da kopyalanırken görünmüyor. textGrain, modelin kelime seçimlerini çok hafif biçimde değiştirerek sonradan tespit edilebilecek istatistiksel bir örüntü oluşturuyor.

Kimleri kapsıyor?

OpenAI, filigranı şimdilik küresel bir varsayılan haline getirmiyor. Şirketin açıklamasına göre dünya genelindeki API geliştiricileri, desteklenen modellerde filigranı isteğe bağlı olarak açabiliyor; ancak özellik varsayılan olarak kapalı. ChatGPT ve Codex tarafında ise uygulama yalnızca Avrupa Birliği'ndeki uygun metin çıktılarıyla sınırlı. Uzman yayınlar, adımın AB Yapay Zekâ Yasası'nın içerik kaynağına ilişkin kurallarıyla bağlantılı olduğunu yazıyor.

Şirket, filigran dedektörü için başvuru almaya da başladı; ancak dedektöre erişim ilk etapta onaylı araştırmacılar ve uzman kuruluşlarla sınırlı tutulacak.

Düzenleme yapılınca iz siliniyor mu?

OpenAI, teknolojinin sınırlarını da açıkça paylaştı. Şirketin kendi testlerine göre 400 token'lık metinlerde kelimelerin yüzde 10'u eş anlamlılarıyla değiştirildiğinde tespit oranı yaklaşık yüzde 92'den yüzde 66'ya, yüzde 25'i değiştirildiğinde ise yüzde 17'ye düşüyor. Yüzde 1 yanlış pozitif hedefinde, 200 token'lık psikoloji yanıtlarında filigranın yaklaşık yüzde 80, 400 token'lık metinlerde ise yaklaşık yüzde 95 oranında tespit edilebildiği belirtiliyor. Matematik gibi kelime seçiminin daha sınırlı olduğu alanlarda başarı daha da düşüyor.

OpenAI, "Filigranın tespit edilmemesi insan yazımını kanıtlamaz" uyarısında bulunuyor. Şirkete göre tespit edilen bir filigran da metni kimin ürettiğini, hangi hesabın ya da hangi komutun kullanıldığını göstermiyor; nihai metnin ne kadarının insan tarafından yazıldığını da ortaya koymuyor.

Kalite etkileniyor mu?

OpenAI, filigranın model kalitesini anlamlı ölçüde etkilemediğini, textGrain açıkken kıyaslama sonuçlarının genel olarak benzer kaldığını açıkladı.

Neden önemli?

Öğretmenler, yayıncılar ve işverenler, yapay zekâyla üretilen içeriği ayırt etmenin yollarını arıyor. Filigran bu konuda yardımcı bir araç olabilir; ancak OpenAI'nin de kabul ettiği gibi kesin bir "yapay zekâ dedektörü" değil. Kısa, düzenlenmiş ya da çevrilmiş metinlerde güvenilirliğinin düştüğü düşünüldüğünde, filigranın tek başına bir öğrencinin ya da çalışanın metni hakkında hüküm vermek için kullanılmaması gerektiği açık.

Türkiye'deki kullanıcılar için şimdilik doğrudan bir değişiklik bulunmuyor; ancak AB'deki uygulamanın sonuçları, benzer düzenlemelerin başka ülkelerde de gündeme gelip gelmeyeceği açısından yakından izlenecek. Google Trends'te "ChatGPT" ve "yapay zekâ" aramalarının bugün yükselişte olması, konunun Türkiye'de de ilgiyle takip edildiğini gösteriyor.

Fotoğraf: Aerps.com / Unsplash (temsili görsel)