Geliştirdiği yapay zekâ teknolojileriyle sektöre yön veren OpenAI, ChatGPT ve Codex tarafından üretilen metin içeriklerine görünmez dijital filigran (watermark) entegre edeceğini açıkladı. Şirket tarafından paylaşılan resmi bilgilendirmeye göre bu adım, Avrupa Birliği Yapay Zekâ Yasası (EU AI Act) kapsamında yürürlüğe giren şeffaflık düzenlemelerine uyum sağlamak amacıyla atılıyor.
Yalnızca AB Sınırlarında Geçerli Olacak
Şeffaflık kuralları gereği, yapay zekâ destekli araçların ürettiği verilerin diğer yazılımsal sistemler tarafından tanınabilir olması zorunlu kılınıyor. OpenAI, söz konusu izleme sistemini önümüzdeki süreçte AB üyesi ülkelerdeki tüm ChatGPT ve Codex kullanıcıları için kademeli olarak aktif hale getirecek.
Dünya genelindeki API kullanıcıları ve geliştiriciler ise istedikleri takdirde bu özelliği manuel olarak açabilecek. Ancak şirket, ilk etapta filigran uygulamasını küresel çapta varsayılan bir standart olarak sunmayacağını belirtti.
Görünmeyen Ama Kodlara İşleyen Dijital Kalıp
Hazırlanan filigran sistemi metnin üzerinde görsel bir simge ya da uyarı etiketi oluşturmuyor. Algoritma, modelin cümle kurarken tercih ettiği kelimeleri çok hafif ve fark edilmeyecek oranlarda yönlendiriyor. İnsan gözüyle ayırt edilmesi imkânsız olan bu kelime dizilimi kalıpları, özel bir tespit yazılımı tarafından anında algılanabiliyor.
Metnin özüne işlenen bu yapı, içerik kopyalanıp başka bir yere yapıştırılsa dahi geçerliliğini koruyor. OpenAI yetkilileri, uygulamanın kullanıcı gizliliğini ihlal etmediğini ve modellerin yanıt verme kalitesinde ya da performansında herhangi bir kayba yol açmadığını dile getiriyor.
‘textGrain’ Teknolojisi Nasıl Çalışıyor?
Yale ve Pennsylvania Üniversitesi akademisyenlerinin de katkılarıyla hazırlanan textGrain adlı teknik raporda, yöntemin detayları paylaşıldı. Sistem, tahmin edilen bir sonraki kelime sıralamasını gizli bir şifreleme anahtarı yardımıyla organize ediyor. Cümleler boyunca biriken yüzlerce küçük yönlendirme, ilgili tespit yazılımı aracılığıyla metnin yapay zekâ çıktısı olduğunu kanıtlamaya yetiyor.
Metin Değiştirilirse Filigran Silinir mi?
Yapılan testler, metin üzerinde belirgin değişiklikler gerçekleştirildiğinde sistemin doğruluk oranının düştüğünü ortaya koyuyor. Örneğin, bir metindeki kelimelerin %10’u eş anlamlılarıyla değiştirildiğinde tespit başarısı %92 seviyesinden %66’ya geriliyor. Aynı zamanda matematiksel çözümler, kısa cümleler ve dil çevirilerinde de filigranı tespit etmek güçleşiyor.
Bu sınırlamalar nedeniyle OpenAI, doğrulama aracını şimdilik kamuoyuna açmak yerine yalnızca yetkili araştırmacıların ve uzman kurumların kullanımına sunacağını bildirdi.
Rekabet ve Kullanıcı Tepkileri
Benzer bir adımı geçtiğimiz aylarda Anthropic de Claude modeli için atmış ve dünya genelinde filigran uygulamasına geçtiğini duyurmuştu. Ancak Anthropic’in bu kararı, komutları ve yaratıcı süreci kendilerinin yönettiğini belirten kullanıcıların tepkisiyle karşılaşmıştı.
Sektör kaynakları, OpenAI’ın bu teknolojiyi daha önce geliştirdiğini ancak kullanıcıların filigran kullanmayan alternatif platformlara kayabileceği endişesiyle lansmanı ertelediğini belirtiyor. Aralarında OpenAI, Google, Meta ve Microsoft’un da bulunduğu dev teknoloji şirketleri, AB’nin yapay zekâ içerik standartlarına uyacaklarını taahhüt etmiş durumdalar.
