OpenAI, AB düzenlemesi kapsamında ChatGPT çıktılarına görünmez filigran ekliyor

NTV'nin haberine göre, OpenAI, Avrupa Birliği'nin Yapay Zeka Yasası'ndaki şeffaflık yükümlülüklerini karşılamak amacıyla, daha önce benzer bir uygulamayı hayata geçiren Anthropic'in yolunu izleyerek ürettiği metinlere gözle görülmeyen işaretler ekleme sürecini başlatıyor.

Şirket tarafından yapılan duyuruda, önümüzdeki haftalardan itibaren AB bölgesindeki ChatGPT ve Codex kullanıcılarının metin çıktılarına "textGrain" adı verilen görünmez istatistiksel işaretlerin ekleneceği belirtildi.

Küresel çaptaki API müşterileri ise bazı modeller için bu özelliği bugünden itibaren isteğe bağlı olarak aktif hale getirebilecek; ancak bu özellik API üzerinde varsayılan olarak kapalı durumda kalacak.

OpenAI ayrıca, bulut ortakları üzerinden erişilen model çıktılarına da bu sistemin entegre edilmesi için çalışmalar yürüttüğünü ifade etti.

Açıklanan teknik detaylara göre textGrain teknolojisi, modelin kelime tercihlerine insan gözüyle algılanamayan istatistiksel sinyaller işliyor.

Ancak bu sistem, metinlerde yapılan değişiklikler karşısında ciddi zayıflıklar sergiliyor.

Şirketin paylaştığı test verilerine göre, yüzde 1 olarak hedeflenen yanlış pozitiflik oranında, psikoloji gibi kelime seçiminin esnek olduğu 400 tokenlik metinlerde yüzde 95 seviyesinde olan tespit başarısı, 200 tokenlik metinlerde yaklaşık yüzde 80'e düşüyor.

Matematik gibi kelime seçeneklerinin kısıtlı olduğu alanlarda ise tespit oranları belirgin şekilde daha düşük kalıyor.

Metin üzerindeki düzenlemeler de sinyalin etkisini hızla azaltıyor; 400 tokenlik bir metindeki kelimelerin yüzde 10'unun eşanlamlılarla değiştirilmesi durumunda tespit oranı yüzde 92'den yüzde 66'ya geriliyor.

Kelimelerin yüzde 25'inin değiştirilmesi halinde ise tespit oranı yüzde 17 seviyesine kadar iniyor.

OpenAI, bu teknik kısıtlamalar ve hem yanlış pozitif hem de yanlış negatif sonuç riskleri nedeniyle tespit aracını doğrudan kamuoyunun kullanımına sunmayacağını açıkladı.

Doğrulama aracına erişim, sistemi değerlendirmek ve geliştirmek amacıyla ilk etapta yalnızca onaylanmış araştırmacılar ve uzman kuruluşlara başvuru yoluyla sağlanacak.

Şirket, en yeni öncü modeli Astra üzerinde yaptığı testlerde filigran uygulamasının çıktı kalitesinde anlamlı bir fark yaratmadığını aktardı.

Yapılan kıyaslama testlerinde sistem; yapay zeka analiz endeksinde filigransız metinde 49,57 puan alırken filigranlı metinde 49,76 puan elde etti.

Benzer şekilde GPQA Diamond testinde filigransız sonuç yüzde 94,44 iken filigranlı sonuç yüzde 93,94 olarak kaydedildi.

OpenAI, filigranın hangi konularda bilgi verebileceği ve veremeyeceği hususunda da detaylı açıklamalar yaptı.

Yapılan açıklamaya göre görünmez işaretler metindeki insan katkısının oranını ölçmüyor, telif hakkı veya sorumluluk tespiti yapmıyor, metni üreten kullanıcıyı, hesabı ya da girdiyi ortaya çıkarmıyor ve içeriğin doğruluğunu teyit etmiyor.

Bir metinde filigran bulunmaması da o içeriğin mutlaka insan tarafından yazıldığını kanıtlamıyor; çünkü metnin kısa olması, tercüme edilmesi, düzenlenmesi ya da desteklenmeyen bir modelden gelmesi tespiti engelleyebiliyor.

Şirket, görsel ve sesli içeriklerde kullanılan SynthID ve C2PA standartlarına dayalı açık doğrulama araçlarının ise herkese açık olmaya devam edeceğini bildirdi.

Geçen aylarda yapay zeka şirketi Anthropic de Avrupa Birliği Yapay Zeka Yasası'nın şeffaflık kurallarına uyum için yeni Claude modellerinin ürettiği metinlere görünmez filigran ekleme uygulamasına geçmişti.

Şirket, düzenlemenin 50'nci maddesi kapsamındaki yükümlülükleri yerine getirmek amacıyla insan gözüyle fark edilemeyen istatistiksel işaretleme yöntemini devreye almıştı.

Sistem, 2 Ağustos 2026 tarihinden sonra kullanıma sunulan yeni modellerde yerleşik olarak bulunuyor; bölgesel düzeyde kısıtlama henüz uygulanamadığı için teknoloji dünya genelinde geçerli kılındı.

Kapsam, ChatGPT gibi web arayüzünün yanı sıra API, Claude Code ile AWS ve Google Cloud gibi ortak platformlardaki tüm kullanımları içeriyor.

Özellik, kullanıcılar veya yazılım geliştiriciler tarafından devre dışı bırakılamıyor; metinlerin yanı sıra desteklenen dosya ve görsellere de açık standart niteliğindeki C2PA kaynak verileri işleniyor.

Haberin devamı için: NTV