Anthropic, Claude Yanıtlarına Görünmez Filigran Eklenmesinin Detaylarını Açıkladı

Anthropic, Claude tarafından üretilen metinlere eklenecek görünmez filigran sisteminin nasıl çalışacağını açıklığa kavuşturdu. Claude filigranı, okuyucunun fark edemeyeceği seçim kalıplarını metne yerleştirirken şirketin sistemi Google DeepMind tarafından geliştirilen SynthID-Text yaklaşımına dayandıracağını belirtti. Anthropic ayrıca hafif düzenlemelerin filigranı tamamen ortadan kaldırmayacağını, kapsamlı bir yeniden yazımın ise filigranı etkisiz hâle getirebileceğini açıkladı.

Claude Metinlerinde Filigran Sistemi Nasıl Çalışacak?

Anthropic’in açıkladığı yöntemde Claude, metin üretirken anlam açısından birbirine yakın seçenekler arasında yaptığı bazı tercihleri filigranın parçası hâline getirecek. Örneğin model, hava durumunu anlatırken anlamı büyük ölçüde değiştirmeyen iki farklı kelime arasından seçim yapabildiğinde görünür olmayan bir örüntü oluşturabilecek. Özel anahtara sahip bir algılama sistemi ise metnin içinde oluşturulan söz konusu örüntüyü inceleyerek içeriğin Claude tarafından üretilmiş olma ihtimalini değerlendirecek.

Anthropic, filigranın metnin okuyucu tarafından algılanan kalitesini değiştirmeyeceğini özellikle vurguluyor. Claude tarafından oluşturulan filigranlı bir yanıt ile filigransız bir yanıt arasındaki farkın kullanıcı tarafından normal okuma sırasında anlaşılmaması hedeflenirken sistemin asıl işlevi içeriğin kaynağını teknik olarak doğrulayabilmek olacak.

Google DeepMind tarafından 2024 yılında tanıtılan SynthID-Text yaklaşımının kullanılması, Anthropic’in kendi başına farklı bir filigran teknolojisi geliştirmek yerine daha önce araştırılmış bir yöntemi Claude altyapısına uyarlayacağını gösteriyor. Anthropic ayrıca filigranların kontrol edilebilmesi için bir algılama API’si yayınlamayı planlıyor. Geliştiriciler ile kurumlar söz konusu API üzerinden Claude üretimi içerikleri inceleyebilecek.

Anthropic’in sistemi, klasik yapay zekâ tespit araçlarından farklı çalışacak. Yapay zekâ tespit servisleri genellikle metindeki kelime seçimi, cümle yapısı veya belirli yazım alışkanlıkları gibi istatistiksel izleri ararken filigran sistemi model üretimi sırasında oluşturulan özel örüntüyü kontrol edecek. Söz konusu ayrım, yalnızca yazı stiline bakarak AI kullanımı tahmin etmek ile teknik bir işaret üzerinden içerik kaynağını belirlemek arasındaki farkı oluşturuyor.

Claude tarafından oluşturulan bir metnin hafif biçimde düzenlenmesi filigranı tamamen ortadan kaldırmayacak. Anthropic, birkaç kelimenin değiştirilmesi veya metnin sınırlı ölçüde düzenlenmesi durumunda filigranın önemli bölümünün korunabileceğini belirtirken metnin baştan sona yeniden yazılması hâlinde sistemin işaretinin ortadan kalkabileceğini kabul ediyor.

Bir kullanıcının Claude tarafından hazırlanan metni yalnızca dil bilgisi açısından düzeltmesi farklı bir sonuç doğuracak. Anthropic’e göre kısa veya hafif düzenlemelerde metnin büyük bölümünü insan yazdığı için filigranın bağlanabileceği AI üretimi kelime sayısı düşük kalacak. Claude metni yoğun biçimde yeniden yazdığında ise algılanabilir filigran miktarı metnin uzunluğuna ve modelin yaptığı değişikliklerin kapsamına göre artacak.

Kapsamlı yeniden yazımın filigranı ortadan kaldırması, yöntemin temel sınırlarından birini de ortaya koyuyor. Bir metindeki bütün kelimeler insan tarafından yeniden oluşturulduğunda ortaya çıkan son metnin hâlâ doğrudan yapay zekâ tarafından üretilmiş bir içerik olarak değerlendirilip değerlendirilmeyeceği ayrıca tartışılabilecek. Anthropic de tamamen yeniden yazılmış bir içeriğin AI üretimi olarak tanımlanmasının zaten tartışmalı hâle geleceğini kabul ediyor.

Kod tarafında ise sistem daha sınırlı bir etki gösterecek. Claude çalışan bir program üretirken sözdizimi, işlev veya programlama kuralları nedeniyle belirli tercihler yapmak zorunda olduğu için doğal dildeki kadar fazla alternatif arasında seçim yapamıyor. Anthropic, kod yorumları gibi teknik zorunluluğun bulunmadığı bölümlerde filigranın kullanılabileceğini ancak gerçek kod üzerinde etkisinin ihmal edilebilir seviyede kalacağını belirtiyor.

Anthropic’in filigran kararının arkasında Avrupa Birliği Yapay Zekâ Yasası kapsamında hazırlanan şeffaflık kuralları bulunuyor. Şirket, AI tarafından oluşturulan içeriklerin belirlenebilmesini sağlayan yöntemlerin kullanılması yönündeki gerekliliklere uyum sağlamak amacıyla Claude yanıtlarında filigran uygulamasına geçiyor.

Avrupa Birliği’nin yaklaşımı, yapay zekâ ile hazırlanan içeriklerin insanlar tarafından oluşturulmuş içeriklerle karıştırılmasını azaltmayı amaçlıyor. Metin üretim araçlarının eğitim, medya, yazılım geliştirme, müşteri hizmetleri ve kurumsal iletişim gibi alanlarda yaygınlaşması, içerik kaynağının belirlenmesini daha önemli hâle getirirken teknik filigranlar bu alandaki yöntemlerden biri olarak öne çıkıyor.

Anthropic’in açıklaması, filigran uygulamasının yalnızca Claude’a özgü bir yaklaşım olmayacağını da ortaya koyuyor. Şirket, Avrupa Birliği’nin aynı uygulama kurallarını kabul eden diğer büyük yapay zekâ geliştiricilerinin de kendi filigran sistemlerini kullanacağını belirtti. Böylece AI tarafından oluşturulan içeriklerin tespit edilmesi, tek bir sohbet botunun politikası olmaktan çıkıp sektör genelinde ortak bir uygulamaya dönüşebilir.

Claude kullanıcıları açısından yeni sistemin en önemli sonucu, üretilen metinlerin teknik olarak AI kaynaklı olduğunun gelecekte daha kolay incelenebilmesi olacak. Filigranın basit düzenlemelerle tamamen silinememesi hedeflenirken yöntemin kapsamlı yeniden yazımlara karşı sınırlı kalması, yapay zekâ içerik tespitinin tek başına kesin bir doğrulama mekanizması olmayacağını da gösteriyor. Anthropic’in yayınlayacağı algılama API’sinin çalışma yöntemi ile diğer büyük model geliştiricilerinin tercihleri ortaya çıktığında AI içeriklerinin doğrulanması konusunda daha geniş bir standart oluşması bekleniyor.