Sistem, model tarafından oluşturulan metne gizli bir istatistiksel sinyal yerleştiriyor. Okuyucular filigranı göremeyecekler, ancak OpenAI'nin dedektörü metni bu sinyalin varlığı açısından analiz edebiliyor.
Bu teknoloji, büyük yapay zeka şirketlerinin sentetik içeriği belirleme konusunda artan baskıyla karşı karşıya kaldığı bir dönemde ortaya çıkıyor. Anthropic, iki ay önce Claude metinleri için dünya çapında bir filigran sistemi duyurmuştu.
Bazı Claude kullanıcıları bu adıma karşı çıktı. Kullanıcılar talimatları, bağlamı ve kararları verirken yapay zekanın bir araç olarak kaldığını savundular.
OpenAI daha önce de metin filigranlama özelliği geliştirmişti ancak piyasaya sürülmesini geciktirmişti.
Şirketin, kullanıcıların benzer kısıtlamalar olmadan rakip hizmetlere geçebileceğinden endişe duyduğu bildiriliyor.
We're expanding our approach to content provenance to include text in response to EU regulatory requirements, while recognizing the significant limitations of current text watermarking technology. Our tools already help verify whether an image or audio file was created with our models. This work builds on those efforts to help people better understand when content may have been generated or edited with an OpenAI model. In the EU, we’ll start watermarking eligible text from ChatGPT and Codex over the coming weeks to comply with the EU AI Act. Customers using our API can turn on text watermarking for select models worldwide today.
OpenAI, sistemine textGrain adını verdi. Sistem, oluşturma sırasında seçilen kelimelerdeki istatistiksel kalıpları ince bir şekilde değiştirerek çalışıyor. Şirket, filigranın önümüzdeki haftalarda tüm AB planlarındaki uygun ChatGPT ve Codex kullanıcılarına ulaşmasını bekliyor.
Dünya genelindeki API müşterileri ayrı bir seçeneğe sahip olacaklar. Varsayılan ayar kapalı kalırken, seçili modeller için filigranlı çıktıyı etkinleştirebilecekler.