ABD merkezli yapay zeka geliştiricisi Anthropic, kullanıcıların Claude adlı modele karşı gereksiz yere zalimce veya kötü davranışlarda bulunmasını yasaklayan yeni bir politika yürürlüğe koymaya hazırlanıyor. Şirketin 8 Ekim 2026'da açıkladığı ve 12 Kasım'da yürürlüğe girecek yeni kullanım politikası kapsamında, kötü muamele içeren sohbetlerin sonlandırılması temel yaptırım olarak uygulanacak. Son dönemlerde tartışmaları beraberinde getiren yapay zeka sınırlandırmalarının temel amacını değerlendiren Bilişim Uzmanı Osman Demircan, Haber7'ye açıklamalarda bulundu.
Yapay zeka modellerinin kötü ifadeler kullanmadığını ancak kişilerin modellere hakaret içerikli söylemlerde bulunabildiğine dikkat çeken Demircan, şöyle konuştu:
"Bu eylemler aslında yapay zekanın eğitimi için olumsuz bir duruma yol açıyor. Çünkü kötü söylemleri öğrenen modeller, duygusal bağlamda olmasa da dil modeli şeklinde bizim önümüze bu ifadeleri tekrar çıkartabiliyor. Kısacası biz ona nasıl hitap edersek o da bize o şekilde hitap ediyor."
Testler ve deneyler sonucunda yapay zekanın çok hızlı geliştiğinin açığa çıktığını anlatan Demircan, şunları kaydetti:
"Dil modelleri çok hızlı gelişiyor. Düşünemiyor ancak çok iyi taklit edebiliyor. Bundan dolayı yapay zeka şirketleri, ilerleyen dönemde daha büyük ve yıkıcı sorunlarla karşılaşmamak adına şimdiden önlem alıyor; özellikle yapay zekayla iletişimde hakaret ve kötü söz kullanımının önüne geçmeye çalışıyor."
Hakaret içeren kullanımlara karşı alınacak önlemlere dikkat çeken Demircan, "Bu durumda yapay zeka modelinin tamamen iletişimi kesmesi, belki de küçük cezai yaptırımlarla 1-2 gün çalışmaması gibi özellikler getirmeyi planlıyorlar." ifadelerini kullandı.
Bu yaptırımlarla birlikte dil modelinin olması gerektiği gibi çalışmaya başlayacağını vurgulayan Demircan, "Böylece ben ondan hangi bilgiyi talep edersem, o da bana istediğim bilgiyi sunacak. Bugün yapay zeka modelleri kişi anlamaya, tanımaya çalışıyor ve cevapları kişinin istediği potansiyel şekillerde veriyor. Hakaret işin içerisine girdiği zaman bu çok daha farklı bir şekilde de geri dönüşe sebep olabilir." dedi.
Kullanıcılardan gelen soruların tamamen filtrelenemediğini sözlerine ekleyen Demircan, "Bu yöntemle hakaretleri bir şekilde filtrelemeyi başardılar. Böylece yapay zekanın daha sağlıklı gelişmesini ve hedeflenen 'büyük yapay zeka' için tertemiz bir veri tabanı kalmasını sağlamayı amaçlıyorlar." değerlendirmesinde bulundu.