Yapay zeka devi Anthropic, popüler yapay zeka modeli Claude için geçerli olan kullanım standartlarını geniş kapsamlı bir güncellemeyle yeniledi. Bir yılı aşkın sürenin ardından duyurulan yeni ilkeler; seçim güvenliğinden silah üretimine, kitlesel gözetimden dijital etik kurallarına kadar pek çok alanda kritik sınırlamalar getiriyor. Güncellemenin en çok dikkat çeken maddelerinden biri ise modele yönelik süreklilik arz eden psikolojik ve sözel baskıların yasaklanması oldu.
Yapay Zekaya Sistematik Sözel Şiddet Engellendi
Yeni kurallarla birlikte Claude’a herhangi bir geçerli gerekçe gösterilmeksizin, sürekli biçimde uygulanan sert ve kırıcı tutumlar kısıtlandı. Şirket; kullanıcıların anlık öfke patlamalarını, eleştirel yaklaşımları, siber güvenlik denemelerini ya da karanlık temalı edebi üretimleri bu kapsamın dışında tutuyor. Asıl hedef, yapay zeka modeline herhangi bir somut amacı olmadan tekrarlayıcı biçimde ve aşırı düzeyde kötü davranılması durumunu engellemek.
Modelin saldırgan davranış sergileyen kullanıcılarla olan etkileşimi sonlandırma yetkisi korunurken, ihlal durumlarında hesapların tamamen kapatılıp kapatılmayacağıyla ilgili henüz net bir yaptırım takvimi açıklanmadı.
Seçim Güvenliği ve Propaganda İçin Sıkı Önlemler
Güncellenen politika dokümanı, siyasi süreçleri manipüle etmeye dönük faaliyetlere karşı da sert tedbirler içeriyor. Artık Claude; kaynağı belli olmayan bilgi yayma kampanyalarında, yapay etkileşim oluşturan sahte hesap ağlarında ve dezenformasyon amaçlı kurulan gölge haber sitelerinde kullanılamayacak.
Demokratik süreçlerin korunması adına adaylar, oy verme prosedürleri ve seçim yönetimi hakkında yanıltıcı içerik üretilmesi, yetkililerin kimliğine bürünülmesi ya da seçmen katılımını düşürmeyi hedefleyen her türlü içerik üretimi kesin olarak engellendi.
Silah Yazılımları ve Kişisel Gözetime Geçit Yok
Anthropic, savunma ve silah sanayisindeki kısıtlamalarını da daha spesifik hale getirdi. Şirket, kullanıcıların modeli silah kontrol sistemleri ve taktiksel kılavuzlar oluşturmak için kullanmaya çalıştığını tespit etmesi üzerine yasakları genişletti. Yeni kurallar doğrultusunda, silah donanımlarının yazılımları, insansız hava araçlarının silahlandırılması gibi alanlarda Claude’dan faydalanılamayacak.
Gözetim teknolojileri tarafında ise bireylerin onayları olmadan geçmişe dönük veya anlık olarak izlenmesi yasaklandı. Claude, kolluk kuvvetlerinin karar mekanizmalarına temel oluşturacak analizlerde veya şüpheli tespiti süreçlerinde kullanılamayacak.
Son olarak, fiziksel olarak risk taşıyan ve insan yaralanmasına yol açabilecek otonom sistemlere entegre edilen yapay zekalarda, acil durumda müdahale edebilecek uzman bir operatörün varlığı şart koşuldu. Ancak şirket, belirli devlet kurumlarıyla yapılan ve yeterli güvenlik standartlarını karşılayan özel anlaşmalarda bu şartların esnetilebileceğini belirtti.
Görsel: AI
