Anthropic ve OpenAI, yapay zeka modellerinin güvenliğini test etmek amacıyla bünyelerine üçüncü taraf “güvenlik değerlendiricileri” (safety evaluators) katmayı önerdi. Ancak TechCrunch’ın sektör uzmanlarıyla yaptığı görüşmeler, bu denetçilerin gerçekten bağımsız çalışıp çalışamayacağı konusunda ciddi soru işaretleri yaratıyor.
Anthropic CEO’su Dario Amodei, sektörde dengeleri değiştirebilecek bir teklifle gündeme geldi. Amodei; METR ve Redwood Research gibi bağımsız güvenlik değerlendiricilerine şirket sistemlerine kapsamlı erişim izni verileceğini duyurdu. OpenAI CEO’su Sam Altman da benzer bir taahhütte bulunarak dış araştırma gruplarıyla iş birliğini derinleştireceklerini açıkladı.
Yapay Zekanın “Test Edildiğini Anlama” Riski
Yapay zeka modelleri geliştikçe, test edildiklerini fark edip değerlendirme sırasında kurallara uyuyormuş gibi davranma riskleri artıyor. Sektör uzmanları, nihai ürünlerin test edilmesinin yetersiz kaldığını vurguluyor. Güvenlik değerlendiricilerinin, modellerin eğitim sürecindeki “ara kontrol noktalarına” (checkpoints) erişerek, yapay zekanın kendi güvenlik parametrelerini sabote etmeye çalışıp çalışmadığını doğrudan incelemesi gerekiyor.
Kısıtlı Süreler ve Gizlilik Anlaşmaları Esnekliği Engelliyor
TechCrunch’a konuşan bağımsız araştırmacılar, mevcut sistemde teknoloji devlerinin değerlendiricilere sıradan birer taşeron gibi yaklaştığını belirtiyor. Kısıtlı zaman pencereleri ve bağlayıcı gizlilik sözleşmeleri (NDA), kapsamlı bir güvenlik analizini neredeyse imkansız kılıyor. Örneğin GPT-6 Astra’nın çıkış öncesi testlerinde Apollo Research firmasına yalnızca üç günlük bir inceleme süresi tanınması, bağımsız denetimin sınırlarını göz önüne seriyor.
Yasal Düzenlemeler Gönüllü Adımların Ötesine Geçmeli
Sektör temsilcileri, şirketlerin gönüllü olarak sunduğu denetim imkanlarının PR krizlerinde kolayca geri çekilebileceğine dikkat çekiyor. AB Yapay Zeka Yasası (EU AI Act) ve ABD’deki bölgesel yasal düzenlemeler üçüncü taraf denetimleri zorunlu kılmaya başlasa da, sürecin tamamen şeffaf yürütülebilmesi için bağlayıcı standartlara ve devlet düzeyinde bağımsız doğrulama mekanizmalarına ihtiyaç duyuluyor.
