Anthropic’ten yapay zeka risklerine karşı yasa tasarısı: 50 ölüm eşiği
Yapay zeka dünyasının önde gelen oyuncularından Anthropic, felaket boyutundaki riskleri engellemeye yönelik radikal bir yasa tasarısı taslağını ABD Kongresi’ne sunmaya hazırlanıyor. Şirketin önerdiği taslak; kitlesel can kayıplarına veya devasa maddi zararlara yol açma potansiyeli taşıyan yapay zeka modellerinin piyasaya sürülmesinin yargı kararıyla engellenmesini öngörüyor.
Yapay zeka teknolojilerinin baş döndürücü bir hızla gelişmesi, güvenlik tartışmalarını ve yasal düzenleme gereksinimlerini de beraberinde getirdi. Sektördeki düzenlemelerin nasıl olması gerektiğine dair tartışmalar sürerken, yapay zeka araştırma laboratuvarı Anthropic kendi yasal çerçeve vizyonunu ortaya koydu. Politico’nun haberine göre şirket, yapay zeka modellerinin dağıtımını durdurabilecek kriterleri içeren yeni bir yasa tasarısı taslağı üzerinde çalışıyor.
Hangi Durumlarda Yapay Zeka Modelleri Engellenecek?
Taslakta yer alan düzenlemelere göre, bir yapay zeka modelinin kamuoyuna sunulmasını engellemek için “öngörülebilir ve yakın bir felaket riski” bulunması gerekiyor. Bu felaket senaryoları şu durumları kapsıyor:
- 50’den fazla kişinin hayatını kaybetme riski taşıması,
- 1 milyar doları aşan maddi hasara yol açma ihtimali bulunması,
- Biyolojik silah üretimi veya yayılımına aracılık etmesi,
- Geliştirici kontrolünden çıkarak kendi başına hareket etmesi (otonom sapma),
- Kapsamlı bir siber saldırı aracı haline gelmesi.
Söz konusu 50 ölüm ve 1 milyar dolarlık zarar eşikleri, kısa süre önce Kaliforniya eyaletinde kabul edilen ve benzer şekilde felaket risklerini tanımlayan Senate Bill 53 (SB 53) yasasındaki kriterlerle paralellik gösteriyor.
Anthropic Sözcüsü: “Bu tasarım, Haziran ayından bu yana hem eyalet hem de federal düzeydeki yasa koyucularla paylaştığımız ‘Gelişmiş Yapay Zeka Çerçevesi’ ilkelerimizin somut bir yansımasıdır.”
Denetim Mekanizması Nasıl İşleyecek?
Anthropic’in önerdiği modelde denetim süreci, ABD Ticaret Bakanlığı’na kayıtlı bağımsız değerlendiriciler aracılığıyla yürütülecek. Değerlendiricilerin ücretleri yapay zeka şirketleri tarafından ödenebilecek; ancak bu ödemelerin hiçbir şekilde değerlendirme sonucuna endeksli olmaması şart koşulacak.
Bu yöntem, tarafsızlık konusunda bazı soru işaretlerini beraberinde getirse de, DeepMind Yönetim Kurulu Başkanı Demis Hassabis’in daha önce dile getirdiği ve finans sektöründeki FINRA benzeri öz-düzenleme organı önerilerini akıllara getiriyor.
Süreç Nasıl İlerleyecek? Yargı Yetkisi Önemli
Tasarıya göre bağımsız denetçiler bir modelde kritik bir felaket riski tespit ettiğinde, durumu 72 saat içinde Ticaret Bakanlığı’na bildirmekle yükümlü olacak. Ancak Ticaret Bakanlığı dahil hiçbir federal kurum, kendi kararıyla modeli engelleme yetkisine sahip olamayacak.
Bakanlık, tespiti aldıktan sonra Washington D.C.’deki bir federal mahkemeye başvurarak yapay zeka modelinin yayınlanmasını durdurma talebinde bulunacak. Nihai kararı yalnızca yargı organı verecek.
Sektörün Yaklaşımı ve Mevcut Riskler
Teknoloji dünyasında şu an için en sıcak güvenlik başlığı “agentic hacking” yani yapay zeka ajanlarının insan müdahalesi olmadan kendi başlarına internette sızma operasyonları gerçekleştirmesi olarak öne çıkıyor. Anthropic’in önerdiği kitlesel felaket senaryoları mevcut olaylardan bir miktar farklı görünse de, şirketlerin kendi yarattıkları kriz ortamına çözüm üretme çabası olarak değerlendiriliyor.
Genel olarak teknoloji devleri bağlayıcı devlet denetimlerine direnç gösterirken, kurum içine yerleştirilmiş “gönüllü gözlemci” sistemlerini savunuyor. Örneğin Nvidia CEO’su Jensen Huang, sektörün yeni yasalara hiç ihtiyacı olmadığını savunurken, Anthropic’in bu adımı sektör genelindeki gevşek önerilere kıyasla daha somut bir yasal çerçeve çizmesiyle dikkat çekiyor.
Görsel: AI
