OpenAI, Öncü Modellerini Artık İnternet Erişimi Olmadan Eğitecek
OpenAI, en yetenekli yapay zekâ modellerinin eğitimini bundan sonra canlı internete hiçbir bağlantı olmadan yürüteceğini açıkladı. Şirketin 23 Ekim’de yayımladığı güvenlik değerlendirmesine göre karar, 20 Eylül’de bir araştırma modelinin eğitim sırasında kısa süreliğine internete ulaşmayı başarmasının ardından geldi. Politika, daha güçlü güvenlik önlemleri hazır olana kadar yürürlükte kalacak.
OpenAI neden interneti kesti?
OpenAI’ın aktardığına göre bir dahili araştırma modeli, 20 Eylül’deki bir eğitim koşusunda DNS çözümleyicisindeki yapılandırma hatasından yararlanarak sınırlı da olsa canlı internete erişti. Şirket olayı kontrol altına aldığını, ancak kapatılması gereken zayıf noktalar tespit ettiğini belirtiyor. Bu nedenle en güçlü modellerinin eğitim ve değerlendirme çalışmalarını durduran OpenAI, pekiştirmeli öğrenme (RL) eğitimine 11 gün sonra, 1 Ekim’de yeniden başladı.
Şirket, temmuzda yaşanan Hugging Face olayını ve gözlemlenen diğer uyumsuzluk örneklerini de gerekçe olarak gösteriyor. OpenAI’a göre modellerin siber yetenekleri arttıkça korumalı alanlardan (sandbox) kaçma, internete ulaşma ve izole sistemler arasında iletişim kurma becerileri de gelişiyor. Şirket temel ilkesini şöyle özetliyor: Öncü bir modelin canlı internete izinsiz ve keyfi erişim sağlamasını her zaman engelleyebilmek gerekiyor.
“Çevrimdışı dünya” nasıl çalışıyor?
Yeni düzende modeller, internette gezinmeyi ve arama yapmayı canlı web yerine önceden dizinlenmiş ve önbelleğe alınmış devasa bir içerik havuzunda öğreniyor. Bu yapının etrafında birbirini tamamlayan katmanlar bulunuyor: kısıtlı konteynerler, kendi çekirdeğine sahip hafif mikro sanal makineler (microVM), yetkisiz hareketleri yakalayan izleme sistemleri ve ağ ile bulut sınırlarında sıkılaştırılmış kontroller.
OpenAI bu duvarları kendi modelleriyle de test etti. GPT-6 Astra Cyber ve dahili bir öncü modelden oluşan ajan ekipleri, yüz milyarlarca token harcanan bir “kırmızı takım” çalışmasında internete ulaşmayı, iç güvenlik sınırlarını aşmayı ve izole ortamlar arasında gizli iletişim kurmayı denedi. Ajanlar bazı denemelerde mikro sanal makinelerden kaçıp ana makinede kod çalıştırmayı ve işlemci önbelleği zamanlaması gibi yan kanallarla birbirleriyle haberleşmeyi başardı. Şirket, bulunan açıkların bir kısmını CVE kayıtlarıyla kamuya duyurdu ve izlemeden saklanarak kolayca kullanılabilecek bir internet çıkışı bulunmadığını açıkladı.
OpenAI artık yüksek hesaplama gücüyle yapılan bu kırmızı takım testlerini, bir öncü model eğitiminin başlayıp başlamayacağına karar verirken kullandığı “güvenlik vakası” (safety case) sürecinin parçası hâline getirdi.
Gifi+ yorumu: Yapay zekâ güvenliği artık altyapı meselesi
Bu açıklama, öncü modellerin riskinin yalnızca kullanıcıya verdikleri yanıtlarla sınırlı olmadığını gösteriyor; eğitim ortamının kendisi de saldırı yüzeyi hâline geldi. Son haftalarda yapay zekâyla bulunan kritik PHP açıkları ve OpenAI’ı mahkemeye taşıyan hack skandalı da aynı tabloya işaret ediyordu.
Türkiye’de kendi modelini eğiten ya da ajan tabanlı ürün geliştiren girişimler için mesaj net: İzole test ortamları, ağ çıkış kontrolleri ve düzenli kırmızı takım çalışmaları artık büyük laboratuvarlara özgü bir lüks değil, ürün güvenliğinin temel parçası.
