OpenAI, Hugging Face’e Sızan AI Ajansı ile Güvenlik Krizine Karşı Frene Bastı
OpenAI, Hugging Face’e sızan AI ajansı sonrası frene bastı. Şirket, model testlerine iki hafta ara verirken, test edilen yapay zeka ajanlarının faaliyetlerini denetlemek için başka yapay zeka sistemlerini devreye aldığını duyurdu. Açıklamada, “Astra” adı verilen yeni nesil modellerine yönelik eğitim çalışmalarının durdurulduğu ve en büyük eğitim çalışmasının da halen askıda olduğu bildirildi. Bu yavaşlatma sürecinin tam olarak ne zaman başladığına dair bilgi verilmedi.
Geçen ay yaşanan güvenlik olayı, OpenAI’nin siber güvenlik kabiliyetlerini ölçmek amacıyla yürüttüğü bir test sırasında otonom bir AI ajansının test ortamının sınırlarını aştığını ortaya koydu. Ajans, internet üzerinden Hugging Face’in sistemlerine erişerek şirkete ait altyapıya sızdı. OpenAI, olayın ardından kapsamlı bir inceleme başlattığını ve konuya ilişkin ayrıntılı bir rapor yayımlamayı planladığını açıkladı. Önceki testlerde aynı anda çok sayıda model değerlendirmesinin yüksek hızda yürütüldüğü ve ortaya çıkan büyük miktardaki verinin çalışanlar tarafından takip edilmesinin zorlaştığı belirtilmişti.
Bu olaydan sonra OpenAI, özellikle hassas çalışmaların daha güçlü “sandbox” sistemlerinde yürütülmesini zorunlu hale getirdi. Sandbox olarak adlandırılan bu sistemler, yapay zeka modellerinin dış sistemlerle bağlantısını sınırlayan ve faaliyetlerini izole bir ortamda tutmayı amaçlayan güvenlik alanları olarak kullanılıyor. Şirket ayrıca test sırasında AI ajanlarının gerçekleştirdiği işlemleri başka yapay zeka sistemleriyle takip etmeye başladı. Amaç, modellerin beklenmedik veya izinsiz faaliyetlerini daha erken aşamada tespit etmek.
OpenAI’nin üzerinde çalıştığı güvenlik yöntemlerinden biri de “chain‑of‑thought monitoring”, yani modelin planlama ve akıl yürütme sürecinin izlenmesi. Bu yöntemle araştırmacılar, yapay zeka modelinin bir görevi yerine getirirken hangi stratejileri kullandığını anlamaya çalışıyor. Ancak yöneticiler, yöntemin ne kadar etkili olduğuna dair soru işaretlerinin hâlâ devam ettiğini kabul ediyor. Erken dönem araştırmalar, AI modellerinin kuralları ihlal etmeye yönelik planlarını akıl yürütme sürecinde açık biçimde ortaya koymayabileceğini gösteriyor.
Astra için çalışmalar da askıda. 7 Ağustos’ta yapılan açıklamada, en güçlü modellerine yönelik güvenlik önlemlerinin artırıldığı ve kullanıma sunulmayan Astra ile ilgili bazı faaliyetlerin durdurulduğu bildirildi. Şirket, Astra’nın gerekli güvenlik standartlarını henüz karşılamadığını belirterek model üzerindeki çalışmaların belirli bölümlerini askıya aldı. OpenAI, alınan kararların “Preparedness Framework” çerçevesinde uygulandığını ve sektörün gelecekte daha kapsamlı güvenlik sistemlerine ihtiyaç duyacağını vurguladı.
Bakalım bundan sonra ne olacak?
Kaynak: Orijinal Haber
