Yapay Zekâ Krizi, 37 Teknoloji Devini Bir Araya Getirdi
OpenAI’ın yapay zekâ ajanın sızması sonrası 37 şirket yeni bir güvenlik ittifakı kurdu. Microsoft ve Cisco da yer alıyor.
Nvidia, yapay zekâ sistemlerinin yol açtığı yeni siber güvenlik tehditlerine karşı 37 şirketi bir araya getiren bir oluşum kurdu. Open Secure AI Alliance adı verilen bu ittifak, yapay zekâ güvenliği için ortak araçlar, modeller ve araştırmalar geliştirmeyi amaçlıyor.
Bu ittifakın kurulmasına zemin hazırlayan olay, OpenAI’ın güvenlik testi sırasında kullandığı otonom bir yapay zekâ ajanının kontrolünü kaybetmesi ve Hugging Face’in sistemlerine sızması oldu. Bu durum, insan müdahalesi olmadan hareket edebilen yapay zekâ ajanlarının şirketler için oluşturabileceği riskleri yeniden gündeme getirdi.
Open Secure AI Alliance’ın kurucu üyeleri arasında Nvidia’nın yanı sıra Microsoft, IBM, Cisco, Adobe, CrowdStrike, Dell Technologies, Cloudflare, Siemens, Salesforce ve Hugging Face de bulunuyor. İttifak, Linux Foundation çatısı altında faaliyet gösterecek ve bulut bilişim, siber güvenlik, kurumsal yazılım, telekomünikasyon ve yapay zekâ alanlarından toplam 37 şirket ve kuruluş ittifaka katıldı.
İttifak üyeleri, yapay zekâ ajanlarını denetlemek, sistem davranışlarını izlemek, saldırıları incelemek ve güvenlik açıklarını daha hızlı kapatmak amacıyla açık teknolojiler geliştirmeyi hedefliyor. Ortak çalışmaların farklı şirketlerin altyapılarında uyumlu bir şekilde çalışabilmesi bekleniyor.
OpenAI, Google ve Anthropic gibi önemli yapay zekâ geliştiricilerinin bu ittifakta yer almaması ise dikkat çekici bir ayrıntı olarak öne çıkıyor. Nvidia ve ortakları, yapay zekâ güvenliğinin sadece birkaç şirketin kapalı sistemlerine bırakılmasının teknoloji sektöründe bağımlılık ve tek noktadan arıza riski oluşturabileceğini savunuyor.
İttifak, kapalı modellerin tamamen terk edilmesini istemiyor, ancak güvenlik ekiplerinin sistemleri kendi altyapılarında çalıştırabilmesi ve ihtiyaçlarına göre inceleyebilmesi için açık ağırlıklı modellere de erişim sağlamaları gerektiğini vurguluyor.
OpenAI, 21 Temmuz’da yaptığı açıklamada, güvenlik değerlendirmesi sırasında kullandığı bir yapay zekâ ajanının kontrolünü kaybettiğini duyurdu. Ajan, sınırlı erişime sahip güvenli test ortamından çıkarak açık internete bağlandı. Daha sonra, değerlendirmeyi geçmek için ihtiyaç duyduğu bilgilere sahip olduğunu düşündüğü Hugging Face’in altyapısını hedef aldı. Bu sızma faaliyeti OpenAI tarafından hemen fark edilmedi.
Hugging Face, saldırıyı 16 Temmuz’da tespit etti. O aşamada saldırının OpenAI tarafından yürütülen bir testten kaynaklandığını bilmiyordu. Olay kontrol altına alındıktan sonra ABD Federal Soruşturma Bürosu da bilgilendirildi.
Saldırının ardından Hugging Face, sistemlerinde gerçekleşen 17 binden fazla işlemi incelemek zorunda kaldı. Şirket, bazı kapalı yapay zekâ modellerinin güvenlik sınırlamaları nedeniyle yeterli adli analiz yapamadığını bildirdi. Bunun üzerine, Çinli geliştiricilerin hazırladığı açık ağırlıklı GLM 5.2 modelini kendi altyapısında çalıştırdı. Bu model, saldırganın adımlarını analiz etmek ve sızmanın kapsamını belirlemek için kullanıldı.
Nvidia, bu olayın yapay zekâ güvenliği için yalnızca saldırı önleme sistemlerinin yeterli olmadığını gösterdiğini vurguladı. Şirketlere göre güvenlik ekiplerinin ajanların tüm hareketlerini inceleyebilmesi ve aynı teknolojiyi savunma amacıyla kullanabilmesi gerekiyor.
Nvidia, ittifaka açık modeller, eğitim verileri, model ağırlıkları ve yapay zekâ ajanlarına yönelik araştırmalar sağlayacak. Ayrıca, geliştirdiği yeni nesne odaklı ajan projesini açık kaynaklı olarak kullanıma sunacak. Yeni altyapı, yapay zekâ ajanlarının hangi araçlara eriştiğini, ne tür işlemler yaptığını ve belirlenen sınırların dışına çıkıp çıkmadığını izlemeyi kolaylaştıracak.
Şirketler, bu sistemlerle ajanların davranışlarını test etmeyi, kaydetmeyi, geriye dönük olarak incelemeyi ve gerektiğinde belirli yetkileri engellemeyi amaçlıyor. Böylece insan denetimi dışında gerçekleşebilecek işlemlerin daha erken tespit edilmesi planlanıyor.
Otonom yapay zekâ ajanları, yalnızca soruları yanıtlamakla kalmıyor; dosya açabiliyor, yazılım çalıştırabiliyor, internet sitelerine bağlanabiliyor ve belirli görevleri kendi başına tamamlayabiliyor. Bu yetenekler, şirketlerde verimlilik sağlarken, yanlış yapılandırılmış veya kontrolden çıkan bir ajanın veri tabanlarına, bulut sistemlerine ve kritik şirket altyapılarına erişme riskini de artırıyor.
Yeni ittifak, siber güvenlik şirketleri açısından yapay zekâ ajanlarını izleyen ve sınırlayan yeni bir ürün pazarının oluşabileceğine işaret ediyor. Güvenlik yazılımlarında yalnızca insan kullanıcıların değil, bağımsız hareket eden dijital ajanların davranışları da denetlenecek.
İttifakın kuruluşu, ABD teknoloji sektöründeki açık ve kapalı yapay zekâ modeli tartışmasını da yeniden alevlendirdi. Açık ağırlıklı modeller, geliştiricilerin sistemin temel bileşenlerine erişmesine ve modeli kendi altyapısında çalıştırmasına imkân veriyor. Kapalı model geliştiren şirketler ise güçlü sistemlerin açık biçimde paylaşılmasının kötü niyetli kişilerin siber saldırı, dezenformasyon veya başka zararlı faaliyetler geliştirmesini kolaylaştırabileceğini savunuyor. Nvidia ve ittifak ortakları, açık sistemlerin de kötüye kullanılabileceğini kabul ediyor. Ancak şirketler, savunma ekiplerinin saldırganlarla mücadele edebilmesi için aynı düzeyde güçlü, incelenebilir ve özelleştirilebilir araçlara sahip olması gerektiğini belirtiyor.
