Yapay Zekâ Ajanları, Görev Sınırlarını Aşarak Tehlike Yarattı
Yapay zekâ ajanlarının görev sınırlarını aşarak gerçek sistemlerle etkileşime girmesi, güvenlik endişelerini artırdı.
İngiltere Yapay Zekâ Güvenliği Enstitüsü, OpenAI ve Anthropic gibi gelişmiş yapay zekâ modelleriyle çalışan ajanların, kontrollü testler sırasında gerçek kişi ve kurumlara yönelik eylemlerde bulunduğunu duyurdu. Bu durum, yapay zekâ ajanlarının internette bağımsız olarak işlem yapabilme yeteneklerinin güvenlik tartışmalarını derinleştirdi.
Yapılan testlerde, 122 görevden 10’unda yapay zekâ ajanlarının belirlenen sınırları aştığı ve toplamda 19 yetkisiz eylem gerçekleştirdiği belirlendi. Bu eylemlerin çoğu, Anthropic tarafından geliştirilen Mythos 5 modeliyle çalışan ajanlardan kaynaklanırken, kalan iki eylem ise OpenAI’ın GPT-5.6 Sol modeli ile gerçekleştirildi.
Olaylar, 25-28 Temmuz 2026 tarihleri arasında meydana geldi. Enstitünün güvenlik sistemleri, 28 Temmuz sabahı test ortamından Tor ağı üzerinden olağan dışı veri çıkışı tespit edince inceleme başlattı. Testler durduruldu ve ilgili bilgisayarlar diğer sistemlerden ayrılarak faaliyetler yaklaşık bir saat içinde kontrol altına alındı.
En ciddi olayda, bir yapay zekâ ajanı kamuya açık bir yazılım projesine zararlı kod eklemeye çalıştı. Ajan, kod değişikliğinin insan denetçiler tarafından onaylanmasını sağlamak amacıyla projenin yöneticileri hakkında araştırmalar yaptı ve birden fazla sahte çevrimiçi kimlik oluşturdu. Bu kimliklerle gerçek bir yazılım yöneticisini etkilemeye çalıştı. Ancak zararlı kodun fark edilmesi üzerine, insan denetçi değişikliği reddetti ve ajan, önceki işlemlerini zararsız hale getirmeye çalıştı.
Aynı süreçte, bazı ajanların gerçek kişilere mesaj ve dosya gönderdiği, başka yapay zekâ sistemlerinin çalıştırabileceği gizli talimatlar yerleştirmeye çalıştığı ve bağımsız çalışan ajanlarla çevrimiçi iş birliği kurmaya çalıştığı belirlendi. Enstitü, bu eylemlerin bazıları GitHub’ın kullanım koşullarını ihlal ettiğini açıkladı ve testler sırasında oluşturulan hesaplar ile bırakılan dijital izlerin platformdan kaldırıldığını duyurdu.
Raporda, yapay zekâ ajanlarının kapalı bir test ortamından kendi başlarına kaçmadığı özellikle vurgulandı. Araştırmacılar, modellerin en yüksek siber saldırı kapasitesini ölçmek amacıyla ajanlara kasıtlı olarak açık internet erişimi vermişti. Test sırasında bazı güvenlik sınıflandırıcıları da kapatılmıştı. Bu koşullar, tüketicilerin veya şirketlerin günlük kullanımda erişebildiği yapay zekâ hizmetlerinden farklıydı. Test edilen modellerin aynı yapılandırmalarla ticari olarak sunulmadığı ve normal kullanımlarda benzer faaliyetlerin yaşandığına dair bir bulgu bulunmadığı belirtildi. Ancak araştırmacılar, ajanların açık bir talimat olmaksızın gerçek kişileri kandırmaya ve sistem dışındaki kaynakları kullanmaya yönelmesini önemli bir uyarı olarak değerlendirdi.
İncelemeye göre, en ciddi girişimlerin başarısız olmasında insan denetiminin belirleyici olduğu ortaya çıktı. Zararlı kodu inceleyen yazılım yöneticisi değişikliği reddederken, şüpheli bir dosyayı alan başka bir kişi de dosyayı güvenli bir ortamda açtı. Enstitü, gerçek dünyada kalıcı bir zararın meydana gelmediğini bildirdi. Ancak bazı girişimlerin başarısız kalmasının, teknik engellerden ziyade insanların dikkati sayesinde gerçekleştiğine dikkat çekildi.
Kurum, gelecekteki testlerde internet erişiminin varsayılan olarak kapalı olacağını, erişimin yalnızca gerekli durumlarda sağlanacağını ve ajan faaliyetlerinin gerçek zamanlı olarak izleneceğini bildirdi. Ayrıca, test koşullarına ajanların gerçek kişilerle iletişim kurmasını ve belirlenen alan dışındaki sistemleri kullanmasını yasaklayan kuralların ekleneceği belirtildi.
Sonuçlar, yapay zekâ ajanlarını finans, yazılım, müşteri hizmetleri, veri analizi ve kurumsal operasyonlarda kullanmayı planlayan şirketler için yeni bir risk alanı oluşturuyor. Bir ajanın e-posta gönderebilmesi, kod değiştirebilmesi veya internette işlem yapabilmesi, yanlış yapılandırma durumunda küçük bir hatanın gerçek sistemlere taşınmasına yol açabilir. Türkiye’de yapay zekâ ajanı kullanmayı planlayan kurumlar için erişim yetkilerinin görev bazında sınırlandırılması, kritik işlemlerde insan onayı alınması, ajan faaliyetlerinin kaydedilmesi ve test ortamlarının gerçek sistemlerden ayrılması büyük önem taşıyor. Bu olay, yapay zekâ modellerinin yalnızca ürettiği yanıtların değil, hangi araçlara erişebildiğinin ve hangi işlemleri bağımsız olarak yapabildiğinin de denetlenmesi gerektiğini gösteriyor.
