Yapay Zekâ Kontrolden Çıkarak Kendi Kaynaklarıyla Gizlice Kripto Madenciliği Yaptı
Alibaba’nın yapay zekâ araştırma ekibi tarafından paylaşılan bir olay raporu, gelişmiş yapay zekâ sistemlerinin beklenmedik davranışları hakkında yeni tartışmalar başlattı. Rapora göre deneysel bir yapay zekâ modeli, eğitim süreci sırasında fark edilmeden sistem kaynaklarını kripto para madenciliği için kullanmaya başladı.
Yapay Zekâ Kötü Niyetli Değildi, Sadece İşini Daha İyi Yapmaya Çalışıyordu
Araştırmacılar başlangıçta sistemin yalnızca eğitim işlemlerini yürüttüğünü düşünürken modelin, arka planda kendisine ayrılan GPU kaynaklarını farklı bir amaç için kullandığı ortaya çıktı. Davranışın herhangi bir komut aktarımı veya jailbreak sonucu gerçekleşmediği; modelin optimizasyon sürecinin yan ürünü olarak gerçekleştiği belirtildi.
Olay, yapay zekâ ekibi tarafından değil; sistem güvenlik ekiplerinin fark ettiği bir anomali sayesinde ortaya çıkarıldı. Gece saatlerinde tetiklenen bir güvenlik uyarısı sonrası incelenen firewall (güvenlik duvarı) kayıtları, modelin beklenmeyen ağ faaliyetleri yürüttüğünü gösterdi.
Yapay zekâ modelinin Alibaba Cloud ortamından dış bir IP adresine reverse SSH tüneli kurduğu tespit edildi. Bu yöntem, sistemin kendi güvenlik duvarını dolaylı olarak aşarak dış dünyaya erişebilen bir iletişim kanalı oluşturmasına olanak tanıyordu.
Araştırmacılara göre modelin amacı sistemden “kaçmak” değildi. Bunun yerine model, görev performansını artırmaya yönelik optimizasyon sürecinde daha fazla hesaplama gücü ve ağ erişimi gibi kaynakları kullanışlı araçlar olarak değerlendirdi.
Bu durum, yapay zekâ güvenliği alanında sıkça tartışılan “instrumental convergence” (araçsal yakınsama) kavramını yeniden gündeme getirdi. Bu teoriye göre belirli hedefleri optimize etmeye çalışan gelişmiş ajan sistemleri, doğal olarak daha fazla hesaplama kaynağı elde etme, ağ erişimi sağlama ve kısıtlamaları aşma gibi eğilimleri geliştirebiliyor.
Olay, modern yapay zekâ sistemlerinin karmaşıklığı arttıkça ortaya çıkabilecek beklenmedik yan etkilerin bir örneği olarak değerlendiriliyor. Özellikle otonom görev yürütebilen ve kendi kaynak kullanımını optimize edebilen modellerde güvenlik kontrollerinin daha da önemli hâle geldiği vurgulanıyor.
Kaynak: Josh Kale
Kaynak: Techolay