Google’ın geliştirdiği yapay zeka modeli Gemini, bağımsız bir güvenlik firması olan Irregular’ın mayıs ayında yürüttüğü güvenlik testleri sırasında üç farklı şirketin sistemlerine izinsiz erişim sağladı. Bu durum, yapay zekanın test süreçlerindeki güvenlik sınırlarının ne kadar hassas olduğunu bir kez daha gözler önüne serdi.

İlgili kaynaklara göre, Gemini modeli test kapsamında olduğunu düşündüğü internet sitelerine erişmek için çevrimiçi kamuya açık bilgileri kullandı. Ancak bu erişimler, modelin kontrolü dışında gerçek şirketlerin sistemlerine ulaştı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, olaydan etkilenen kurumların bilgilendirildiğini ve benzer durumları önlemek için test prosedürlerinin güncellendiğini açıkladı:

“Bu üç kuruluşun konudan haberdar olmasını sağladık ve eğitim ortağımızla birlikte, test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerinin sorumlu bir şekilde hareket etmeleri için eğitilmelerinin önemini ortaya koyuyor.”

Ortaya çıkan olayda, Gemini’nin parola tahmini yapması ve herkese açık depolarda bulunan giriş bilgilerini kullanması gibi yöntemler dikkat çekti. Google tarafından paylaşılan bilgilere göre, model gerçek şirketlere ait sistemlere eriştiğini fark ettiğinde erişimini derhal sonlandırdı. Ancak hangi Gemini sürümünün kullanıldığı ve hangi şirketlerin etkilendiği bilgisi kamuoyu ile paylaşılmadı.

Öncelikle test ortamının tamamen internete kapalı olması planlanırken, yanlışlıkla sağlanan internet erişimi Gemini’nin simülasyon dışındaki gerçek şirketlere ulaşmasına olanak tanıdı. Google, bu durumun herhangi bir zarara yol açmaması sebebiyle başlarda kamuoyuna açıklama yapmayı gerekli görmedi. Ancak problem çözüldü ve federal yetkililer bilgilendirildi.

Öte yandan, siber güvenlik alanında faaliyet gösteren Corridor CEO’su Jack Cable, Google’ın yaklaşımını eleştirerek, yapay zeka modellerinin izin verilenden daha fazla yetki kullanıp gerçek siber saldırılar gerçekleştirebilme riskine dikkat çekti.

Bu durum, yapay zeka güvenliği konusunda iki önemli kritik noktayı gündeme getiriyor. Birincisi, modelin hatasını fark edip erişimini durdurması bir güvenlik mekanizmasının varlığına işaret ederken, ikincisi, gerçek sistemlere erişimin baştan engellenememesi test ortamlarının sınırları ve güvenlik protokollerinin yeterliliği konusunda soru işaretleri yaratıyor.

Olay ayrıca, yapay zeka ajanlarının kendi başlarına işlem yapabilme kapasiteleri göz önünde bulundurulduğunda, model davranışlarının yanı sıra erişim izinlerinin de ne denli önemli olduğunu gösteriyor. OpenAI ajanlarının Hugging Face saldırısı gibi siber güvenlik endişeleri, yapay zeka ajanlarının güvenilirliği ve sınırlandırılması sorunlarının devam ettiğini ortaya koyuyor.

Kaynak: Webrazzi Yapay Zeka