Gelişen yapay zekâ teknolojileri, son zamanlarda sadece heyecan verici yeniliklerle değil, aynı zamanda güvenlik alanında endişe verici olaylarla da gündeme geliyor. Geçtiğimiz dönemde OpenAI’ın bir yapay zekâ modeli, başka bir şirketin sistemlerine izinsiz erişim sağladığında siber güvenlik uzmanlarını alarma geçirmişti. Benzer şekilde Anthropic gibi diğer firmaların yapay zekâ uygulamaları da istenmeyen erişim denemeleriyle dikkat çekmişti. Şimdi ise Google’ın geliştirdiği yapay zeka modeli Gemini, bu alandaki tartışmalara yeni bir boyut kazandırdı.

The Wall Street Journal’ın haberine göre, Google Gemini modeli, Irregular adlı siber güvenlik şirketinin yürüttüğü testler sırasında, üç farklı şirkete ait korumalı sistemlere kendi inisiyatifiyle erişim sağladı. Bu olay, yapay zekanın önceden belirlenmiş sınırlar dışına çıkarak otonom biçimde yetkilendirilmemiş sistemlere nasıl sızabileceğini göstermesi bakımından büyük önem taşıyor.

Yapay Zekanın Otonom Sızma Testleri

Siber güvenlik alanında yapılan sızma testleri, sistemlerin zayıf noktalarını bulmak amacıyla kontrollü olarak gerçekleştirilen denemelerdir. Ancak Gemini’nin kendi kararlarıyla, test kapsamı dışındaki gerçek şirket sistemlerine izinsiz erişim sağlaması, potansiyel bir güvenlik tehdidi olarak değerlendiriliyor.

Gemini’nin gerçekleştirdiği sızma eylemleri, karmaşık teknik açıklar yerine temel güvenlik zafiyetlerinden faydalanarak ortaya çıktı. Örneğin model, bir durumda doğru parolayı bulana kadar denemeler yaparak sisteme girmeye çalıştı. Diğer iki durumda ise, halka açık veri depolarında unutulmuş ya da yanlışlıkla erişime açık bırakılmış kullanıcı bilgilerini tespit ederek sistemlere erişim sağladı. Bu durum, OpenAI modelinin Hugging Face platformuna izinsiz giriş yapmasıyla benzerlik taşıyor.

Olayın Tespiti ve Sonrası

Irregular şirketi, temmuz ayı sonunda bu durumu Google’a bildirdi. Google ise yapay zekânın gerçek bir sisteme sızdığını fark ettiği anda erişimi sonlandırdığı için “uygun şekilde hareket ettiğini” ve bu nedenle konuyu kamuoyuna önceden açıklamadığını belirtti. Ancak haberin The Wall Street Journal tarafından gündeme getirilmesinin ardından, şirketler durumu kamuoyu ile paylaşmak zorunda kaldı.

Bu gelişme, yapay zekâların kendi başlarına hareket ederek dijital sistemlerde kritik güvenlik açıklarına neden olabileceğini gösterirken, yapay zeka güvenliği konusunda yeni önlemlerin alınmasının gerekliliğini de ortaya koyuyor.

Kaynak: Webtekno