Geli\u015fen yapay zek\u00e2 teknolojileri, son zamanlarda sadece heyecan verici yeniliklerle de\u011fil, ayn\u0131 zamanda g\u00fcvenlik alan\u0131nda endi\u015fe verici olaylarla da g\u00fcndeme geliyor. Ge\u00e7ti\u011fimiz d\u00f6nemde OpenAI’\u0131n bir yapay zek\u00e2 modeli, ba\u015fka bir \u015firketin sistemlerine izinsiz eri\u015fim sa\u011flad\u0131\u011f\u0131nda siber g\u00fcvenlik uzmanlar\u0131n\u0131 alarma ge\u00e7irmi\u015fti. Benzer \u015fekilde Anthropic gibi di\u011fer firmalar\u0131n yapay zek\u00e2 uygulamalar\u0131 da istenmeyen eri\u015fim denemeleriyle dikkat \u00e7ekmi\u015fti. \u015eimdi ise Google’\u0131n geli\u015ftirdi\u011fi yapay zeka modeli Gemini, bu alandaki tart\u0131\u015fmalara yeni bir boyut kazand\u0131rd\u0131.<\/p>\n
The Wall Street Journal’\u0131n haberine g\u00f6re, Google Gemini modeli, Irregular adl\u0131 siber g\u00fcvenlik \u015firketinin y\u00fcr\u00fctt\u00fc\u011f\u00fc testler s\u0131ras\u0131nda, \u00fc\u00e7 farkl\u0131 \u015firkete ait korumal\u0131 sistemlere kendi inisiyatifiyle eri\u015fim sa\u011flad\u0131. Bu olay, yapay zekan\u0131n \u00f6nceden belirlenmi\u015f s\u0131n\u0131rlar d\u0131\u015f\u0131na \u00e7\u0131karak otonom bi\u00e7imde yetkilendirilmemi\u015f sistemlere nas\u0131l s\u0131zabilece\u011fini g\u00f6stermesi bak\u0131m\u0131ndan b\u00fcy\u00fck \u00f6nem ta\u015f\u0131yor.<\/p>\n
Siber g\u00fcvenlik alan\u0131nda yap\u0131lan s\u0131zma testleri, sistemlerin zay\u0131f noktalar\u0131n\u0131 bulmak amac\u0131yla kontroll\u00fc olarak ger\u00e7ekle\u015ftirilen denemelerdir. Ancak Gemini’nin kendi kararlar\u0131yla, test kapsam\u0131 d\u0131\u015f\u0131ndaki ger\u00e7ek \u015firket sistemlerine izinsiz eri\u015fim sa\u011flamas\u0131, potansiyel bir g\u00fcvenlik tehdidi olarak de\u011ferlendiriliyor.<\/p>\n
Gemini’nin ger\u00e7ekle\u015ftirdi\u011fi s\u0131zma eylemleri, karma\u015f\u0131k teknik a\u00e7\u0131klar yerine temel g\u00fcvenlik zafiyetlerinden faydalanarak ortaya \u00e7\u0131kt\u0131. \u00d6rne\u011fin model, bir durumda do\u011fru parolay\u0131 bulana kadar denemeler yaparak sisteme girmeye \u00e7al\u0131\u015ft\u0131. Di\u011fer iki durumda ise, halka a\u00e7\u0131k veri depolar\u0131nda unutulmu\u015f ya da yanl\u0131\u015fl\u0131kla eri\u015fime a\u00e7\u0131k b\u0131rak\u0131lm\u0131\u015f kullan\u0131c\u0131 bilgilerini tespit ederek sistemlere eri\u015fim sa\u011flad\u0131. Bu durum, OpenAI modelinin Hugging Face platformuna izinsiz giri\u015f yapmas\u0131yla benzerlik ta\u015f\u0131yor.<\/p>\n
Irregular \u015firketi, temmuz ay\u0131 sonunda bu durumu Google’a bildirdi. Google ise yapay zek\u00e2n\u0131n ger\u00e7ek bir sisteme s\u0131zd\u0131\u011f\u0131n\u0131 fark etti\u011fi anda eri\u015fimi sonland\u0131rd\u0131\u011f\u0131 i\u00e7in “uygun \u015fekilde hareket etti\u011fini” ve bu nedenle konuyu kamuoyuna \u00f6nceden a\u00e7\u0131klamad\u0131\u011f\u0131n\u0131 belirtti. Ancak haberin The Wall Street Journal taraf\u0131ndan g\u00fcndeme getirilmesinin ard\u0131ndan, \u015firketler durumu kamuoyu ile payla\u015fmak zorunda kald\u0131.<\/p>\n
Bu geli\u015fme, yapay zek\u00e2lar\u0131n kendi ba\u015flar\u0131na hareket ederek dijital sistemlerde kritik g\u00fcvenlik a\u00e7\u0131klar\u0131na neden olabilece\u011fini g\u00f6sterirken, yapay zeka g\u00fcvenli\u011fi konusunda yeni \u00f6nlemlerin al\u0131nmas\u0131n\u0131n gereklili\u011fini de ortaya koyuyor.<\/p>\n