Yapay zeka teknolojileri hızla gelişirken, bu güçlü araçların yanlış ellerde yaratabileceği riskler de artıyor. Geçmişte ağırlıklı olarak bilgi erişimi veya kod yazımı için kullanılan yapay zeka sistemleri, günümüzde biyolojik araştırmalardan siber saldırılara çok daha karmaşık alanlarda kullanılabiliyor. Anthropic tarafından yayımlanan yeni bir rapor, yapay zekanın bu kötüye kullanım biçimlerini gözler önüne seriyor.

Raporda en çarpıcı örneklerden biri, Anthropic’in Claude adlı yapay zeka modelinin biyolojik silah üretme amacıyla kötüye kullanılmaya çalışılmasıdır. Kötü niyetli aktörlerin, askeri bir araştırma enstitüsü adına hazırlanmış gibi görünen bir fon başvurusu kapsamında Claude’u kullanarak, virüslerin bulaşıcılığını ve ölümcüllüğünü artıracak projeler geliştirmeye çalıştıkları ortaya çıktı. Özellikle Chikungunya virüsü ve H5N1 kuş gribi virüsleri üzerinde yoğunlaşan bu girişimlerde, virüslerin bağışıklık sisteminden kaçmasına, daha kolay yayılmasına ve farklı canlılara uyum sağlamasına yönelik araştırmalar planlanmış ve yapay zekanın gücüyle çalışmalar gerçek bir bilimsel araştırma gibi düzenlenmiş.

Yapay zekanın kötüye kullanımı sadece biyolojik alanda sınırlı kalmıyor. Raporda, Siber saldırılar, kitlesel gözetleme faaliyetleri ve rakip yapay zeka modellerinin yeteneklerinin kopyalanması gibi diğer kötüye kullanım şekilleri de detaylandırılıyor. Örneğin Rusya bağlantılı Midnight Blizzard ve ShinyHunters grupları, yapay zekayı siber saldırının çeşitli aşamalarında kullanıyor. ShinyHunters’ın “vibe hacking” tekniğinde ise saldırganlar hedef belirleme ve teknik işlemlerin büyük bir bölümünü yapay zekaya bırakıyor. Bu durum siber saldırıların hızını ve karmaşıklığını artırıyor.

Bunun yanında, Mali’deki Lakana 360 projesinde Claude kullanılarak yaklaşık 25 milyon SIM kartın takibi yapılabilecek bir kitlesel gözetleme sistemi geliştirilmiş. Aynı şekilde Çin’deki bazı operasyonlarda, muhaliflerin dijital faaliyetlerini izlemek ve kişisel profillerini çıkarmak için de yapay zekadan yararlanılmış.

Anthropic’in raporu, yapay zekanın gelişen kapasitesinin yan etkilerine dikkat çekiyor. Bu teknoloji ne kadar gelişirse gelişsin, kötü niyetli kullanımların tespiti ve önlenmesi için sürekli gözetim ve etik kuralların güncellenmesi zorunlu hale geliyor.

Özetle, Claude gibi yapay zeka modelleri sadece fayda sağlamakla kalmıyor; aynı zamanda potansiyel tehditler ve riskler barındırıyor. Bu sebeple, yapay zeka alanındaki ilerlemelerin hem güçlü hem de güvenli olması için altyapı ve denetim mekanizmalarının geliştirilmesi büyük önem taşıyor.

Kaynak: Webtekno