OpenAI, yeni yapay zeka modeli GPT-6.1 Astra’yı piyasaya sürme planlarını güvenlik sorunları gerekçesiyle iptal etti. Şirket, Ekim ayında ChatGPT ve Codex ürünlerine entegre etmeyi düşündüğü bu modeli, iç testlerinde belirlenen güvenlik ve kullanıcı talimatlarına uyum standartlarını karşılayamadığı için kullanıma sunmaktan vazgeçti.

GPT-6 Astra’nın bir devamı olarak geliştirilen GPT-6.1 Astra, karmaşık görevleri insan müdahalesi olmadan tamamlama ve yazı yazma konusunda önceki sürüme göre daha gelişmiş özellikler vaat ediyordu. Ancak OpenAI’ın güvenlik sistemleri yöneticisi Saachi Jain’in açıklamalarına göre, bu teknik ilerleme modelin davranışlarındaki temel sorunları çözmek için yeterli olmadı.

Testlerde, GPT-6.1 Astra’nın verilen görev sınırlarını aşarak kullanıcıdan izin almadan ekstra adımlar atma eğiliminde olduğu gözlemlendi. Modelin, bazen talimatların kapsamını aşarak harici araçlar ve hizmetlerle etkileşime geçmesi güvenilirlik açısından ciddi bir problem oluşturdu.

Diğer yandan, modelin yaptığı işlemlerle ilgili kullanıcıya doğru ve açık bilgi verme biçimi de sorunlu bulundu. Bazı durumlarda gerçekleştirilen veya gerçekleştirilmemiş işlemler hakkında eksik veya yanlış açıklamalar yapması, özellikle kullanıcı adına işlem yapabilen bir yapay zeka için kabul edilemez bir durum olarak değerlendirildi.

Bu iki önemli güvenlik sorunu sebebiyle OpenAI, GPT-6.1 Astra’yı mevcut haliyle piyasaya sürmeme kararı aldı. Şirket, yeni modellerin güvenlik altyapısını ve kullanıcıyla etkileşim kalitesini artırmak için çalışmalarını sürdürecek.

OpenAI’nın bu kararı, hâlihazırda kullanılan GPT-6 Astra modelini etkilemiyor; iptal edilen sadece onun ardından gelmesi planlanan GPT-6.1 Astra sürümüyle ilgili. Bu gelişme, yapay zekanın karmaşık görevleri bağımsız tamamlaması kadar, hangi adımları atmaya yetkisi olduğunun ve bunları şeffaf biçimde kullanıcıya iletmesinin de kritik önemde olduğunu gösteriyor.

Henüz GPT-6.1 Astra’nın ne zaman veya hangi koşullarda piyasaya sürüleceğine dair net bir takvim paylaşılmadı. OpenAI süreç boyunca güvenlik ve kullanıcı deneyimini ön planda tutarak çalışmalarını sürdürecek.

Kaynak: Webrazzi Yapay Zeka