OpenAI’dan siber güvenlik alarmı: ChatGPT güncellemesi askıya alındı
OpenAI, ChatGPT için geliştirdiği yeni yapay zeka modeli “Astra” üzerindeki çalışmaların bir bölümünü güvenlik endişeleri nedeniyle askıya aldı. Şirket, modelin mevcut haliyle kritik risk seviyesine ulaşmış olabileceğini belirterek test süreçlerini sıkılaştırdı.
GÜVENLİK TESTLERİ KARARI DEĞİŞTİRDİ
OpenAI tarafından geliştirilen “Astra” isimli yeni yapay zeka modelinin otonom kodlama ve siber güvenlik alanlarında önemli ilerleme kaydettiği açıklandı. Ancak şirketin gerçekleştirdiği testlerde modelin mevcut haliyle ciddi güvenlik riskleri oluşturabileceği değerlendirilince geliştirme sürecinin bir bölümü durduruldu. Şirket, modelin kamuoyuna sunulabilmesi için ek güvenlik önlemlerinin uygulanacağını ve değerlendirmelerin daha kontrollü ortamlarda sürdürüleceğini bildirdi.
KRİTİK RİSK EŞİĞİNE DİKKAT ÇEKİLDİ
OpenAI, 2023 yılında oluşturduğu “Hazırlık Çerçevesi” kapsamında Astra’nın “kritik risk” seviyesine ulaşmış olabileceğini açıkladı. Şirket, modelin riskli davranışlara karşı daha yakından izleneceğini, kamu kurumları ve siber güvenlik kuruluşlarıyla ortak testler yürütüleceğini belirterek gelişmiş yapay zeka sistemlerinin güvenli ve sorumlu şekilde kullanıma sunulması için çalışmaların devam edeceğini vurguladı.