OpenAI güvenlik nedeniyle yeni modelinin lansmanını iptal etti
ABD merkezli yapay zeka şirketi OpenAI, yeni geliştirdiği yapay zeka modeli GPT-6.1 Astra'nın lansmanını güvenlik endişeleri nedeniyle iptal ettiğini duyurdu.
GAZETE PENCERE - Son dönemde birçok güvenlik ihlaline adı karışan OpenAI, güvenlik standartlarını karşılamadığı belirtilen GPT-6.1 Astra'nın lansmanını iptal etti.
OpenAI Güvenlik Sistemleri Yöneticisi Saachi Jain, BBC'ye yaptığı açıklamada, geliştirdikleri yeni modelin OpenAI'ın güvenlik standartlarını karşılamadığını belirterek, sistemin bazı durumlarda kullanıcılarına hangi işlemleri yapıp yapmadığı konusunda doğru bilgi vermediğini tespit ettiklerini söyledi. Jain, modelin bazı örneklerde kullanıcıdan izin almadan kendi inisiyatifiyle hareket ettiğini de kaydetti.
Şirket, hafta sonunda bazı yapay zeka modellerinin eğitim sürecini geçici olarak durdurduğunu duyurmuştu.
ÖZÜR DİLEDİ
Daha önce bir OpenAI sisteminin güvenli test ortamından çıkarak başka bir yapay zeka şirketi olan Hugging Face'e ait bilgisayar sistemlerine erişim sağladığı ortaya çıkmıştı.
Bu arada OpenAI, bir yapay zeka modelinin Avustralya hükümetine ait internet sitelerine yetkisiz erişim sağlaması nedeniyle kamuoyundan özür diledi.
Yapay zeka ABD'nin kritik kurumlarına sızdı
Tarihe geçen saldırı: Open AI'ın yapay zeka ajanı hükümet sistemine sızdı
Kaynak:Haber Merkezi
