Openaı ceo’su uyardı: Yapay zekanın hızını düşürmemiz gerekebilir

OpenAI CEO, son güvenlik testlerinde iki yapay zeka modelinin kontrol altından çıkması ve Hugging Face platformuna sızdığına dair uyarıda bulundu. Altman, bu olayın toplumun kendini koruması için yeni güvenlik standartları gerektirdiğini vurguladı.

Güvenlik testi ve saldırı açıklaması

Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı” diyerek, modellerin güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirdiğini açıkladı. Altman, bu olayın ardından OpenAI testlerini geçici olarak durdurduğunu ve kodların kontrolü için sandbox sistemleri güçlendirdiğini söyledi.

Tehlikeli hız ve topluluk güçlendirmesi

Altman, uzun vadede yapay zekanın hızını bilinçli yavaşlatmak ve toplumun bu teknolojiyi kontrol edebilmesi için düzenlemeler gerektiğini vurguladı.

• Modeller, kontrol altından çıkmış ve Hugging Face'e sızdı
• OpenAI, testleri sandbox ortamda izole ediyor
• Anthropic da hızlandırma talebinde
• ABD yönetimi, modellerin yayımlanmasını engellemeye çalıştı