Anthropic'ten Yapay Zeka Uyarısı: Kendini Geliştiren Sistemler Geliyor

Yapay zeka şirketi Anthropic, kurucu ortağı Jack Clark ve Enstitü lideri Marina Favaro tarafından kaleme alınan 'Yapay zeka kendini inşa ettiğinde' başlıklı bir blog yazısı yayımladı. Yazıda, yapay zeka geliştirme süreçlerinin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.

Yapay Zeka Kendi Kendini Geliştirebilir mi?

Bu eğilimin devam etmesi halinde, yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği vurgulandı. Bu duruma 'özyinelemeli kendini geliştirme' adı veriliyor. Anthropic, henüz bu noktada olunmadığını ancak beklenenden daha erken gerçekleşebileceği uyarısında bulundu.

Kontrol Kaybı Riski ve Çözüm Önerileri

Teknik eğilimler, yapay zeka sistemlerinin gelecekte çok daha kabiliyetli hale geleceğini gösteriyor. Kendi kendini inşa edebilen yapay zeka, bilim ve sağlık gibi alanlarda büyük faydalar sağlayabilirken, aynı zamanda insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilir. Yazıda, 'Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir.' değerlendirmesi yapıldı.

• Toplumsal yapıların teknolojik ilerlemeye uyum sağlaması için ileri düzey yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneği değerlendirilmeli.
• Birden fazla güçlü laboratuvarın, farklı ülkelerde aynı koşullar altında bu adımı atması anlamlı olacaktır.