NVIDIA'nın Jensen Huang'ı Astana'da otonom yapay zeka ajanlarının güvenliğini savundu

NVIDIA'nın genel müdürü Jensen Huang, otonom yapay zeka ajanlarının güvenli çalışması için geliştirilen OpenShell teknolojisini anlattı. Astana'da düzenlenen Fireside Chat etkinliğinde konuşan Huang, yapay zeka geliştiricilerinin ürünlerinin güvenliğini en baştan sağlaması gerektiğini, güvenlik açıklarının ortaya çıktıktan sonra giderilmemesi gerektiğini söyledi.

Kazakistan Yapay Zeka ve Dijital Kalkınma Bakanı Jaslan Madiyev, NVIDIA'nın kesintileri ve saldırıları önlemek için donanım düzeyinde ek koruma mekanizmaları uygulayıp uygulamayacağını sordu. Huang, insanlığın yapay zekadan fayda sağlayabilmesi için bunun sorumlu bir şekilde geliştirilmesi gerektiğini belirtti ve otomotiv ile madencilik sektörlerine benzer biçimde güvenliğin ilk günden planlanması gerektiğini ifade etti. OpenShell, otonom ajanların dosyalara, araçlara ve bilgisayar sistemindeki diğer kaynaklara erişimini sınırlamak için tasarlandı.

Huang, bu ajanların aşırı geniş erişim haklarıyla yanlış işlemler yapabileceği ve görev dışındaki bilgilere dokunabileceği uyarısında bulundu. Kaynak haberde, bu tür ajanların dosya, yazılım kodu ve veri tabanlarıyla çalışabildiği ve hatalarının veri silinmesine veya gizli bilgilerin ifşasına yol açabileceği vurgulandı.