NVIDIA rahbari Jensen Huang Astanada avtonom sunʼiy intellekt agentlari xavfsizligi haqida gapirdi

NVIDIA bosh direktori Jensen Huang avtonom sunʼiy intellekt agentlarining xavfsiz ishlashi uchun moʻljallangan OpenShell texnologiyasi haqida maʼlum qildi. Astanada oʻtkazilgan Fireside Chat tadbirida soʻzga chiqqan Huang, sunʼiy intellekt ishlab chiquvchilari mahsulotlarining xavfsizligini eng boshidan taʼminlashi kerakligini, zaifliklarni esa paydo boʻlgandan keyin bartaraf etmaslik lozimligini aytdi.

Qozogʻiston sunʼiy intellekt va raqamli rivojlanish vaziri Jaslan Madiyev NVIDIA uzilishlar va hujumlarning oldini olish uchun apparat darajasida qoʻshimcha himoya mexanizmlarini joriy etish-etmasligini soʻradi. Huang insoniyat sunʼiy intellekt imkoniyatlaridan foyda olishi uchun uni masʼuliyat bilan rivojlantirish va joriy etish zarurligini taʼkidladi. U avtomobilsozlik va kon sanoatida boʻlgani kabi, xavfsizlik birinchi kundan boshlab rejalashtirilishi kerakligini bildirdi.

OpenShell avtonom agentlarning fayllar, vositalar va kompyuter tizimidagi boshqa resurslarga kirishini cheklash uchun moʻljallangan. Huang bu agentlarning haddan tashqari keng kirish huquqlari bilan notoʻgʻri harakat qilishi va vazifaga aloqasi boʻlmagan maʼlumotlarga tegishi mumkinligi haqida ogohlantirdi. Manba maqolada bunday agentlarning xatolari maʼlumotlarning oʻchib ketishiga yoki maxfiy maʼlumotlarning oshkor boʻlishiga olib kelishi mumkinligi taʼkidlangan.