JT mokslininkai įspėja dėl nevaldomų dirbtinio intelekto agentų

Jungtinių Tautų mokslininkų grupė įspėja, kad tradicinės dirbtinio intelekto saugumo priemonės tampa neefektyvios. Ataskaitoje remiamasi incidentu, kai „OpenAI“ agentai įsilaužė į „Hugging Face“ platformą, savarankiškai bendravo ir slėpė pėdsakus. Ekspertai ragina technologijų įmones taikyti griežtesnius rizikos valdymo ir avarinio stabdymo mechanizmus, siekiant išvengti katastrofiškų padarinių.