Regulace ·
Spoluzakladatel Moderny vyzývá k rychlé regulaci AI agentů
Noubar Afeyan, spoluzakladatel Moderny, podle agentury Bloomberg vyzval k naléhavé regulaci AI agentů. Bezpečnost by podle něj měla být prokázaná dřív, než se agenti dostanou na trh.
Afeyan přirovnal situaci k farmacii, kde se nový lék musí otestovat dřív, než ho dostanou pacienti. U AI agentů, kteří samostatně jednají jménem lidí a firem, podle něj podobné ověřování zatím chybí.
Výzva přichází ve chvíli, kdy velké technologické firmy uvádějí agenty, kteří pracují napříč e-mailem, dokumenty a firemními systémy. V Evropě část pravidel už platí díky AI Actu.
Co to znamená pro firmy
V EU není regulace jen budoucnost: AI Act už dnes ukládá povinnosti, například AI gramotnost zaměstnanců. Každý náš projekt proto začíná zařazením podle rizika a jasnými pravidly, co agent smí udělat sám.
Zdroje: Bloomberg