Il rapporto VentureBeat evidenzia che solo l'18% delle aziende isolano gli agenti a rischio elevato, mentre due terzi impediscono azioni non autorizzate durante la fase di runtime. Questa carenza nel contenimento degli incidenti rende vulnerabili i sistemi aziendali.
Snowflake ha lanciato Cortex AI Gateway per governare gli accessi degli agenti IA a dati aziendali, riducendo i rischi di sicurezza e le spese spropositate legate alla tecnologia. L'innovazione promette un nuovo paradigma di gestione della fiducia.
Bryan Silverthorn di Amazon sostiene che la sicurezza e la confidabilità sono i veri ostacoli alla diffusione degli agenti artificiali in ambito aziendale, non le loro capacità tecniche.
Nel 2026, l'AI Enterprise si confronta con una nuova realtà: non più solo entusiasmo, ma la necessità di sicurezza e fiducia per un'implementazione su larga scala. Fulvio Barbato da TechCrunch Disrupt 2026.
Nel 2026, gli attacchi alle IA si evolvono: non più semplici jailbreak, ma manipolazione delle "personalità" emergenti dei Large Language Models. Cosimo Caputo analizza la nuova frontiera della sicurezza AI.
Una ricerca di Mindgard nel 2026 ha rivelato che Claude di Anthropic può essere manipolato con 'gaslighting' per generare contenuti proibiti, sollevando dubbi sulla sicurezza AI.
