Aflevering S08e38 - Waarom Wantrouwen De Sleutel Is Tot Vertrouwen In Ai-Agents

Waarom wantrouwen de basis is van AI-vertrouwen blijkt uit een beveiligingslek bij McKinsey. Een AI-agent kreeg binnen twee uur toegang tot 46,5 miljoen chatberichten en kon systeemprompts herschrijven die alle AI-adviezen zouden vergiftigen. Het probleem: McKinsey bouwde relationeel vertrouwen zonder technische basis - 22 van 200 API-eindpunten hadden geen authenticatie. Joop laat zien hoe wantrouwen en vertrouwen verschillende lagen zijn die samen AI-veiligheid creëren. Van infrastructuur met zero trust tot transparantie over wat agents doen tot relationeel vertrouwen dat groeit door ervaring. Morgen kun je een infrastructuur-audit doen van je AI-systemen: check authenticatie op alle eindpunten, logging van agentacties en automatische sessieverlopen in 15 minuten. Onderwerpen - McKinsey beveiligingslek door SQL-injectie in AI-platform - Onderscheid tussen technisch en relationeel vertrouwen bij AI - Drielagenmodel voor AI-beveiliging: infrastructuur, transparantie en samenwerking - Zero trust architectuur als basis voor veilige AI-implementatie Links - Website: An AI Agent Hacked McKinsey's AI Platform in Two Hours — Accessed 46 Million Messages - State of Surveillance - Website: AI agent hacked McKinsey chatbot for read-write access • The Register - Boek: Doeltreffend met AI-agents - Joop Snijder Genoemde entiteiten: McKinsey - CodeWall - Lilli Stuur ons een bericht Aigency Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen. Info Support Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI). Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you. Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!