Signals · AI-security
Heeft u uw kunstmatige intelligentie zojuist global admin-rechten gegeven?
U zou een nieuwe medewerker op de eerste dag geen Global Administrator maken. AI-agents verdienen dezelfde terughoudendheid.
Door Gouresh Kamble, Amon Dîn · · 2 min lezen
Veel van de discussie over agentic AI draait om wat het kan. Er is minder aandacht voor de bevoegdheden die het krijgt.
Moderne AI-agents gaan steeds vaker aan de slag met e-mailplatforms, klantdatabases, financiële systemen en ontwikkelomgevingen. Toegang tot die systemen hoort niet anders te worden behandeld dan de toegang die u een medewerker geeft. Identiteit, rechten en verantwoording blijven de basis van security, ongeacht of de actor een mens of een machine is.
Identiteit
Elke AI-agent hoort een eigen identiteit te hebben. Gedeelde beheerdersaccounts waren al een slecht idee voordat AI er was, en nu zijn ze een nog groter risico. Individuele identiteiten maken rechten beheersbaar en acties herleidbaar.
Least privilege
Ga zuinig om met rechten. Een inbox mogen lezen betekent niet dat berichten ook verwijderd mogen worden. Klantgegevens inzien hoort niet het recht te omvatten om terugbetalingen te doen. Toegang moet passen bij de taak, en niet meer.
Toegang moet passen bij de taak, en niet meer.
Menselijke goedkeuring
Handelingen met grote impact verdienen extra controle. Financiële transacties, wijzigingen in productie en onomkeerbare acties horen onder menselijke goedkeuring te blijven, totdat organisaties volledig vertrouwen hebben in de maatregelen rond autonome systemen.
Zichtbaarheid
Zichtbaarheid is net zo belangrijk als toegang. Elke prompt, elke aanroep van een tool en elke actie die daaruit volgt, hoort te worden gelogd. Zo kunnen securityteams begrijpen wat er gebeurde, waarom het gebeurde en onder wiens bevoegdheid.
Doorlopende review
De uitrol is pas het begin. Rechten veranderen, inloggegevens verlopen en er ontstaan nieuwe aanvalstechnieken. Regelmatige reviews, het roteren van inloggegevens en testen op prompt injection zijn essentieel als AI-agents op termijn betrouwbaar moeten blijven.
De organisaties die succes hebben met agentic AI zijn niet per se degene die de grootste modellen of de nieuwste tools inzetten. Het zijn de organisaties die dezelfde discipline toepassen op AI-identiteiten als die ze al toepassen op menselijke identiteiten.
AI-agents worden onderdeel van het personeelsbestand. Amon Dîn helpt ervoor te zorgen dat ze net zo zorgvuldig worden beheerd als de mensen met wie ze samenwerken.