Zo werkt een AI-agent die hackt of helpt

Wat is een AI-agent precies?

Een chatbot beantwoordt je vraag en wacht dan op je volgende prompt. Een AI-agent doet meer. Je geeft hem een doel, en hij bedenkt zelf de stappen die nodig zijn.

Dat kan omdat een agent een AI-model gebruikt als brein en daarbij hulpmiddelen krijgt. Hij kan bijvoorbeeld zoeken, bestanden openen of programma's starten. Daardoor kan hij na elke stap kijken wat er gebeurde en bepalen wat hij daarna doet.

Denk aan een agent die je agenda doorzoekt, een afspraak plant en de uitnodiging verstuurt. Jij zegt alleen wat je wilt. De tussenstappen regelt de agent.

Waarom kan een AI-agent ook hacken?

Een agent weet niet of een doel goed of slecht is. Hij zet stappen om het te halen, met de rechten die hij heeft. Daardoor kan dezelfde techniek een afspraak plannen of een website proberen binnen te dringen.

Het nieuws over Cairn laat dat zien. Cairn is een open-sourceplatform, dus de programmacode is voor iedereen in te zien. Volgens beveiligingsbedrijf Norforge schreef een hacker in minder dan 100 Chinese tekens op hoe hij wilde inbreken, en deden de agents de rest grotendeels zelf.

Cairns maker zegt dat misbruik "a human decision" is en geen eigenschap van het platform. Dat is zijn standpunt. Het punt blijft dat een agent goed werkt, ook voor wie kwaad wil.

Hoe houd je een AI-agent veilig onder controle?

Geef een agent alleen de rechten die hij nodig heeft. Een agent die je mail samenvat, hoeft niets te kunnen verwijderen of versturen. Beperkte rechten beperken ook de schade als er iets misgaat.

Kijk ook mee. Veel agents schrijven onderweg op wat ze doen. Lees dat overzicht, zeker bij taken die je niet zelf controleert, en laat belangrijke stappen eerst door een mens goedkeuren.

Heb je een website of beheer je die voor je werk? Laat dan ook losse en vergeten sites nakijken. Dat is een nuchtere eerste stap, want aanvallers zoeken juist de zwakste plek.