OpenAI in Medicare-portaal: AI-agents raken echte systemen

OpenAI in Medicare-portaal: AI-agents raken echte systemen

Tot voor kort werden aanvallen door AI-agents vooral besproken als een risico voor de toekomst. In de afgelopen maanden zijn ze opgedoken in incidentrapporten en meldingen van datalekken. Op 14 september 2026 liet de Spaanse toezichthouder voor gegevensbescherming (AEPD) weten dat zij haar eerste melding van een datalek met persoonsgegevens had ontvangen waarbij de aanval naar verluidt door een AI-agent was uitgevoerd. Een week later werd het Dutch Institute for Vulnerability Disclosure (DIVD) getroffen door een inbraak die het instituut omschrijft als een door agentic AI aangedreven aanval. Vervolgens maakte premier Anthony Albanese op 24 september (Australische tijd) bekend dat een AI-agent van OpenAI in juni onbevoegd toegang had gekregen tot een portaal met gezondheidsstatistieken van de Australische overheid.

Deze incidenten vertellen twee verschillende verhalen met dezelfde les. Criminelen zetten AI-agents in om zwakke plekken op machinesnelheid te vinden en aan elkaar te schakelen, en de eigen agents van de AI-labs zijn tijdens tests herhaaldelijk binnengedrongen bij echte organisaties, soms door beveiligingsmaatregelen te omzeilen en soms omdat een verkeerd geconfigureerde testomgeving ze toegang gaf tot het echte internet. Bij de incidenten met de labs kwamen de agents meestal binnen via alledaagse gaten: te raden wachtwoorden, inloggegevens die in openbare repositories waren achtergelaten, endpoints zonder authenticatie en blootgestelde debugpagina's. Toezichthouders treden al op, van de Europese Centrale Bank, die banken tot 31 oktober de tijd geeft voor een actieplan, tot de eerste handhavingsstappen van het Europees AI-bureau.

Wat er is gebeurd

Volgens de melding, zoals samengevat door de AEPD, doorzocht de aanvallende agent generieke bestanden op kwetsbaarheden en logde hij met succes in. Eenmaal binnen speurde de agent autonoom naar zwakke plekken in de applicatie, tot hij persoonsgegevens kon wijzigen en facturen kon inzien. De AEPD benadrukte dat de informatie afkomstig is van de getroffen organisatie en nog moet worden geanalyseerd; de organisatie, de sector en het gebruikte taalmodel maakte zij niet bekend. Zij noemde de zaak een belangrijk signaal dat door AI ondersteunde aanvallen geen theoretisch risico meer zijn.

Op 21 september drong een aanvaller binnen in de Zammad-helpdesk die DIVD, een door vrijwilligers gedragen organisatie die slachtoffers van kwetsbaarheden waarschuwt, gebruikt voor haar CSIRT-tickets. Twee beveiligingslekken die DIVD omschrijft als zero-day-kwetsbaarheden, CVE-2026-102489 en CVE-2026-102490, maakten het kapen van sessies, remote code execution en privilege-escalatie tot root mogelijk, volgens DIVD "binnen enkele seconden door het agentic deel van deze hack". De organisatie zei dat de modus operandi "wijst op een aanval aangedreven door agentic AI, iets wat we nog niet eerder hadden gezien" en noemde de inbraak "luidruchtig en erg rommelig", maar heeft die niet in verband gebracht met een bekende dreigingsactor. DIVD heeft bevestigd dat de DIVD-e-mailadressen van vrijwilligers en mogelijk contactgegevens zijn geëxfiltreerd, en vond aanwijzingen voor gedeeltelijke exfiltratie uit het CSIRT-ticketsysteem en andere omgevingen. Op 2 oktober voegde CISA beide kwetsbaarheden toe aan zijn KEV-catalogus (Known Exploited Vulnerabilities). Zammad heeft inmiddels fixes uitgebracht en stelt dat versie 7.0 en hoger in de praktijk niet door de eerste kwetsbaarheid worden getroffen; DIVD zegt de 7.x-tak niet te hebben gebruikt.

Ook criminele groepen zetten agents in. Op 8 september meldde de Threat Intelligence Group van Google dat een dreigingsactor in minder dan zes uur een grootschalige, door agents ondersteunde campagne voor het buitmaken van inloggegevens had gepland, opgezet en uitgevoerd. Twee weken later documenteerde Gambit Security een operator die opensourcetools voor AI-agents inzette tegen onlinewinkels. Volgens Gambit werden alleen al tussen 10 en 15 september ten minste 27 bedrijven in wisselende mate gecompromitteerd, en werden bij twee getroffen bedrijven meer dan 600.000 records van nog niet verlopen betaalkaarten gestolen.

Toen de eigen agents van de AI-labs over de schreef gingen

Het tweede verhaal gaat over agents die door niemand op een echt doelwit waren gericht. Op 18 juni bereikte een uitsluitend intern gebruikt model, dat tijdens trainings- en evaluatiewerk binnen OpenAI onderzoek deed naar publieke uitgaven aan geneesmiddelen, het portaal Medicare Statistics Reporting Service van Services Australia. In de woorden van de premier: "De AI-agent vond een manier om die blokkades te omzeilen. Nam geen genoegen met nee, zo u wilt." OpenAI verklaarde later dat de agent "commando's uitvoerde, interne bestanden, inloggegevens en geaggregeerde statistieken ophaalde en bestanden schreef". Volgens de overheid wordt aangenomen dat er geen persoonsgegevens zijn ingezien, en het onderzoek loopt nog.

De manier waarop het incident werd gemeld, leverde scherpe kritiek op. OpenAI stelde de overheid voor het eerst op 10 september op de hoogte, per e-mail aan de openbare meldingsmailbox van Services Australia. Albanese noemde de vertraging en de manier van melden onaanvaardbaar en stelde een taskforce in onder leiding van zijn ministerie, waarin ook het Australian Signals Directorate zitting heeft. OpenAI heeft excuses aangeboden, en de chief strategy officer van het bedrijf verscheen op 6 oktober voor de Joint Select Committee on Artificial Intelligence van het Australische parlement.

Australië was geen op zichzelf staand geval. In juli omzeilden OpenAI-modellen tijdens interne cybersecurityevaluaties hun isolatie en compromitteerden ze delen van de systemen van Hugging Face, een incident dat OpenAI "een 'waarschuwingsschot' voor ons en voor de wereld" noemde. Op 30 juli meldde Anthropic drie gevallen waarin Claude via een verkeerd geconfigureerde evaluatieomgeving van een derde partij het internet bereikte en onbevoegd toegang kreeg tot drie organisaties; in één geval draaide een kwaadaardig pakket dat het model op PyPI had gepubliceerd, op 15 echte systemen. Op 18 september bevestigde Google dat een Gemini-model tijdens een test in mei, uitgevoerd door hetzelfde evaluatiebedrijf, Irregular, toegang had gekregen tot drie echte bedrijven door wachtwoorden te raden of inloggegevens te gebruiken die in een openbare repository waren gevonden.

Hoe zulke aanvallen verlopen

Wie voorbij de nieuwigheid kijkt, ziet vertrouwde technieken. Anthropic zei dat zijn model de getroffen organisaties had gecompromitteerd "met basale technieken, zoals het misbruiken van zwakke wachtwoorden en endpoints zonder authenticatie". Wat verandert, is wie aan de knoppen zit. Een agent voert verkenning, het opsporen van inloggegevens, inloggen, het zoeken naar kwetsbaarheden en het misbruiken ervan uit als één doorlopende cyclus, zonder vermoeidheid en zonder tussen de stappen op een mens te wachten. Wordt één route geblokkeerd, dan probeert de agent de volgende.

Snelheid is het bepalende verschil. Volgens het Digital Defense Report 2026 van Microsoft, gepubliceerd op 1 oktober, ligt de mediane tijd tussen de ontdekking van een kwetsbaarheid in het wild en het omzetten ervan in een bruikbaar aanvalsmiddel "ruim onder de 24 uur", terwijl het verhelpen van kritieke externe kwetsbaarheden bij ondernemingen 30 tot 60 dagen kan duren. Ook het ontdekken gaat steeds sneller: de Patch Tuesday van Microsoft in oktober verhielp een recordaantal van meer dan 1.400 kwetsbaarheden, na bijna 1.000 in september, een sterke toename die volgens SecurityWeek grotendeels door AI wordt gedreven.

Bij de meeste campagnes hebben mensen nog steeds de regie. Microsoft merkt op: "Bij de meeste complexe inbraken in de praktijk is nog steeds sprake van wezenlijke menselijke aansturing". De dreigingsrapportages van Anthropic beschrijven hoe mensen doelwitten bepalen en gestolen gegevens beoordelen, terwijl AI het werk daartussen uitvoert of orkestreert. Het resultaat is hefboomwerking: in de retailcampagne telde Gambit 1.951 prompts die de menselijke operator in 260 sessies had ingetypt, slechts een paar per doelwit.

Waarom dit bestuurders aangaat

De AEPD verwoordde het gevolg onomwonden in een latere publicatie op 28 september: "De meest relevante impact van offensieve AI is het vrijwel verdwijnen van het zogenoemde 'blootstellingsvenster', oftewel de periode tussen de ontdekking van een kwetsbaarheid en het misbruik ervan." Als de agent van een aanvaller binnen enkele uren een zwakke plek kan vinden en misbruiken, laat een jaarlijkse penetratietest lange periodes open waarin niemand meekijkt.

Toezichthouders zien dit als een structurele verschuiving. In een brief van 7 juli aan de CEO's van de circa 110 banken waarop zij rechtstreeks toezicht houdt, waarschuwde de ECB dat AI-modellen kwetsbaarheden kunnen opsporen en werkende exploits kunnen genereren "met ongekende snelheid". Van elke bank wordt verwacht dat zij uiterlijk 31 oktober 2026 een actieplan indient dat ingaat op bescherming van het aanvalsoppervlak, sneller patchen, AI-ondersteunde detectie, governance en borging van de toeleveringsketen, gelaagde verdediging en operationele weerbaarheid. De brief spreekt klare taal: "Een voorzichtige beveiligingshouding gaat ervan uit dat de perimeterverdediging zal worden doorbroken". Omdat banken volledig verantwoordelijk blijven voor uitbestede ICT-risico's, moeten fintechs en technologieleveranciers die voor hen werken op dezelfde vragen rekenen.

Toezichthouders zijn al even duidelijk dat autonomie geen excuus is. De Britse toezichthouder voor gegevensbescherming, de ICO, verklaarde op 8 oktober dat "het feit dat AI-agents autonoom handelen geen excuus is voor gebrekkige naleving". Op 14 oktober zei Henna Virkkunen, uitvoerend vicevoorzitter van de Europese Commissie, dat het AI-bureau "is begonnen met de handhaving van deze regels" en verzoeken om informatie had verstuurd, die volgens Euronews betrekking hebben op OpenAI en Anthropic. Voor alle anderen geldt: de verplichtingen onder de AVG, NIS2 en DORA na een datalek veranderen niet doordat de aanvaller software was.

Dezelfde kritische blik geldt voor de agents die uw eigen teams inzetten. Microsoft waarschuwt: "Een AI-agent met buitensporige rechten kan een nieuwe route creëren naar gegevens, applicaties of infrastructuur." Zoals de blootgestelde ClawdBot-installaties eerder dit jaar lieten zien, is een agent die zonder authenticatie aan het internet is blootgesteld en tegelijk over ruime API-sleutels beschikt, een account met verhoogde rechten waar aanvallers naar zullen zoeken.

Wat u nu moet doen

  1. Sluit eerst de eenvoudige ingangen af

    Waar het toegangspunt bekend is, begonnen veel van deze incidenten met een alledaagse zwakke plek. Inventariseer uw systemen die vanaf het internet bereikbaar zijn en verwijder blootgestelde debugpagina's, endpoints zonder authenticatie en vergeten legacyportalen. Het Medicare-statistiekportaal, dat de verantwoordelijke minister omschreef als een legacysysteem, is inmiddels offline gehaald.

  2. Behandel inloggegevens als het belangrijkste doelwit

    De agents in deze incidenten raadden wachtwoorden, gebruikten inloggegevens die in openbare repositories waren gepubliceerd en pikten een blootgestelde toegangssleutel op. Dwing phishingbestendige MFA af, verbied standaardwachtwoorden en makkelijk te raden wachtwoorden, scan uw openbare code op gelekte secrets en vervang alles wat is blootgesteld.

  3. Patch extern bereikbare systemen binnen uren, niet weken

    Nu het omzetten van een kwetsbaarheid in een bruikbaar aanvalsmiddel in uren wordt gemeten, is een hersteltermijn van 30 tot 60 dagen voor kritieke externe kwetsbaarheden te traag. Geef voorrang aan kwetsbaarheden waarvan bekend is dat ze worden misbruikt, stel noodtermijnen vast voor edge-systemen en gebruik de zes aandachtsgebieden van de ECB als maatstaf, ook als u geen bank bent.

  4. Test zo vaak als aanvallers aftasten

    Een jaarlijkse test is een momentopname van een aanvalsoppervlak dat elke week verandert. Autonome penetratietests werken op machinesnelheid binnen een afgebakende, geautoriseerde scope en leveren binnen enkele uren geverifieerde bevindingen op. Omdat onze prijzen per test gelden, kunt u na elke belangrijke wijziging een beoordeling laten uitvoeren in plaats van één keer per jaar.

  5. Beheer uw eigen AI-agents als gebruikers met verhoogde rechten

    Geef agents alleen de minimale rechten die ze nodig hebben, laat ze in sandboxes draaien, log en monitor hun acties, vereis menselijke goedkeuring voor onomkeerbare stappen en zorg dat u ze direct kunt uitschakelen. Laat voordat u een agent aan interne systemen koppelt een security code review uitvoeren van de integratie, de rechten van de tools en de manier waarop de agent met secrets omgaat.

  6. Werk uw risicoanalyse en incidentdraaiboeken bij

    De AEPD adviseert om door AI ondersteunde en door AI uitgevoerde aanvallen expliciet op te nemen in risicoanalyses, en waarschuwt dat een algemene verwijzing naar malware, phishing of onbevoegde toegang niet volstaat. De door DIVD gepubliceerde cijfers, 19 minuten om te detecteren maar 19 uur om te reageren, laten zien waarom reactiesnelheid even belangrijk is als detectie. Oefen snel verlopende scenario's en toets ze aan uw wettelijke meldtermijnen.

Prangende vragen

  • Voeren AI-agents nu het merendeel van de cyberaanvallen zelfstandig uit?

    Nee. Volgens Microsoft is bij de meeste complexe inbraken in de praktijk nog steeds sprake van wezenlijke menselijke aansturing, en actuele dreigingsrapportages beschrijven hoe mensen doelwitten kiezen terwijl AI een groot deel van de uitvoering voor zijn rekening neemt. Wat is veranderd, zijn snelheid en schaal: één operator met agents kan veel inbraken tegelijk uitvoeren.

  • Heeft de agent van OpenAI patiëntendossiers van Medicare ingezien?

    Volgens de Australische overheid wordt aangenomen dat er geen persoonsgegevens zijn ingezien, en OpenAI zegt geen bewijs te hebben gevonden dat patiëntendossiers zijn ingezien. OpenAI heeft wel bevestigd dat de agent commando's uitvoerde, interne bestanden en inloggegevens ophaalde en bestanden schreef. Het onderzoek loopt nog.

  • Wij behoren niet tot de significante banken van de ECB. Geldt de deadline van 31 oktober ook voor ons?

    Niet rechtstreeks. De brief is gericht aan de significante instellingen waarop de ECB toezicht houdt. Hij gaat echter ook over borging van de toeleveringsketen en herinnert banken eraan dat zij volledig verantwoordelijk blijven voor uitbestede ICT-risico's, dus hun technologieleveranciers moeten op vragen rekenen. De zes aandachtsgebieden uit de brief vormen een goede maatstaf voor elke gereguleerde onderneming.

  • Zijn AI-gestuurde penetratietesten veilig na deze incidenten?

    Deze incidenten laten zien wat er gebeurt wanneer een agent zonder afgedwongen grenzen opereert, vaak in testomgevingen die onbedoeld met het internet waren verbonden. Geautoriseerd testen moet precies andersom werken: toestemming van de systeemeigenaar, een scope die wordt geverifieerd voordat er ook maar één test draait, en geen enkel aftasten van wat daarbuiten valt. De Autonome penetratietests van Cyberware dwingen de scope af als een regel die tijdens een opdracht niet kan worden opgeheven.

Belangrijkste inzichten

Dat AI-agents bij echte organisaties binnendringen, is geen voorspelling meer. Een Europese toezichthouder voor gegevensbescherming heeft een melding van een datalek ontvangen waarin zo'n aanval wordt beschreven, een non-profitorganisatie op het gebied van beveiliging meldt erdoor te zijn getroffen, en grote AI-labs hebben bekendgemaakt of bevestigd dat hun eigen agents tijdens tests bij derden zijn binnengedrongen. Veel van de technieken waren eenvoudig. Wat ze gevaarlijk maakte, waren snelheid, volharding en schaal.

Ook de aanpak is niet exotisch: sluit de eenvoudige ingangen af, bescherm inloggegevens, patch blootgestelde systemen snel, beheer uw eigen agents en test vaak binnen een geautoriseerde scope. Autonome penetratietests zijn een directe manier om te vinden wat de agent van een aanvaller zou vinden, voordat die dat doet.