AI Nieuws Vandaag
Lek in ChatGPT liet aanvallers privégesprekken lezen via deellink
Wie ingelogd een bewerkte ChatGPT-deellink opende, liep risico dat een aanvaller zijn privégesprekken las. OpenAI dichtte het lek op 26 oktober en betaalde de onderzoekers 5.000 dollar. De onderzoekers testten alleen tussen eigen accounts en melden geen misbruik in de praktijk.
Waarom het ertoe doet: Je hoeft zelf niets te doen, want de reparatie staat bij OpenAI.
ChatGPT laat je gesprekken delen via een openbare link en toont code in een afgeschermd venster, de sandbox, zodat die code niet bij je account kan. Onderzoekers van beveiligingsbedrijf Parameter vonden een route om dat venster te omzeilen.
Hoe werkte het lek in de ChatGPT-deellink?
De aanval begon met een gewoon gedeeld gesprek. Daarin zat een interactieve grafiek, en die laadde een rekenbibliotheek in de hoofdpagina van ChatGPT. Die bibliotheek heet MathLive en luistert naar berichten over haar schermtoetsenbord.
ChatGPT kan code uit een gesprek tonen als kleine webpagina, in een afgeschermd voorbeeldvenster. Dat venster kon de hoofdpagina niet lezen. Maar het kon wel een bericht sturen, en MathLive controleerde niet van wie dat bericht kwam.
Zo kreeg een aanvaller eigen opmaakcode in de echte ChatGPT-pagina. Daarna leverde een script van YouTube de code die ging draaien. Volgens thehackernews.com liet de beveiligingsregel van ChatGPT scripts van YouTube toe, en daarom werkte die stap.
Wat kon een aanvaller met de deellink doen?
De code draaide in de ingelogde sessie van het slachtoffer, met dezelfde rechten als de echte site. De onderzoekers haalden zo een lijst met gesprekken op. Daarna openden ze een privégesprek dat nooit was gedeeld en stuurden ze een stuk ervan naar een eigen server.
Parameter schrijft op de eigen site: "In feite konden we elke handeling uitvoeren namens het ChatGPT-account van het slachtoffer." Het slachtoffer hoefde niets te installeren. Volgens thehackernews.com klikte hij in de meest betrouwbare versie één keer op de knop Preview, en in een latere versie was openen genoeg.
Het lek kreeg de hoogste ernst, P1. Bloggers vinden de beloning laag: Simon Willison, bekend schrijver over AI en beveiliging, noemt 5.000 dollar "a bit cheap" voor zo'n ernstig lek. Hij schrijft dat dit zijn eigen oordeel is.
Wat gebeurt er nu met het ChatGPT-lek?
De onderzoekers meldden het lek op 18 oktober bij OpenAI, via het programma waarmee het bedrijf beveiligingsfouten beloont. Acht dagen later was het opgelost. Volgens Parameter weigerden toen beide versies van de webpagina van ChatGPT de berichten waar de aanval op rustte.
Parameter publiceerde het verhaal pas op 28 oktober, na de reparatie. Daardoor kan niemand de aanval nu nog op deze manier gebruiken. Volgens thehackernews.com blokkeert het alleen afsluiten van de YouTube-route het probleem niet, dus de fix zit dieper.
Je kunt wel iets onthouden. Een gedeelde link kan van iedereen komen, ook via mail, chat of een supportmelding. Open gedeelde gesprekken van onbekenden dus liever niet zomaar, ook al is dit gat gedicht.
Gemeld door 3 bronnen: Simon Willison, parameter.ai (een onbekende site, via Hacker News, 315 punten), thehackernews.com (via Techmeme)
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: ChatGPTAI-beveiligingOpenAI
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
