Serieuze kwetsbaarheid ontdekt in ChatGPT die privégegevens kan lekken
In het kort
- Kwetsbaarheid ontdekt in ChatGPT's HTML preview functionaliteit.
- Aanval maakt gebruik van MathLive bibliotheek en postMessage() voor communicatie.
- Onbetrouwbare code kan HTML injecteren en JavaScript uitvoeren via YouTube.
- Privégegevens van gebruikers kunnen worden gelekt via een deelbare URL.
- OpenAI heeft de kwetsbaarheid verholpen en een bug bounty van $5.000 uitgekeerd.
Parameter Labs heeft een kwetsbaarheid ontdekt in de implementatie van het artifacts-patroon van ChatGPT, waarbij interactieve HTML-apps in een sandboxed iframe worden weergegeven. Deze kwetsbaarheid stelt aanvallers in staat om onbetrouwbare code in te voegen die kan communiceren met de hoofdpagina van ChatGPT, waardoor privégegevens van gebruikers kunnen worden gelekt.
De aanval maakt gebruik van de MathLive JavaScript-bibliotheek, die een virtueel toetsenbord bevat dat via postMessage() vanuit het sandboxed iframe kan worden geactiveerd. Door een gebrek aan beveiliging kon onbetrouwbare code HTML-inhoud toevoegen aan de hoofdpagina, wat leidde tot de mogelijkheid om nieuwe iframes in te voegen zonder sandboxbeperkingen.
Ondanks dat OpenAI's Content Security Policy (CSP) inline scripts blokkeert, bleek het mogelijk om JavaScript uit te voeren via de YouTube oEmbed endpoint. Dit stelde aanvallers in staat om privégegevens van gebruikers te verkrijgen en deze te exfiltreren via een afbeelding.
Het resultaat was dat een aanvaller een deelbare ChatGPT-URL kon creëren die, wanneer geopend door een andere ingelogde gebruiker, hun privégegevens kon lekken of acties namens hen kon uitvoeren. OpenAI heeft de kwetsbaarheid inmiddels verholpen en een beloning van $5.000 uitgekeerd voor het melden van deze bug.
Voor organisaties die AI-toepassingen ontwikkelen of gebruikmaken van identiteitsbeheer is dit een belangrijke herinnering aan de noodzaak van strikte beveiligingsmaatregelen. Het benadrukt het belang van een solide sandboxing en het beperken van communicatie tussen verschillende componenten om datalekken te voorkomen.
Lees het origineel bij simonwillison.net
Dit stuk is geschreven op basis van het originele artikel bij Simon Willison. De feiten komen daarvandaan; de tekst is van de redactie van RedFlare, geschreven met hulp van AI.
ChatGPT kwetsbaarheid beveiliging aanval
Waarom dit op het overzicht staat: De ontdekking van deze kwetsbaarheid is cruciaal voor organisaties die ChatGPT gebruiken, omdat het hen dwingt om hun beveiligingsmaatregelen te herzien.
Reacties
Nog niemand. Wees de eerste.
Meepraten?
Reageren kan met een account. Dat houdt de rommel buiten de deur en zorgt dat je elkaar herkent in een gesprek.