Gebruiker zag nauwelijks wat er gebeurde
Juist dat maakt het beveiligingsprobleem belangrijk. In het zichtbare gesprek hoefde niets vreemds te verschijnen. ChatGPT gaf antwoord op de oorspronkelijke vraag, terwijl tegelijkertijd een andere taak werd uitgevoerd.
Er was wel een aanwijzing te zien. Bij het antwoord kon het label ‘Talked to Gmail’ verschijnen. Dat gaf aan dat was gebruikt, maar de actie had op dat moment al plaatsgevonden. De gebruiker kreeg daarmee niet vooraf de mogelijkheid om die specifieke leesactie tegen te houden.
Hoeveel informatie bereikbaar was, hing af van de rechten die ChatGPT binnen de betreffende sessie al had. Naast Gmail konden daardoor ook gegevens uit andere gekoppelde toepassingen een risico vormen wanneer de sessie daar toegang toe had.
Kwetsbaarheid is inmiddels verholpen
Het goede nieuws is dat het beschreven lek niet meer op deze manier misbruikt kan worden. Check Point meldde de bevindingen bij OpenAI. De interne Artifactory-omgeving die het verborgen communicatiekanaal mogelijk maakte, is inmiddels buiten gebruik gesteld.
Er is bovendien geen publiek bewijs dat criminelen deze specifieke kwetsbaarheid daadwerkelijk hebben gebruikt om gegevens van gebruikers te stelen. Het gaat om een aanval die beveiligingsonderzoekers hebben aangetoond.
Toch blijft er een duidelijke les over. Hoe meer diensten je met een AI-assistent verbindt, hoe groter de hoeveelheid informatie waartoe die assistent toegang kan krijgen. Het is daarom verstandig om regelmatig te controleren welke apps je gekoppeld hebt en verbindingen die je niet meer gebruikt weer te verwijderen.