Check Point heeft een beveiligingslek ontdekt tussen ChatGPT en Gmail. Via een verborgen communicatiekanaal kon een aanvaller ongemerkt e-mails doorsluizen.
Beveiligingsbedrijf Check Point waarschuwt voor een lek met ChatGPT. De populaire chatbot kon aanvallers potentieel toegang geven tot je vertrouwelijke e-mails in Gmail. OpenAI heeft de kwetsbaarheid inmiddels verholpen, maar de experts waarschuwen voor vergelijkbare risico’s bij andere AI-toepassingen.
Het beveiligingslek toont aan hoe kwetsbaar gekoppelde AI-systemen zijn wanneer gebruikers hen verregaande toegang geven tot externe diensten. In het bewezen aanvalsscenario volstond een gemanipuleerde prompt, een gedeelde weblink of een aangepaste GPT om het account van een slachtoffer aan te sturen. ChatGPT haalde vervolgens met de legitieme rechten van de eigenaar gegevens op uit Gmail en stuurde die door naar de aanvaller, terwijl het chatvenster voor het slachtoffer er volkomen normaal bleef uitzien.
Misbruik van vertrouwen
Check Point Research noemt dit fenomeen een ‘gemanipuleerde insider’. Het gaat om een AI-assistent die via legitieme toegangsrechten wordt gemanipuleerd om binnen het vertrouwenskader van een organisatie te handelen namens een aanvaller. Er komt geen gestolen wachtwoord of malware aan te pas; enkel de rechten die de gebruiker zelf aan de assistent toevertrouwde worden misbruikt. OpenAI heeft het specifieke lek intussen gedicht, maar de onderliggende techniek blijft een punt van zorg.
Volgens Fred Streefland, , is dit dan ook geen geïsoleerd ChatGPT-probleem. Aanvallers kunnen vergelijkbare technieken toepassen op bestaande mogelijkheden en kwetsbaarheden in andere AI-toepassingen, zoals Microsoft Copilot. De infrastructuur achter moderne AI is volgens hem zo complex dat beveiligingslekken onvermijdelijk blijven. Wanneer een systeem slim is, is het tegelijkertijd kwetsbaar, klinkt de waarschuwing.
Gebrek aan overzicht
Het gebrek aan overzicht vormt volgens Streefland de grootste valkuil voor bedrijven. Daardoor moeten vooral de identificatie- en beschermingsdomeinen binnen het cybersecuritybeleid versneld opschalen. Wie geen zicht heeft op zijn systemen, kan ze immers onmogelijk adequaat beveiligen.
Check Point adviseert beveiligingsverantwoordelijken een inventarisatie van alle AI-toepassingen en actieve AI-agenten binnen de organisatie op te maken. Daarnaast pleit het beveiligingsbedrijf voor het proactief testen van integraties via gespecialiseerde red teaming en kwetsbaarheidstesten voordat ze operationeel gaan. Alleen door strikte governance, continue monitoring en een preventieve aanpak blijft AI een waardevol werkinstrument in plaats van een digitaal beveiligingsrisico.