Onderzoek: ChatGPT kan gemanipuleerd worden en informatie kan gelekt worden met slechts één bericht.

Dit is een gloednieuwe aanval die Radware wetenschappers ShadowLeak noemden. In juni werd een geheime verklaring van het gat afgelegd. OpenAI, die sindsdien in staat is om de fout te verhelpen. Hoewel er geen bekende informatie, is er een echte kans dat cybercriminelen gebruikt het gat in hun voordeel. In ieder geval laat het zien hoe je AI technieken in verschillende technieken kunt manipuleren en hoe waakzaamheid nog steeds een must is.

ChatGPT gemanipuleerd via internet

Het hart van ShadowLeak is een eenvoudige e-mail die gericht is op een slachtoffer, in dit geval een Google-doel. Hoewel de HTML code een ChatGPT bestelling bevat, lijkt de mail eerlijk. De robot interpreteert dit commando, niet de gebruiker.

Wanneer het doel verbindt ChatGPT met Google via de Deep Research Agent en geeft een aantal instructies over hoe te beginnen met Gmail, zoals te zeggen dat alle e-mail moet worden geanalyseerd, ChatGPT zal uiteindelijk lopen in de verborgen snel en begon het uit te voeren.

Cybercriminelen kunnen gemakkelijk ChatGPT wijzigen door gevoelige gegevens van Google te verwijderen en naar een externe server te sturen. Er is geen alarmbel bij ChatGPT, die kan aangeven dat gevoelige informatie wordt gelekt omdat het lijkt te zijn een authentieke taak.

In dit geval, echter, het gat komt ook volledig binnen ChatGPT’s cloud omgeving, in tegenstelling tot eerdere lekken waar het systeem van de gebruiker werd goedgekeurd. Een andere verklaring waarom meer standaard veiligheidsmaatregelen mislukten was het feit dat wat er aan de hemel gebeurt.

Diverse industrieën zijn ook veerkrachtig.

Onderzoekers van Radware gebruikten Gmail om het lek aan te tonen, maar ze wijzen er ook op dat hetzelfde uitgangspunt extra diensten gevoelig maakt wanneer het verbonden is met ChatGPT en de Deep Research Agent. Rustig verzonden vanuit een geheim snel dat vervolgens wordt uitgevoerd door ChatGPT kan aanbieders zoals Outlook, Dropbox, Google Drive, Google Drive, SharePoint, en anderen omvatten. Bovendien moet in gedachten worden gehouden dat verschillende AI programma’s ook op een soortgelijke manier kunnen worden gebruikt.

Het goede nieuws is dat OpenAI de fout heeft geïdentificeerd, maar zoals hierboven vermeld, toont het aan dat we ook tal van extra computer uitdagingen zullen tegenkomen in een nieuwe wereld gevuld met AI.