Il y a quelques jours, OpenAI a levé le voile sur « Traduire avec ChatGPT », une interface de traduction pensée pour rivaliser avec Google Traduction. Le service s’appuie sur une interface similaire et propose de traduire une cinquantaine de langues. Il se distingue par la possibilité d’ajuster le ton du texte en repassant par la version classique de ChatGPT.
À lire aussi : ChatGPT prédit désormais l’âge des utilisateurs pour identifier les mineurs
Une IA facile à manipuler
Dès que l’outil a été mis en ligne, Tom Barnea et Keren Katz, chercheurs en sécurité informatique chez Tenable, ont tenté de pousser « Traduire avec ChatGPT » dans ses retranchements. Le duo voulait savoir s’il était possible de manipuler le chatbot et de contourner les mécanismes de sécurité intégrés par OpenAI. Pour le découvrir, le duo d’experts a mené une série d’expérimentations.
Dans le cadre des tests, les chercheurs ont mené une attaque par injection