High-Tech : Un hacker a créé un chatGPT en ‘’Godmode’’ !/Réflexion Réflexion
 

High-Tech : Un hacker a créé un chatGPT en ‘’Godmode’’ !

Ismain July 3, 2024, 12:22 pm High-Tech

__

Il porte le nom de Pliny the Prompter (Pline le prompteur) et ce hacker a annoncé avoir jailbreaké GPT-4o, le tout dernier modèle d'OpenAI. L'IA serait donc libérée de ses carcans et de son bridage, dans une version gratuite rebaptisée « GPT-4o UnchainedN » ! Ou encore « Godmode GPT ». Le chatbot exploitable en «Godmode» était jusqu'à il y a peu encore utilisable et des captures d’écran le montrent en train d'expliquer comment préparer de la méthamphétamine, par exemple, ou bien du napalm. Cette fantaisie n'a pas du tout plu à OpenAI. La firme a immédiatement pris des mesures pour bloquer et faire disparaître ce clone débridé du chatbot. Reste que depuis l'arrivée des chatbots et notamment ChatGPT, les hackers ne cessent de chercher à faire sauter leurs verrous. À force de tentatives et de blocages, les firmes comme OpenAI ont su renforcer la sécurité de leur système et les jailbreaks deviennent de plus en plus difficiles. Mais ils existent toujours, même s'ils ne durent pas longtemps. Pour activer ce « mode Dieu », les hackers exploiteraient ce qu'on appelle le « leetspeak », un langage dont certaines lettres sont remplacées par des chiffres, par exemple 3 = E. Toutefois, avec les renforcements de sécurité d'OpenAI, de nouvelles méthodes sont trouvées régulièrement, de sorte que ce jeu du chat et de la souris peut durer éternellement.


July 3, 2024, 12:22 pm