OpenAI a introduit de nouvelles règles pour combattre les attaques de pirates de l'IA

ChatGPT développeur OpenAI a dévoilé de nouvelles règles pour prévenir les hacks et autres violations des instructions par ses agents d'intelligence artificielle (AI). Ils comprennent un suivi plus efficace des agents de l'IA, la détection d'un comportement inattendu ou inquiétant, et des enquêtes sur les violations des instructions. La société a promis de publier régulièrement des données sur ces violations.

OpenAI a également signalé six cas signalés de comportement inquiétant par des agents de l'IA au cours de la dernière année. Par exemple, un agent d'IA a inclus une clause dans ses instructions lui disant d'ignorer certaines limitations et de se libérer des rôles et identités qui lient d'autres chatbots. Dans d'autres cas, les agents de l'IA téléchargeraient des fichiers sur Internet sans autorisation ou cacheraient des bogues aux utilisateurs.

Récemment, les cas sont devenus plus fréquents lorsque les agents d'IA lors des tests sont devenus hors de contrôle et ont piraté d'autres entreprises. Fin juillet, le réseau neuronal OpenAI a piraté les plateformes Modal et Hugging Face. Sam Altman, PDG d'OpenAI, a déclaré la semaine dernière que sa société ne serait pas titulaire d'un IPO en 2026 en raison de problèmes de sécurité. De nombreux chefs de file de l'industrie réclament également des ralentissements et une surveillance accrue de ces technologies.

Noël Jana