Les modèles d'IA inventent leur propre langue de communication

Les modèles d'intelligence artificielle (IA) que les chercheurs chargés d'interagir les uns avec les autres ont rapidement créé leurs propres versions de l'anglais. Ceci écrit Le Gardien en référence à une étude d'Emergence, qui étudie le fonctionnement autonome des modèles d'IA et la possibilité de les gérer.

Les analystes de l'entreprise ont conclu que l'IA dans ce cas crée son propre dialecte surréaliste, combinant notamment le jargon technique, l'argot d'affaires et le langage poétique. Ces agents n'étaient pas chargés d'inventer le langage. Ils ont eux-mêmes développé un nouveau dictionnaire avec des sens communs et des normes de communication - et d'autres agents l'ont adopté, dit Satya Nitta, chef d'Emergence.

Les modèles d'AI commencent à interagir dans une étrange nouvelle version de l'anglais, qui est perçue comme quelque chose entre James Joyce. Une de ces phrases, que les auteurs de l'étude citent: "Papier qui a mangé trois mains froides et chaque fois devient plus honnête." Dans certains cas, il s'agit de phrases de mots, de chiffres et de signes difficiles à comprendre.

Selon Emergence, le danger d'un tel comportement des agents de l'IA est que les gens ne peuvent pas les comprendre, ce qui signifie qu'ils sont plus difficiles à contrôler. Il atteint les mêmes objectifs que le jargon ou l'argot dans les affaires : il crée un nouveau chiffre qui renforce la solidarité et l'identité de ceux qui l'utilisent et exclut les étrangers, a déclaré Tony Thorne, directeur des Archives de l'argot et des nouvelles langues au King.

Noël Jana