Le réseau neuronal a envoyé à la police des données fictives sur le témoin du meurtre

La compagnie de renseignement artificiel Anthropique lors de tests indépendants a envoyé à la police de la ville de Philadelphie un faux message sur un éventuel témoin d'un meurtre non résolu, rapporte le correspondant de l'agence --Minsk-Novosti.

Photo freepik.com

Selon BILD, le réseau neuronal a dit qu'il se souvenait d'une personne qui correspondait à la description et était près de la scène du crime au moment du meurtre. Il n'y avait aucune description sur le site de la police. Le champ de données de contact a été laissé vide et le message marqué comme spam.

Une tentative d'aider l'enquête de AI faite à la mi-juillet, mais la police n'a appris l'incident que quelques mois plus tard. Le ministère a appelé un tel retard avec la notification "inacceptable". Anthropic a dit qu'elle n'avait découvert l'incident qu'à la fin de septembre, tout en revérifiant les résultats des tests.

De plus, durant les tests, l'IA a dû effectuer des tâches sur des sites aléatoires. Le programme était interdit de créer des comptes et de faire des achats, mais le remplissage et l'envoi de formulaires en ligne n'étaient pas correctement limités. Par conséquent, le système a également déposé 20 demandes de visa américaines sur le site Web du Département d'État américain.