Das neuronale Netzwerk schickte der Polizei fiktive Daten über den Zeugen des Mordes

Das Unternehmen für künstliche Intelligenz Anthropic schickte der Polizei der Stadt Philadelphia während der Tests unabhängig eine falsche Nachricht über einen möglichen Zeugen eines ungelösten Mordes, berichtet der Korrespondent der Agentur "Minsk-Novosti".

Foto freepik.com

Laut BILD sagte das neuronale Netzwerk, dass es sich an eine Person erinnert, die der Beschreibung entspricht und sich zum Zeitpunkt des Mordes in der Nähe des Tatorts befand. Es gab keine Beschreibung auf der Website der Polizei. Das Kontaktdatenfeld wurde leer gelassen und die Nachricht als Spam markiert.

Ein Versuch, die Untersuchung AI Mitte Juli zu helfen, aber die Polizei erfuhr von dem Vorfall nur ein paar Monate später. Die Abteilung nannte eine solche Verzögerung mit der Benachrichtigung "inakzeptabel". Anthropic sagte, es habe den Vorfall erst Ende September entdeckt, während die Testergebnisse erneut überprüft wurden.

Darüber hinaus musste die KI während der Tests Aufgaben an zufälligen Standorten ausführen. Das Programm war verboten, Konten zu erstellen und Einkäufe zu tätigen, aber das Ausfüllen und Senden von Online-Formularen wurde nicht ordnungsgemäß eingeschränkt. Infolgedessen reichte das System auch 20 US-Visumanträge über die Website des US-Außenministeriums ein.