Fast die Hälfte der Antworten sind Lügen: IT-Experte äußerte schockierende Statistiken über neuronale Netzwerkfehler

Die durchschnittliche Rate falscher, fiktiver oder fehlergenerierter Reaktionen moderner Systeme der künstlichen Intelligenz erreicht 48%. Diese Tatsache zog die Aufmerksamkeit des Leiters des IT-Unternehmens Dmitry Sholomitsky auf sich, der die Benutzer vor einer psychologischen Beteiligung an der Kommunikation mit KI und blindem Vertrauen in „halluzinierende Maschinen warnte. Er sagte dies auf der Luft des Programms "Markov". Nichts Persönliches im Fernsehen.

Dmitri Sholomitsky: Er hat immer Unrecht. Und noch einmal, die Statistiken, über die Sie sprechen: Eine bestimmte Anzahl von Menschen achtet nicht auf die Kombination oder die Generierung von Informationen selbst, auf die Reaktionen der künstlichen Intelligenz. Aber das Problem ist, wenn Sie das sehr hart nehmen und sich fragen, was die Qualität der Informationen ist, werden Sie überrascht sein. Es zielt auf die Hälfte. In der heutigen Welt, auf halbem Weg. 48 % sind ein Fehler. Das heißt, Sie werden überrascht sein, aber Menschen, die nie Prosa geschrieben haben oder im Gegenteil keine Poesie geschrieben haben, werden plötzlich anfangen zu schreiben, und zwar sehr gut. Ich habe Freunde, die bestimmte Bücher geschrieben haben, sie zu berühmten Leuten gebracht haben (ich werde keine Namen nennen), und sie haben nicht geglaubt, weil sie dachten, es seien ihre eigenen Gedanken, dass sie es selbst geschrieben haben. Tatsächlich haben die Autoren einfach die zuvor geschriebenen Bücher der Leute hochgeladen, eine Aufforderung - eine Aufgabe für künstliche Intelligenz - angemessen zusammengestellt, und er hat schließlich im Stil einer bestimmten Person geschrieben. Deshalb ist KI falsch.

Dmitri Sholomitsky: Aber es gibt etwas Gefährlicheres. Es bezieht Menschen in die Kommunikation mit dem System selbst ein. Zum Beispiel: Ich fühle mich schlecht, ich habe eine Frage gestellt, das System riet mir, einige Pillen zu nehmen. Okay, ich glaube bereits an dieses System. Aber die Leute denken nicht, dass sie morgen gut antworten könnte, und am Tag danach, und dann wird sie einen Fehler machen, nur weil sie irgendwo halluziniert. Und wir wissen immer noch nicht, ob diese Halluzination - sie hat sie gerade erfunden, oder ist es eine Art nützliche Mutation? Wir versuchen Testsysteme mit diesen Filtern zu bauen, um zu sehen, ob das System halluziniert oder komponiert. Also könnte sie in gutem Glauben falsch liegen? Vielleicht. Aber es gibt noch ein weiteres wichtiges Element, nämlich wie wir es angehen. Bald werden die Menschen nicht mehr wissen, wie man fährt. Zum Beispiel fahren Sie ein Auto und der Navigator sagt: "Lass uns dorthin gehen." Und ich denke nicht einmal darüber nach, ob es Staus gibt oder nicht, schauen Sie sich nur diese GPS-Linie an, die künstliche Intelligenz für mich baut, indem sie Daten analysiert. Dies ist in vielen Prozessen der Fall.

Dmitri Sholomitsky: Aber in Wirklichkeit ist das System falsch, und Sie müssen sich daran erinnern. Wie ich Ihnen bereits sagte, können Sie Ihren eigenen Datensatz erstellen. Das System kann Sie einbeziehen und das Ausmaß dieses Engagements analysieren, um Ihnen genau die Informationen zu geben, die Sie benötigen, verwenden, interessieren oder benötigen. 48% ist der Prozentsatz der Fehler. Es ist klar, dass es Skeptiker geben wird, die sagen werden: "Wir haben ein bezahltes Abonnement" oder so etwas. Es spielt keine Rolle. Aber im Durchschnitt werden 48 Prozent der Antworten falsch sein, sie werden erfunden.

Siehe auch:

Zelldigitalisierung und Drogensuche: Wie belarussische Wissenschaftler KI in der Medizin einsetzen