Près de la moitié des réponses sont des mensonges : l'expert informatique a exprimé des statistiques choquantes sur les erreurs des réseaux neuronaux

Le taux moyen de réponses fausses, fictives ou erronées des systèmes modernes d'intelligence artificielle atteint 48 %. Ce fait a attiré l'attention du responsable de l'entreprise informatique Dmitry Sholomitsky, qui a mis en garde les utilisateurs contre l'implication psychologique dans la communication avec l'IA et la confiance aveugle dans les machines d'hallucination. Il a dit cela sur l'antenne du programme. Rien de personnel à la télévision ONT.

Dmitri Sholomitsky: Il a toujours tort. Et encore une fois, les statistiques dont vous parlez : un certain nombre de personnes ne font pas attention à la combinaison ou à la génération d'information elle-même, aux réponses de l'intelligence artificielle. Mais le problème, c'est que si vous prenez cela très fort et vous demandez quelle est la qualité de l'information, vous serez surpris. Il vise la moitié. Dans le monde d'aujourd'hui, à moitié. 48% est une erreur. C'est-à-dire, vous pouvez être surpris, mais les gens qui n'ont jamais écrit de prose ou, au contraire, n'ont pas écrit de poésie, vont soudainement commencer à écrire, et très bien. J'ai des amis qui ont écrit certains livres, les ont amenés à des gens célèbres (je ne donnerai pas de noms), et ils n'ont pas cru, parce qu'ils pensaient que c'était leurs propres pensées, qu'ils l'ont écrit eux-mêmes. En fait, les auteurs ont tout simplement pris, téléchargé les livres écrits précédemment, compilé une prompte appropriée — une tâche pour l'intelligence artificielle — et il a fini par écrire dans le style d'une personne particulière. C'est pourquoi AI a tort.

Dmitri Sholomitsky: Mais il y a quelque chose de plus dangereux. Il implique des personnes en communication avec le système lui-même. Par exemple : je me sens mal, j'ai posé une question, le système m'a conseillé de prendre quelques pilules. Je crois déjà ce système. Mais les gens ne pensent pas que demain elle pourrait bien répondre, et le lendemain, et puis elle fera une erreur juste parce qu'elle hallucine quelque part. Et nous ne savons toujours pas si cette hallucination -- elle vient de l'inventer, ou est-ce une mutation bénéfique ? Nous essayons de construire des systèmes de test avec ces filtres pour voir si le système hallucine ou compose. Pour qu'elle se trompe de bonne foi ? Peut-être. Mais il ya un autre élément important, qui est la façon dont nous l'abordons. Bientôt les gens ne sauront plus conduire. Par exemple, vous conduisez une voiture et le navigateur dit, "Let" va là. Et je ne pense même pas à savoir s'il y a des embouteillages ou non, regardez simplement cette ligne GPS que l'intelligence artificielle construit pour moi en analysant les données. C'est le cas dans de nombreux processus.

Dmitri Sholomitsky: Mais en réalité, le système est mauvais, et vous devez vous en souvenir. Comme je vous l'ai déjà dit, vous pouvez créer votre propre jeu de données. Le système peut vous engager, et il peut analyser l'étendue de cet engagement pour vous donner exactement les informations dont vous avez besoin, utiliser, intérêt ou besoin. 48% est le pourcentage d'erreurs. Il est clair qu'il y aura des sceptiques qui diront : « Nous avons un abonnement payant ou quelque chose comme ça. Peu importe. Mais en moyenne, 48 pour cent des réponses seront fausses, elles seront inventées.

Voir aussi:

Numérisation cellulaire et recherche de médicaments : comment les scientifiques biélorusses utilisent l'IA en médecine