Ne fais pas confiance et vérifie. Pourquoi l'intelligence artificielle ment et que faire à son sujet

L'IA est bien établie dans de nombreux domaines, de la médecine et du droit au financement et à la commercialisation. Derrière les opportunités brillantes cache une caractéristique désagréable: souvent les réseaux neuraux passent pour la vérité et le font avec une telle confiance que même les professionnels ne remarquent pas la prise. Les statistiques sont impressionnantes : selon HalluHard, un point de repère qui teste la tendance de l'intelligence artificielle à halluciner dans les dialogues multi-étapes, même les modèles les plus puissants avec accès Internet sont erronés 30 pour cent du temps. Et si vous éteignez la recherche web, la quantité de fiction saute à 60%.

Dans l'intelligence artificielle, ce phénomène est organisé presque comme un phénomène naturel : l'information qui n'existe pas en réalité est présentée comme plausible et tout à fait logique. La racine du problème réside dans l'architecture même des réseaux neuronaux, expliquée au Département des technologies de l'information intelligentes BSUIR. Les IA sont formées à d'énormes séries de textes, captant des schémas statistiques. Le modèle prévoit simplement quel mot ou quelle phrase est le plus susceptible d'apparaître. Contrairement aux humains, un algorithme n'a aucune image interne du monde. Si la base de données ne contient pas d'informations sur un sujet donné, le système peut les trouver à partir de faits, de noms ou de modèles de langue similaires. Se laver complètement la voiture de fantasmes, hélas, c'est impossible. Mais il est tout à fait possible de ramener le nombre d'erreurs à un niveau acceptable. Le spécialiste conseille de formuler des restrictions claires et strictes pour le réseau neuronal: préciser les sources d'information, demander de séparer les faits des hypothèses, demander des références. Voici un exemple d'un bal de travail : « Réponse uniquement sur la base des documents joints. Pour chaque énoncé important, indiquez la source. S'il n'y a pas assez de données, écrivez à ce sujet et n'ajoutez pas de devinette à la réponse. Mais les hallucinations ne se limitent pas à la liste des dangers. Il y a un phénomène plus inquiétant appelé effondrement du modèle. Les réseaux neuraux tirent leurs connaissances d'Internet et rencontrent inévitablement le contenu de leurs prédécesseurs. La communauté professionnelle sonne l'alarme sur la pollution de la science: une étude récente de l'archive électronique arXiv a trouvé près de 150.000 citations fictives sur les plus grands dépôts scientifiques. Donc, certains algorithmes prennent comme une information scientifique prouvée par d'autres algorithmes. Ces dernières années, les réseaux neuraux se sont améliorés : les bases de données sont constamment mises à jour avec de nouvelles nouvelles, et la fonction de recherche automatique sur Internet est devenue la norme. Le problème des erreurs est moins aigu, mais il n'a pas disparu. Au lieu de grosses erreurs factuelles, les modèles modernes tombent souvent sur des subtilités. Par exemple, ils peuvent offrir un site douteux, mélanger des données fraîches avec des données anciennes, faire une conclusion incurvée, et attacher un lien fictif pour une plus grande persuasion. En général, s'appuyer sur l'IA, mais ne pas être un idiot : même les algorithmes les plus avancés ne dégagent pas l'utilisateur de la responsabilité de la vérification des faits.

Une vigilance particulière dans le domaine de l'intelligence artificielle devrait être montrée dans les domaines critiques, souligne le chef du Département de la protection de l'information BSUIR Olga Boyprav. Les erreurs de médecine, de droit ou de finance peuvent entraîner des pertes réelles et des conséquences juridiques. Un des précédents les plus médiatisés s'est produit en 2023 : un avocat américain a confié à ChatGPT la préparation d'un procès. Sans réfléchir (ou penser du tout), un avocat de 30 ans a inséré des fantasmes de neurones dans un document officiel. L'affaire s'est presque terminée par une mesure disciplinaire.

Avant d'appuyer sur le bouton « Copier », l'expert vous exhorte à vérifier soigneusement les sources sur lesquelles le robot s'appuie : – Tout d'abord, cliquez sur le lien et assurez-vous que la ressource source est vraiment les mêmes nombres, dates et faits que dans la réponse. Faites attention à savoir si la connexion au serveur web est protégée : une icône de verrouillage doit être gravée à côté de la barre d'adresses. Si le nom de domaine de la ressource est enregistré récemment (vous pouvez le vérifier via des services spéciaux comme whois.ru), soyez sceptique à l'égard de l'information. Pourquoi il est impossible de nourrir l'IA leurs données Deepfakes sont encore plus dangereux. Les premières vidéos, où les réseaux neuronaux ont été forcés de danser des chatons ou de parler de tomates, n'ont causé qu'un sourire. Maintenant, le contenu hautement généré avec des visages vivants, des paroles naturelles et des émotions crédibles est devenu un véritable outil de manipulation. Comment ne pas se faire prendre ? Olga Boyprav recommande de regarder les détails : si les lèvres bougent synchronement, si les vêtements des personnages conviennent à l'environnement, si les ombres tombent naturellement, s'il y a des artefacts étranges.

- Pour déterminer si le fichier a été traité, aidera, par exemple, le service FotoForensics, dit l'expert. Mais la menace réside non seulement dans ce que crée le réseau neuronal, mais aussi dans le fait que nous lui faisons confiance. Pourquoi ne pas donner au robot une routine : par exemple, télécharger les détails du passeport pour rédiger un contrat ou des rapports d'entreprise pour l'analyse. Rapide, pratique et... chargé de conséquences. Toutes les informations transmises par l'IA sont déposées sur les serveurs de la société développeur, et il est loin d'être le fait qu'il y a l'attention nécessaire aux problèmes de sécurité. Avec une attaque hacker réussie, vos secrets peuvent bien aller au marché noir. Si vos données demeurent dans la base de données du service - votre nom complet, votre lieu de travail, votre numéro de téléphone - il ne sera pas difficile pour les fraudeurs de les utiliser à leurs propres fins. De plus, de nombreux développeurs utilisent la correspondance avec les utilisateurs pour former leurs modèles. Il est possible qu'un secret professionnel ou des données personnelles se retrouvent un jour dans une réponse que l'IA formera pour une autre personne, conclut Olga Boyprav. Comment travailler efficacement et en toute sécurité avec les réseaux neuronaux

Ne pas transmettre de données sensibles aux services d'IA. Si un réseau neuronal est toujours nécessaire pour travailler avec de grandes quantités de renseignements personnels, pré-dépersonnalisation : supprimer les noms, adresses, numéros de téléphone et autres identifiants. Vérifiez toujours les sources référencées par le réseau neuronal. Même si la réponse semble impeccable, suivez les liens, vérifiez les numéros, les dates et les faits. Si vous publiez des informations créées par un réseau neuronal, indiquez-les honnêtement.