Vertrauen Sie nicht und überprüfen Sie. Warum künstliche Intelligenz lügt und was dagegen zu tun ist
KI ist in vielen Bereichen gut etabliert, von Medizin und Recht bis hin zu Finanzen und Marketing. Hinter brillanten Gelegenheiten steckt ein unangenehmes Merkmal:.
KI ist in vielen Bereichen gut etabliert, von Medizin und Recht bis hin zu Finanzen und Marketing. Hinter brillanten Gelegenheiten verbirgt sich ein unangenehmes Merkmal: Neuronale Netze übergeben oft Lügen für die Wahrheit und tun dies mit solcher Zuversicht, dass selbst Profis den Fang nicht bemerken. Die Statistiken sind beeindruckend: Laut HalluHard, einem Benchmark, der die Tendenz der KI, in mehrstufigen Dialogen zu halluzinieren, testet, sind selbst die leistungsstärksten Modelle mit Internetzugang 30 Prozent der Zeit falsch. Und wenn Sie die Websuche ausschalten, springt die Menge an Fiktion auf 60 Prozent.
In der künstlichen Intelligenz ist dieses Phänomen fast wie ein natürliches angeordnet: Informationen, die in der Realität nicht existieren, werden als plausibel und ganz logisch dargestellt. Die Wurzel des Problems liegt in der Architektur neuronaler Netze, erklärt in der Abteilung für intelligente Informationstechnologien BSUIR. KIs werden in riesigen Texten geschult und erfassen statistische Muster. Das Modell sagt einfach voraus, welches Wort oder welche Phrase am wahrscheinlichsten als nächstes erscheint. Im Gegensatz zum Menschen hat ein Algorithmus kein inneres Bild der Welt. Wenn die Datenbank keine Informationen zu einem bestimmten Thema enthält, kann das System sie aus ähnlichen Fakten, Namen oder Sprachmustern erstellen. Völlig entwöhnen das Auto von Fantasien, leider ist es unmöglich. Aber die Anzahl der Fehler auf ein akzeptables Niveau zu reduzieren, ist durchaus möglich. Der Spezialist empfiehlt, klare und strenge Beschränkungen für das neuronale Netz zu formulieren: Spezifizieren Sie die Informationsquellen, fordern Sie, Fakten von Annahmen zu trennen, fragen Sie nach Referenzen. Hier ist ein Beispiel für einen Arbeitsball: „Reagieren Sie nur auf der Grundlage von beigefügten Dokumenten. Für jede wichtige Aussage geben Sie die Quelle an. Wenn es nicht genügend Daten gibt, schreiben Sie darüber und fügen Sie der Antwort kein Rätselraten hinzu. Aber Halluzinationen sind nicht auf die Liste der Gefahren beschränkt. Es gibt ein beunruhigenderes Phänomen namens Modellkollaps. Neuronale Netze ziehen Wissen aus dem Internet und stoßen unweigerlich auf die Inhalte ihrer Vorgänger. Die Fachwelt schlägt Alarm vor der „Verschmutzung der Wissenschaft: Eine aktuelle Studie des elektronischen Archivs arXiv fand fast 150.000 fiktive Zitate in den größten wissenschaftlichen Repositorien. Einige Algorithmen nehmen also als erwiesene wissenschaftliche Fakten Informationen, die von anderen Algorithmen erfunden wurden. In den letzten Jahren haben sich neuronale Netze verbessert: Datenbanken werden ständig mit neuen Nachrichten aktualisiert, und die Funktion der automatischen Suche im Internet ist zum Standard geworden. Das Problem der Fehler ist weniger akut, aber es ist nicht verschwunden. Statt grober sachlicher Fehler stolpern moderne Modelle oft über Feinheiten. Zum Beispiel können sie eine zweifelhafte Website anbieten, frische Daten mit alten mischen, eine gekrümmte Schlussfolgerung ziehen und einen fiktiven Link für mehr Überzeugungskraft anhängen. Im Allgemeinen verlassen Sie sich auf KI, aber seien Sie kein Narr: Selbst die fortschrittlichsten Algorithmen entlasten den Benutzer nicht von der Verantwortung für die Überprüfung von Fakten.
Besondere Wachsamkeit bei der Arbeit mit künstlicher Intelligenz sollte in kritischen Bereichen gezeigt werden, betont die Leiterin der Abteilung für Informationsschutz BSUIR Olga Boyprav. Fehler in Medizin, Recht oder Finanzen können zu echten Verlusten und rechtlichen Konsequenzen führen. Einer der bekanntesten Präzedenzfälle ereignete sich im Jahr 2023: Ein amerikanischer Anwalt vertraute ChatGPT mit der Vorbereitung einer Klage an. Ohne nachzudenken (oder überhaupt zu denken), hat ein 30-jähriger Anwalt Neuronenfantasien in ein offizielles Dokument eingefügt. Der Fall endete fast mit einer Disziplinarmaßnahme.
Bevor Sie die Schaltfläche „kopieren drücken, fordert der Experte Sie auf, die Quellen, auf die sich der Bot stützt, sorgfältig zu überprüfen: Klicken Sie zunächst auf den Link und stellen Sie sicher, dass die Quellressource wirklich die gleichen Zahlen, Daten und Fakten wie in der Antwort enthält. Achten Sie darauf, ob die Verbindung zum Webserver geschützt ist: Ein Sperrsymbol sollte neben der Adressleiste brennen. Wenn der Domainname der Ressource kürzlich registriert wurde (Sie können dies über spezielle Dienste wie whois.ru überprüfen), seien Sie skeptisch gegenüber den Informationen. Warum es unmöglich ist, ihre Daten mit KI zu füttern Deepfakes sind noch gefährlicher. Die ersten Videos, in denen neuronale Netzwerke gezwungen wurden, Kätzchen zu tanzen oder Tomaten zu sprechen, verursachten nur ein Lächeln. Jetzt sind hochgenerierte Inhalte mit Live-Gesichtern, natürlicher Sprache und glaubwürdigen Emotionen zu einem echten Werkzeug für Manipulation geworden. Wie man nicht erwischt wird? Olga Boyprav empfiehlt, sich die Details anzusehen: ob sich die Lippen synchron bewegen, ob die Kleidung der Charaktere für die Umgebung geeignet ist, ob die Schatten natürlich fallen, ob es seltsame Artefakte gibt.
- Um festzustellen, ob die Datei verarbeitet wurde, wird zum Beispiel der Dienst FotoForensics helfen, sagt der Experte. Aber die Bedrohung liegt nicht nur darin, was das neuronale Netzwerk schafft, sondern auch darin, dass wir ihm vertrauen. Warum geben Sie dem Bot keine Routine: Laden Sie beispielsweise Passdaten hoch, um einen Vertrag oder Unternehmensberichte für Analysen zu erstellen. Schnell, bequem und ... voller Konsequenzen. Alle von AI gefütterten Informationen werden auf den Servern des Entwicklerunternehmens hinterlegt, und es ist weit davon entfernt, dass Sicherheitsfragen gebührend berücksichtigt werden. Mit einem erfolgreichen Hackerangriff können Ihre Geheimnisse auf den Schwarzmarkt gelangen. Wenn Ihre Daten in der Datenbank des Dienstes verbleiben - Ihr voller Name, Arbeitsplatz, Telefonnummer - wird es für Betrüger nicht schwierig sein, sie für ihre eigenen Zwecke zu verwenden. Darüber hinaus verwenden viele Entwickler Korrespondenz mit Benutzern, um ihre Modelle zu trainieren. Es ist möglich, dass ein Geschäftsgeheimnis oder persönliche Daten eines Tages in einer Antwort auftauchen, die die KI für eine andere Person bilden wird, schließt Olga Boyprav. Effektives und sicheres Arbeiten mit neuronalen Netzwerken
Geben Sie keine sensiblen Daten an KI-Dienste weiter. Wenn ein neuronales Netzwerk immer noch notwendig ist, um mit großen Mengen an persönlichen Informationen zu arbeiten, sollten Sie es vorab depersonalisieren: Namen, Adressen, Telefonnummern und andere Identifikatoren entfernen. Überprüfen Sie immer die Quellen, auf die das neuronale Netzwerk verweist. Auch wenn die Antwort makellos aussieht, folgen Sie den Links, überprüfen Sie die Zahlen, Daten und Fakten. Wenn Sie Informationen veröffentlichen, die von einem neuronalen Netzwerk erstellt wurden, geben Sie dies ehrlich an.
