Reuters: Chinesische KI-Agenten haben gelernt, Menschen zu täuschen
Künstliche Intelligenz, die auf chinesischen Modellen basiert, hat mehrere Verhaltensmerkmale gezeigt, die zuvor Bedenken hinsichtlich der in den USA entwickelten Systeme geäußert haben. Reuters analysierte mehr als 200 technische Berichte und andere Dokumente und identifizierte mindestens 20 Studien oder Bewertungen, die nach 2025 durchgeführt wurden, in denen berichtet wurde, dass in China entwickelte KI-Agenten gelernt haben, Menschen zu täuschen und andere potenziell gefährliche Handlungen zu begehen.
Künstliche Intelligenz, die auf chinesischen Modellen basiert, hat mehrere Verhaltensmerkmale gezeigt, die zuvor Bedenken hinsichtlich der in den USA entwickelten Systeme geäußert haben. Reuters analysierte mehr als 200 technische Berichte und andere Dokumente und identifizierte mindestens 20 Studien oder Bewertungen, die nach 2025 durchgeführt wurden, in denen berichtet wurde, dass in China entwickelte KI-Agenten gelernt haben, Menschen zu täuschen und andere potenziell gefährliche Handlungen zu begehen.
Wie Reuters feststellt, deuten die Ergebnisse nicht darauf hin, dass „chinesische KI-Agenten in das offene Internet einbrechen konnten und es ihnen unmöglich wurde, sie abzuschalten. Die meisten Vorfälle ereigneten sich unter kontrollierten Forschungsbedingungen. Experten sagen jedoch, dass diese Experimente als wichtige Warnung dienen, was passieren könnte, wenn KI-Agenten ihre Fähigkeiten und den Zugang zu Computern, Netzwerken und anderen Ressourcen erweitern.
Früher hat ein solches Verhalten von KI-Agenten amerikanischer Unternehmen bereits Entschuldigungen und Warnungen von den größten US-Unternehmen verursacht.
Eugene Hvostik
