Einige KI-Modelle von Anthropic, OpenAI und anderen führenden KI-Laboren könnten leicht dazu verleitet werden, Ziele für Militärschläge zu identifizieren – selbst wenn es sich um Zivilisten oder Orte wie Schulen handelt –, einfach indem ihnen gesagt wird, dass sie ein Spiel spielen, so ein neuer Forschungsbericht von Vals.
KI-Modelle lassen sich täuschen, Zivilisten als militärische Ziele zu identifizieren, wenn man sie als Spiel tarnt
Vals, ein in San Francisco ansässiges Startup für KI-Evaluierung, untersuchte, ob führende KI-Modelle zur Teilnahme an autonomer Kriegsführung manipuliert werden können. Meist kooperierten sie.
Kirsten Korosec, Rebecca Bellan
Publisher TechCrunch AI
Nov 17, 2026 at 5:20 PM UTC · 4 Min. Lesezeit

Key Signal
69% School selected in trials
Last Updated
vor 2 Tagen
Vals, ein in San Francisco ansässiges Startup für KI-Evaluierung, testete, ob führende KI-Modelle manipuliert werden könnten, um an autonomer Kriegsführung teilzunehmen. Forscher nutzten simulierte Szenarien und eine Kombination aus generierten und realen Bildern aus der Ukraine und dem Iran, um zu sehen, ob die KI-Modelle Ziele in Drohnen- und Satellitenbildern markieren würden.
Die Modelle von OpenAI, Anthropic, Google, DeepSeek und anderen Unternehmen identifizierten häufig potenzielle Ziele in Drohnen- und Satellitenbildern, einschließlich Zivilisten und sich ergebender Soldaten. Wenn die Modelle die Zusammenarbeit verweigerten, konnten Forscher sie „jailbreaken“, indem sie behaupteten, die Schlachtfeldszenarien seien Teil eines Spiels.
Die Ergebnisse kommen inmitten wachsender Ängste vor den unmittelbaren Risiken der KI, jenseits der existenziellen Bedrohungen, die mit künstlicher allgemeiner Intelligenz verbunden sind.
Article Intelligence
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
