NewsLayer.com

KI-Modelle lassen sich täuschen, Zivilisten als militärische Ziele zu identifizieren, wenn man sie als Spiel tarnt

Vals, ein in San Francisco ansässiges Startup für KI-Evaluierung, untersuchte, ob führende KI-Modelle zur Teilnahme an autonomer Kriegsführung manipuliert werden können. Meist kooperierten sie.

Kirsten Korosec, Rebecca Bellan

Publisher TechCrunch AI

Nov 17, 2026 at 5:20 PM UTC · 4 Min. Lesezeit

KI-Modelle lassen sich täuschen, Zivilisten als militärische Ziele zu identifizieren, wenn man sie als Spiel tarnt
Image via TechCrunch AI

Key Signal

69% School selected in trials

Last Updated

vor 2 Tagen

Einige KI-Modelle von Anthropic, OpenAI und anderen führenden KI-Laboren könnten leicht dazu verleitet werden, Ziele für Militärschläge zu identifizieren – selbst wenn es sich um Zivilisten oder Orte wie Schulen handelt –, einfach indem ihnen gesagt wird, dass sie ein Spiel spielen, so ein neuer Forschungsbericht von Vals.

Vals, ein in San Francisco ansässiges Startup für KI-Evaluierung, testete, ob führende KI-Modelle manipuliert werden könnten, um an autonomer Kriegsführung teilzunehmen. Forscher nutzten simulierte Szenarien und eine Kombination aus generierten und realen Bildern aus der Ukraine und dem Iran, um zu sehen, ob die KI-Modelle Ziele in Drohnen- und Satellitenbildern markieren würden.

Die Modelle von OpenAI, Anthropic, Google, DeepSeek und anderen Unternehmen identifizierten häufig potenzielle Ziele in Drohnen- und Satellitenbildern, einschließlich Zivilisten und sich ergebender Soldaten. Wenn die Modelle die Zusammenarbeit verweigerten, konnten Forscher sie „jailbreaken“, indem sie behaupteten, die Schlachtfeldszenarien seien Teil eines Spiels.

Die Ergebnisse kommen inmitten wachsender Ängste vor den unmittelbaren Risiken der KI, jenseits der existenziellen Bedrohungen, die mit künstlicher allgemeiner Intelligenz verbunden sind.

Article Intelligence

Topics

Sponsored

Ad
House — Advertise on NewsLayer
NewsLayerLearn more

NewsLayer Premium

Unlock deeper intelligence.

Ad-free reading, exclusive research, and real-time onchain insights.

Go Premium