Anthropic warnt: „KI-Würmer“ könnten sich wie Viren autonom auf Geräten verbreiten

Das Unternehmen für künstliche Intelligenz (KI) Anthropic warnte davor, dass selbstreplizierende autonome KI-Systeme beginnen könnten, sich ohne menschliches Eingreifen auf Benutzergeräten zu verbreiten, ähnlich wie Computerviren.

Abtrünnige „KI-Würmer“ könnten damit beginnen, autonom Alltagsgeräte wie Android-TVs, intelligente Haushaltsgeräte, Kameras und andere mit dem Internet verbundene Geräte mit grundlegender Rechenleistung und geringer Sicherheit anzugreifen, so ein Bericht der Forscher William Zhou und Daniel Freeman für das Frontier Red Team von Anthropic vom Montag.

Kleine KI-Modelle könnten „nur noch Monate davon entfernt sein, fähig genug zu sein, sich auf kommerziellen Internet-of-Things (IoT)-Geräten selbst zu replizieren“, was eine herausfordernde Bedrohung darstellen würde, da es „keinen zentralen Punkt zum Abschalten“ gäbe, so die Autoren.

Die Warnung folgt auf erneute Besorgnis über die wachsenden mathematischen Fähigkeiten von KI-Modellen, die schließlich die in Krypto-Wallets verwendeten kryptografischen Signaturen brechen könnten, was etwa ein Drittel des Bitcoin-Bestands gefährden würde.

Fast ein Drittel des weltweiten Bitcoin-Bestands, oder 6.26 Millionen BTC, befindet sich derzeit auf Adressen, die anfällig dafür sind, von KI-Modellen oder Quantencomputern geknackt zu werden. Davon sind jedoch 4.33 Millionen aufgrund der Wiederverwendung von Adressen gefährdet, was bedeutet, dass das Verschieben dieser BTC auf neue Wallets die Gefährdung beenden würde, schrieb Glassnode-Mitbegründer Rafael Schultze-Kraft am Donnerstag in einem X-Post.