Selbst der König von England hat seine Bedenken gegenüber KI

König Charles war am Donnerstag Gastgeber eines privaten Gipfels mit einigen der prominentesten Namen im Bereich KI und der britischen Regierung, darunter Jensen Huang von Nvidia, Führungskräfte von OpenAI und Anthropic, der neue britische KI-Minister Kanishka Narayan und sogar der Chef des britischen Auslandsgeheimdienstes. Paolo Benanti, der den Papst in KI-Fragen berät, war ebenfalls anwesend.

Die Äußerungen des Königs auf dem Gipfel — abgehalten im Dumfries House, einem Anwesen aus dem 18. Jahrhundert in Ayrshire, das der Wohltätigkeitsstiftung von König Charles gehört — waren bemerkenswert, da die königliche Familie aus verfassungsrechtlichen Gründen normalerweise vorsichtig ist, sich zu tief in politische Themen einzumischen — und KI ist derzeit eines der brisantesten Themen weltweit. Der König forderte die Führungskräfte im Raum auf, einen Weg zu finden, die KI zu kontrollieren, „bevor es zu spät ist“, und fügte hinzu, dass die schnelle Entwicklung dieser Technologie — und ihre „Substanz“ — „sowohl faszinierend als auch zutiefst beunruhigend“ sei.

„KI zeigt bereits eine enorme Kapazität, Leben zu verbessern und zu retten“, sagte er und nannte Medizin und Wissenschaft als Beispiel. „Doch diejenigen, die diese Technologien geschaffen haben, warnen nun zunehmend davor, dass KI Gefahr läuft, dunklere Fähigkeiten zu entwickeln, vielleicht sogar Leben zu nehmen.“ Diese Bemerkung fiel nur wenige Tage, nachdem ein Forscher von Anthropic gekündigt hatte und online schrieb, dass KI-Unternehmen in einem „Wettlauf um den Bau von Maschinen sind, die viel intelligenter als jeder Mensch sind“ und dass die Menschheit „dies möglicherweise nicht überleben wird“.