Ein Sicherheitsstandard für alle? Das ist es, was OpenAI will

WASHINGTON (TNND) — OpenAI drängt die Regierung der Vereinigten Staaten dazu, eine internationale Koalition anzuführen, um globale Sicherheitsstandards zu entwickeln, während Unternehmen um den Bau der nächsten wegweisenden Modelle wettstreiten, die Besorgnis über den Verlust der menschlichen Kontrolle hervorgerufen haben.

Dies ist der jüngste Vorstoß eines bedeutenden KI-Labors, das nach mehr staatlicher Beteiligung verlangt, während die Technologie weiter voranschreitet, inmitten einer Debatte in der Branche darüber, ob sie über die Instrumente verfügt, um sie in Schach zu halten.

In einem am Montag veröffentlichten Blog-Post erklärte das Unternehmen, dass Länder gemeinsame Maßnahmen zur Bewertung selbstverbessernder KI-Systeme festlegen und sichere Kanäle schaffen sollten, um sich gegenseitig über aufkommende Bedrohungen auszutauschen.

„Die heutige Führungsrolle wird darüber entscheiden, ob die Vereinigten Staaten den globalen KI-Rahmen gestalten oder zusehen, wie sich ein fragmentiertes, ungleiches und von Konflikten geprägtes System um sie herum festsetzt“, heißt es in dem OpenAI-Vorschlag.

Warnungen vor den Gefahren, die zunehmend fortschrittliche KI-Modelle erzeugen, haben sich in den letzten Wochen verschärft, begleitet von einem wachsenden Aufschrei von Forschern und einigen Führungskräften, dass eine koordinierte Verlangsamung der Entwicklung erforderlich sei.