OpenAI bestätigt, dass Astra 'kritische' Cyber-Schwelle erreicht hat, aber bald verfügbar sein wird

OpenAI bestätigte am Dienstag, dass sein unveröffentlichtes Astra-Modell einen gefährlichen neuen Meilenstein erreicht hat, während das Unternehmen gleichzeitig bestätigte, dass es die öffentliche Einführung vorantreibt.

In einem Blogpost erklärte OpenAI, dass Astra eine „kritische“ Cyber-Fähigkeitsschwelle erreicht hat, was bedeutet, dass das Modell Risiken auf existenziellem Niveau für die Cybersicherheit darstellen könnte. Das Preparedness Framework von OpenAI verfolgt Risikoniveaus in drei Kategorien: biologisch/chemisch, Cybersicherheit und KI-Selbstverbesserung.

OpenAI bestätigte gegenüber Mashable, dass dies das erste Mal ist, dass eines seiner Modelle in einem der drei Bereiche auf dem kritischen Niveau bewertet wurde, was dies zu einem Wendepunkt in der KI-Entwicklung macht.

Derselbe Blogpost gab auch an, dass Astra „bald verfügbar“ sein wird, aber dass seine fortschrittlichsten Cybersicherheitsfähigkeiten im Interesse der öffentlichen Sicherheit ausgewählten Testpartnern vorbehalten bleiben. Das KI-Unternehmen erklärte, es bereite sich weiterhin auf die sichere Veröffentlichung von Astra vor und werde hinsichtlich des potenziellen Bedrohungsniveaus transparent sein.

Zuvor hatte OpenAI gewarnt, dass es die Möglichkeit nicht ausschließen könne, dass Astra in seinem Preparedness Framework das „kritische“ Niveau erreicht habe.