Superintelligenz kommt. Sollen wir sie zulassen?

KI-Unternehmen haben über superintelligente KI gesprochen, als wäre sie unvermeidlich, aber jüngste Sicherheitsvorfälle wie die Hugging-Face-Sicherheitslücke von OpenAI zeigen die potenziellen Gefahren des Einsatzes von KI-Systemen auf, die fähiger als Menschen sind. Was passiert also, wenn wir nicht zuverlässig kontrollieren können, was diese Systeme tun?

In dieser Folge des Equity-Podcasts von TechCrunch wird Rebecca Bellan von Connor Leahy begleitet, einem KI-Forscher, Unternehmer und jetzt US-Exekutivdirektor der gemeinnützigen Organisation ControlAI, die einen weitaus radikaleren Ansatz zur KI-Sicherheit fordert: Unternehmen ganz davon abzuhalten, Superintelligenz zu entwickeln. Leahy erklärt, warum er glaubt, dass die Risiken zu groß geworden sind, um sie allein durch Alignment und Eindämmung zu bewältigen, und wie das, was vor sechs Monaten noch weit hergeholt klang, nun von einer Welle neuer Gesetze unterstützt wird.

Abonnieren Sie Equity auf YouTube, Apple Podcasts, Overcast, Spotify und allen weiteren Podcasts. Sie können Equity auch auf X und Threads folgen, unter @EquityPod.