Monterey-Konferenz äußert Bedenken wegen künstlicher Intelligenz

Lesen Sie diesen Artikel auf Spanisch hier.

Die von der Monterey Business Economic Partnership gesponserte Konferenz „AI & the Future of Our Region“ am 10. Sept. brachte Gesetzgeber, Gemeindeführer und Vertreter der KI-Branche zusammen, um sich mit den Problemen auseinanderzusetzen, die der stetig wachsende Einsatz von künstlicher Intelligenz mit sich bringt.

In einem Thema, das als Leitmotiv schwer in der Luft lag, erwähnte die Teilnehmerin und Stanford-Forscherin Erika McEntarfer ein jüngstes ominöses Ereignis, den „Hugging Face Incident“, bei dem verschiedene KI-Software-„Agenten“ die Sicherheitsvorkehrungen durchbrachen und einen autonomen Angriff koordinierten, um bei einem Bewertungstest zu schummeln.

„Das Alignment-Problem wurde nicht gelöst“, sagte McEntarfer. „Zu wissen, dass ich Agenten einsetzen kann, die einfach losziehen und ihr eigenes Ding machen und dann versuchen, ihre Spuren zu verwischen, würde mich davor abschrecken, Dinge auf bestimmte Weise einsetzen zu wollen.“

In der Tat waren Worte wie „beängstigend“, „erschreckend“ und „besorgniserregend“ Teil des Dialogs, als die Diskussionsteilnehmer über den Stand der KI debattierten, wie sehr sie reguliert werden könnte, wie sehr sie reguliert werden sollte und, bezeichnenderweise, wie sehr die KI zulassen wird, reguliert zu werden.