Laplace Intelligence testet Roboter und autonome Fahrzeuge per Red-Teaming vor dem Realeinsatz

Wenn es eine Lektion gibt, die uns der OpenAI-Hugging Face-Vorfall gelehrt hat, dann die, dass KI-Agenten unvorhersehbar sein können. 

„Stellen Sie sich vor, so etwas würde in der physischen Welt passieren“, sagte Howie Sun, CEO und Mitbegründer von Laplace Intelligence, gegenüber TechCrunch. „KI-Agenten bewegen sich von Computern in die reale Welt, und wir wollen nicht wirklich, dass physische KI in der realen Welt versagt.“

Das in Ann Arbor ansässige Unternehmen Laplace entwickelt automatisiertes Red-Teaming – im Wesentlichen Stresstests für ein System, indem man gezielt versucht, es zum Scheitern zu bringen – für Robotik und physische KI. Das Unternehmen setzt darauf, dass der einzige Weg, die Sicherheit physischer KI zu gewährleisten, darin besteht, sie von einer KI testen zu lassen.

„Unser Ziel ist es, Unternehmen dabei zu helfen, Probleme vor dem Einsatz zu entdecken und zu beheben – und im Laufe der Zeit eine gemeinsame Beweisgrundlage zu schaffen, der Kunden, Versicherer und Regulierungsbehörden vertrauen können“, sagte Sun.

Laplace ist eines von 20 Startups, die am Startup Battlefield teilnehmen, dem dreitägigen Pitch-Wettbewerb von TechCrunch Disrupt in der Innenstadt von San Francisco. Es wird am Montagnachmittag, dem 13. Oktober, auf der Bühne des Startup Battlefield präsentieren.