AWS begrenzt Datenzugriff von KI-Agenten, selbst bei Manipulation

AWS hat einen Ansatz zur Weitergabe des Benutzerautorisierungskontexts durch KI-Agenten detailliert beschrieben, wodurch Zugriffskontrollen von der Infrastruktur und nachgeschalteten Diensten erzwungen werden können, anstatt sich auf den Agenten selbst zu verlassen.

Kunden, die Amazon Bedrock AgentCore nutzen, können KI-Agenten erstellen, die Informationen aus Amazon DynamoDB-Tabellen, Dokumenten-Repositories, SaaS-Plattformen und internen Wissensdatenbanken abrufen, um Fragen zu beantworten und Workflows zu automatisieren. Ohne Kenntnis über den Benutzer, der eine Anfrage stellt, könnte ein Agent jedoch Informationen zurückgeben, zu deren Einsicht der Benutzer nicht berechtigt ist.

Das folgende Diagramm zeigt die in dieser Demonstration verwendete Architektur. (Quelle: AWS)

„Der Agent fungiert als Orchestrator, nicht als Gatekeeper“, erklärte AWS. „Die Autorisierung wird durch nachgeschaltete Dienste erzwungen.“

Anwendungsfall CRM-Zugriffskontrolle

AWS veranschaulicht den Ansatz mit einer CRM-Anwendung, bei der Mitarbeiter aus den Bereichen Sales und Finance mit demselben KI-Agenten interagieren, um auf Kundeninformationen zuzugreifen.

Sales-Mitarbeiter benötigen Zugriff auf Kundenverträge, Preisstrategien und Vertriebspipeline-Daten, während Finance-Mitarbeiter Zugriff auf Rechnungen, Zahlungsbelege und Finanzberichte benötigen.