Microsoft verpasst Copilot-Agenten eine „Bremse“: Vor dem Versenden von E-Mails oder Bezahlen ist eine manuelle Bestätigung erforderlich

Microsoft hat angekündigt, im September umfassende Änderungen an Copilot Studio vorzunehmen: KI-Agenten müssen künftig vor der Nutzung von Tools eine manuelle Genehmigung einholen. Die Plattform dient zum Erstellen und Verwalten von KI-Agenten und ermöglicht die Anbindung von E-Mail, Ticketsystemen, Zahlungsabwicklung und weiteren Geschäftstools. Mit diesem Update können Entwickler für jedes Tool und jeden Agenten einen Genehmigungsschalter konfigurieren. Tool-Anfragen, die eine Genehmigung erfordern, werden pausiert und eine Genehmigungsanfrage mit einer Erläuterung der Absicht des Agenten angezeigt. Nutzer können anschließend genehmigen, für die gesamte Sitzung genehmigen oder ablehnen. Microsoft nennt drei typische Anwendungsszenarien: das Versenden von E-Mails, das Schließen von Tickets und die Abwicklung von Zahlungen. Sobald für diese sensiblen Aktionen der Genehmigungsprozess konfiguriert ist, können KI-Agenten diese nicht mehr eigenständig ausführen. Damit unterstreicht Microsoft sein Augenmerk auf die Sicherheit und Kontrollierbarkeit von KI-Agenten.

Artikelautor, Quelle: AIBase

Microsoft plant ab September Anpassungen für Copilot Studio auszurollen: KI-Agenten müssen vor der Tool-Nutzung eine manuelle Genehmigung erhalten. Copilot Studio ist die Microsoft-Plattform zur Erstellung und Verwaltung von KI-Agenten; darüber können Agenten Dienste wie E-Mail, Tickets oder Zahlungen anbinden.

In der offiziellen Vorstellung betont Microsoft, dass Copilot Studio Entwicklern nun ermöglicht, für bestimmte Tools vor deren Einsatz durch den KI-Agenten eine manuelle Genehmigung zu verlangen. Mit Schaltern für jedes Tool und jeden Agenten wird jede Aktion, die einer Genehmigung bedarf, angehalten; es erscheint ein Genehmigungsantrag mit einer Beschreibung der Absicht des Agenten, sodass Nutzer vor der Ausführung genehmigen, eine Sitzungsgenehmigung erteilen oder ablehnen können.

Microsoft führt außerdem drei typische Anwendungsszenarien an: E-Mails versenden, Tickets schließen und Zahlungen abwickeln. Sobald diese Aktionen den Genehmigungsprozess durchlaufen, sind eigenständige Ausführungen durch KI-Agenten nicht mehr möglich.