マイクロソフトがCopilotエージェントに「ブレーキ」を装着：メール送信や支払い前に必ず人間の承認が必要

Microsoftは9月にCopilot Studioに大幅な調整を実施することを発表しました。AIエージェントはツールを使用する前に必ず人間による承認が必要となります。このプラットフォームはAIエージェントの構築と管理のために利用されており、メール、チケット、支払いなどの業務ツールに接続できます。今回のアップデートにより、開発者は各ツールやエージェントごとに承認スイッチを設定可能となり、承認が必要なツール呼び出しは一時停止され、承認リクエストとエージェントの意図が表示されます。ユーザーは「承認」「セッション承認」または「拒否」を選択できます。Microsoftは、適用される3つのケースとして「メール送信」「チケットクローズ」「支払い処理」を明確に挙げています。これらのセンシティブな操作に承認フローが設定されると、AIエージェントは自律的に処理を実行できません。この動きはAIエージェントの安全性とコントロール性をMicrosoftが重視していることを反映しています。

記事作者・出典：AIBase

Microsoftは9月よりCopilot Studioの調整を順次展開する予定であり、AIエージェントはツールの使用前に人間による承認が必要となります。Copilot StudioはMicrosoftが提供するAIエージェントの構築と管理のためのプラットフォームであり、エージェントはメールやチケット、支払いなどの業務ツールに接続できます。

Microsoftの公式紹介によると、Copilot Studioでは開発者がAIエージェントによる特定ツールの実行に事前に人間の承認を要求できるようになりました。各ツールやエージェントごとのスイッチを利用することで、承認が必要なツール呼び出しは一時停止となり、AIエージェントの意図を説明する承認リクエストが表示されます。ユーザーは、操作の実行前に「承認」「セッション承認」または「拒否」の選択が可能です。

Microsoftは適用例として「メール送信」「チケットクローズ」「支払い処理」の3つのシーンを挙げています。これらの動作に承認フローが設定されている場合、AIエージェントは自動で処理を続行することができません。