要点
エージェントがどの限定されたタスクを担い、どのステップを準備だけにとどめ、どのステップを実行してよいかを開始前に決めておけば、人はAIエージェントに対するコントロールを保てます。エージェントは、設定されたアクセス権と権限の範囲内で作業します。連携システムに変更が反映される前に、責任者が成果を確認し、承認します。
開始前に次の3点が決まっていれば、人はAIエージェントに対するコントロールを保てます。範囲を明確に定めたタスク、エージェントが準備だけにとどめるステップ、そしてエージェントが実行してよいステップです。その際、エージェントは設定されたアクセス権と権限の範囲内でのみ作業します。連携システムに変更が反映される前に、責任者が準備された成果を確認し、承認します。
範囲を明確に定めたタスクから始める
範囲を限定したタスクによって、エージェントが実際にどの情報、システム、権限を必要とするかが分かります。また、その成果が正しいかどうかを検証できるようになります。Hawk IVOでの導入は、次の4つのステップで進みます。
- 初回のご相談：貴社の業務、関係するチーム、目標についてお話しします。
- ユースケースの明確化：必要な情報とシステム、そして効果を何で測定するかを一緒に定めます。
- 実際のユーザーによるパイロット：ユースケースを設定し、運用開始後の最初の数週間を伴走します。
- 拡大：他のチーム、拠点、業務を段階的に追加していきます。
準備か実行か
エージェントは3つのステップで作業します。詳しくは「Agent Workforceとは？」で説明しています。ステップごとに、エージェントがどこまで進めてよいか、どこで人が判断するかを決めます。
| ステップ | エージェントが行うこと | 貴社が決めること |
|---|---|---|
| ナレッジの活用 | 適切な企業・プロジェクトのコンテキストに沿って、関連する情報を参照します。 | どのソースを承認するか |
| 成果の準備 | 情報を集約し、草案や作業の基礎資料を作成します。 | 誰が確認し、選択するか |
| 作業ステップの実行 | 連携システム上の適切なステップを処理します。 | どの接続と権限を適用し、何を事前に承認するか |
計画業務の簡略化した例で、役割分担を示します。Hawk IVO Planがルールと資格に基づいて人員配置を提案し、エージェントが競合をまとめて選択肢を準備します。責任者が承認します。承認されて初めて、変更が連携システムに反映されます。詳しくは、記事「AIによるシフト計画」をご覧ください。
最初に取り組むのに適しているのは、エージェントが準備し、反映前に人が成果を確認するタスクです。エージェントがシステム上でどのステップを直接実行できるかは、設定された接続と承認によって異なります。
承認と権限
Hawk IVO Forceでは、エージェントは貴社が承認した範囲内でのみ行動します。その際、2種類の取り決めを区別する必要があります。権限は、エージェントがシステム上で何をしてよいかを定めるものです。ワークフローにおける承認は、具体的な成果が有効になる前にそれを確定させるものです。
エージェントの枠組みには、次のことが当てはまります。
- エージェントは、設定された接続のみを使用し、貴社が定めた権限の範囲内で作業します。
- 連携システムでのアクションは、管理された形で行われます。
- 再利用可能な作業指示は、スキルとして登録されています。
- 企業ナレッジは、承認されたソースから取得されます。
追跡可能性
エージェントが何を使って作業し、どこで行動できるかが分かっていれば、その動きを追跡できます。その基盤となるのが、導入時に決めた取り決めです。ナレッジは貴社が承認したソースから取得され、繰り返し発生するタスクは登録されたスキルに従います。行動は、設定された接続を通じてのみ行われます。責任者が承認する場合、判断は指名された担当者に残ります。草案、確認、承認を具体的にどのように記録するかは、ユースケースを明確にする中で決めます。
EUのAI規則における人間による監視とは
EUのAI規則（規則（EU）2024/1689）は、第14条で高リスクAIシステムに対する人間による監視を定めています。高リスクAIシステムは、使用中に自然人が効果的に監視できるように設計・開発されなければなりません。第4項によれば、監視を担う人は、次のようなことができる必要があります。
- システムの能力と限界を理解し、その動作を監視すること
- 出力に過度に依存する傾向を意識し続けること
- 出力を正しく解釈すること
- 特定の状況において、システムを使用しないこと、またはその出力を無視、無効化、取り消すことを判断すること
- システムの動作に介入すること、または動作を中断すること
第26条第2項によれば、こうしたシステムの導入者は、必要な能力、訓練、権限を備えた人に監視を委ねます。具体的な活用が高リスクAIシステムに該当するかどうかは、同規則の第6条と附属書に基づいて判断され、個別のケースごとの法的な問題です。この分類にかかわらず、エージェントの作業において誰が判断し介入できるかを決める際に、これらの基準を指針として活用できます。
ウェブサイトのチャット、ナレッジ記事、実行型エージェント
すべてのAIアプリケーションがシステム上で行動するわけではありません。この違いによって、必要なコントロールが決まります。
| 特徴 | ウェブサイトのチャット | ナレッジ記事 | 実行型エージェント |
|---|---|---|---|
| 目的 | 会話の中で質問に答える | テーマを解説する | タスクを成果まで担う |
| 基盤 | メッセージ、開いているページ、ナレッジ記事 | 編集部が管理するテキスト | 企業ナレッジ、スキル、連携システム |
| 作用 | 拘束力のない回答 | 情報提供 | 連携システム上のステップ |
| コントロール | 訪問者による明示的な開始 | テキストの内容面での承認 | 責任者による権限と承認 |
実践例：このウェブサイトのAIアシスタント
hawkivo.comのAIアシスタントは、Hawk IVO Forceで動作しています。そのタスクは狭く限定されています。Hawk IVO、製品、開いているページに関する質問に答え、ページの言語で関連するナレッジ記事を紹介します。他のシステムで作業ステップを実行することはありません。
チャットを開始するかどうかは、ご自身で決められます。「チャットを開始」を選んで初めて、チャットが読み込まれます。その前に、AIとチャットしていること、回答には誤りが含まれる場合があり拘束力がないこと、アシスタントがどのデータを受け取るかが表示されます。アシスタントは、開いているページとセクションを把握します。フォーム欄に入力した内容は受け取りません。
このアシスタントは、小規模ながら企業内のエージェントと同じ取り決めを示しています。範囲を限定したタスク、定められた情報の範囲、そして最初に人が下す判断です。活用の詳細は、ウェブサイトのアシスタントの導入事例をご覧ください。
開始前のチェックリスト
パイロットの前に、次の問いに答えておく必要があります。
- エージェントはどの限定されたタスクを担い、そのタスクはどこで終わりますか？
- 効果を何で測定しますか？
- エージェントにはどの情報が必要で、それはどの承認されたソースから取得されますか？
- どの接続を設定し、その中でどの権限を適用しますか？
- エージェントはどのステップを準備だけにとどめ、どのステップを実行しますか？
- 変更が有効になる前に、誰が成果を確認し承認しますか？
- 草案、確認、承認をどのように記録しますか？
- パイロットはどのユーザーで開始し、どのような基準で他のチームやタスクを追加しますか？
エージェントを自社製品に取り入れたいソフトウェアベンダー向けの問いは、記事「エージェントを自社のソフトウェアに組み込む」で紹介しています。貴社内でそのようなタスクをお考えでしたら、お気軽にご相談ください。