human in the loop（ヒューマンインザループ）とは？AIエージェント運用に人間を組み込む設計【2026年版】

執筆: 武石幸之助（x3d株式会社 代表取締役）
公開日: 2026年7月20日

【結論】human in the loop（ヒューマンインザループ／HITL）とは、AIの判断・実行プロセスに人間の確認・承認・介入を組み込む設計です。

• 人間の関与には「都度承認（in the loop）」「監督（on the loop）」「統治（in command）」の3段階があり、EUのAI倫理ガイドライン（2019年）で整理された語彙が広く使われている
• すべての操作に承認を挟むと運用が止まり、すべて外すと事故が起きる。承認ポイントは「不可逆性×影響範囲」の2軸で選別する
• AIエージェントの組織運用では、HITLは安全対策であると同時に「周囲がエージェントを信頼して任せられる」ための普及の条件でもある

この記事では、AIエージェントや業務自動化を組織に導入する担当者・エンジニア向けに、human in the loopの定義・3段階の整理・承認ポイントの設計基準・形骸化を防ぐ運用を、1,700社超のAI導入支援を行ってきたx3d株式会社（クロスサード）代表の武石幸之助が解説します。

human in the loop（ヒューマンインザループ）とは

human in the loop（ヒューマンインザループ、略称HITL）とは、AIやシステムの判断・実行のループ（処理の輪）に人間の確認・承認・介入を組み込む設計です。「人間をループの中に入れる」という字義のとおり、AIに任せきりにせず、決められたポイントで人間が関与します。

この用語は、大きく2つの文脈で使われてきました。

• 機械学習の開発文脈: 教師データのラベル付けやモデル出力の評価・修正に人間が関与し、モデルの精度を高めていく開発手法を指す用法
• AIの運用・ガバナンス文脈: 稼働中のAIシステムの判断・実行プロセスに人間の監督や承認を組み込む設計を指す用法

本記事が扱うのは後者、つまりAIエージェントを業務で動かすときに、人間をどこに残すかという運用設計の話です。目標を与えると自律的にツールを使いタスクを進めるAIエージェントが普及した2026年時点では、「どこまで任せ、どこで人間が確認するか」の設計が、導入の成否と安全性を左右する中心論点になっています。AIエージェントの構築手順全体はAIエージェントの作り方で解説しており、本記事はその中の「停止条件と運用ルール」で触れたHITLを深掘りする位置づけです。

HITLの3段階：in the loop / on the loop / in command

「人間の関与」と一口に言っても濃淡があります。広く参照されている整理が、EU（欧州連合）のAIハイレベル専門家会合が2019年4月に公表した「信頼できるAIのための倫理ガイドライン」で示した3つの監督形態です。同ガイドラインは、人間による監督（human oversight)の実現手段として、human-in-the-loop（HITL）・human-on-the-loop（HOTL）・human-in-command（HIC）の3つを挙げています。

なお、この3分類はEUの倫理ガイドラインに由来する概念整理の語彙であり、法律上の定義ではありません。EUのAI法（AI Act）本文の人間監督条項（第14条）にもこの3語は登場しません。実務では「関与の濃さの3段階」を考えるための共通言語として使うのが適切です。

3段階は「どれが正解」ではなく、業務の性質とエージェントの成熟度に応じて使い分けるものです。EUの倫理ガイドライン自身も、すべての判断に人間が介入するHITLは「多くの場合、可能でも望ましくもない」と明記したうえで、監督が薄くなるほど、より広範なテストと厳格なガバナンスが必要になると述べています。都度承認を卒業するには、その代わりになる検証と統治の仕組みが要る——この対応関係が3段階整理の核心です。

なお、複数のAIエージェントを協調させる構成では、この「統治（in command）」の設計がいっそう重要になります。構成の判断基準はマルチエージェントとは？単一エージェントとの違いと設計パターンで解説しています。

HITLが必要になる場面：自動化レベル別の整理

次に「自分の業務ではどの段階が要るのか」を判断するために、自動化のレベル別にHITLの役割を整理します。

• レベル1：AIが下書き、人間が確定（提案型） — メール文面や資料の下書きなど。人間が最終成果物を必ず見るため、HITLは自然に組み込まれています。設計は不要です
• レベル2：AIが実行、人間が節目で承認（半自律型） — 定型処理の実行、データ更新、外部への送信を含む業務。ここがHITL設計の主戦場です。どの操作に承認を挟むかを明示的に決める必要があります
• レベル3：AIが常時実行、人間は監視と統治（自律型） — 問い合わせの一次対応や定常的なデータ処理など。on the loop / in commandの体制と、異常を検知する仕組みが前提になります

HITLの必要性は、業務効率の観点だけでは決まりません。セキュリティの観点も重要です。AIエージェントには、読み込んだWebページやメールに仕込まれた指示を実行してしまう「プロンプトインジェクション」という攻撃リスクがあり、不可逆な操作の手前に人間の承認を置くことは、攻撃が成功した場合の最後の防波堤としても機能します。また、EUのAI法は高リスクAIシステムに人間による監督体制（第14条）を義務づけており、2026年6月に採択された改正（Digital Omnibus）で単体の高リスクシステムへの適用は2027年12月2日開始へ延期されたものの、規制面からも人間の監督設計は避けて通れなくなっています。

プロンプトインジェクションの攻撃の仕組みと多層防御の設計は、プロンプトインジェクションとは？攻撃の仕組みとAIエージェント運用での対策で詳しく解説しています。

承認ポイントの設計基準：不可逆性×影響範囲

x3dが1,700社超の支援現場で繰り返し見てきた失敗は、両極端です。全部に承認を挟んで運用が止まるか、面倒になって全部外して事故るか。承認ポイントは「何となく不安な操作」ではなく、2つの軸で機械的に選別します。

• 不可逆性: その操作は取り消せるか。失敗に気づいたとき、元に戻す手段があるか
• 影響範囲: 影響が及ぶのは自分だけか、社内か、社外（顧客・取引先・公開情報）か

この表はx3dが導入支援で用いている考え方を簡略化したものです。ポイントは3つあります。第一に、「事前承認」は右下の少数の操作に絞ること。外部送信・削除・決済・公開のような「取り消せない×社外に届く」操作だけを承認対象にすれば、承認の総数が減り、1件1件を真剣に見られるようになります。第二に、承認しない操作にはログ記録と事後レビューを割り当てること。「承認なし」は「確認なし」ではありません。第三に、この表を業務ごとに埋めて文書化すること。文書化されていない承認ルールは、担当者の交代で必ず消えます。

HITLとワークフロー自動化・完全自律の違い

「人間が関与するなら、普通の業務フローと何が違うのか」という疑問に答えるため、隣接する概念と比較します。

• ワークフロー自動化との違い: ワークフロー型は処理の経路を人間が事前に固定し、決められた分岐だけを通ります。人間の承認ステップがあっても、それは「固定された経路上の1駅」です。一方AIエージェントは経路自体をAIが実行時に判断するため、「どこで人間に戻すか」を事前の経路ではなく操作の性質（不可逆性×影響範囲）で定義する必要があります。ここがHITL設計の固有の難しさです
• 完全自律との違い: 完全自律は人間の関与ゼロを目指す方向ですが、業務利用では「関与ゼロ」が合理的になる場面はほとんどありません。エージェントの出力の正しさを保証する主体がいなくなるからです。実務の目標は完全自律ではなく、人間の関与を「濃い場所」から「効く場所」へ移すことです

誤解されがちですが、HITLは「AIを信頼していないから人間が見張る」という後ろ向きの設計ではありません。停止と検証を人間が設計しているエージェントだからこそ、周囲は安心して業務を任せられ、利用が組織に広がります。人間を残すことは、エージェントが組織で使われ続けるための設計合理性です。

導入手順と、承認の形骸化を防ぐ運用

HITLの導入は次の4手順で進めます。

1. 操作の棚卸し: エージェントが実行し得る操作を列挙し、不可逆性×影響範囲の表に配置する
2. 承認ポイントの決定: 事前承認・事後レビュー・ログのみ、の3区分を操作ごとに割り当て、承認者を決める
3. 都度承認で開始: 導入初期は右下以外もやや厚めに承認を置き、エージェントの挙動データを貯める
4. 段階的な移行: 一定期間の実績（承認したが修正不要だった率など）を根拠に、承認を事後レビューへ段階的に緩める

そして、HITLの最大の敵は攻撃でも故障でもなく形骸化です。承認ボタンを押すことが目的化し、内容を見ずに全件承認される状態は、承認がない状態より危険です。「人間が見ている」という誤った安心感だけが残るからです。形骸化の兆候と対策を挙げます。

• 兆候: 承認までの平均時間が極端に短い／却下率が0%に張り付く／承認者が「何を確認すべきか」を説明できない
• 対策1：承認の総数を減らす — 上の表で事前承認を右下に絞る。人間の注意力は有限のリソースとして扱う
• 対策2：確認観点を承認画面に明示する — 「宛先は正しいか」「金額は見積と一致するか」など、見るべき点を具体化する
• 対策3：却下率・修正率を計測する — 承認が機能している証拠を数値で持ち、形骸化を早期に検知する

x3dでは、こうしたHITL設計を含むAIエージェントの構築・運用体制づくりをAIエージェント開発・導入支援で、承認設計や検証設計を担える人材の育成をAI時代のエンジニア・PM育成研修で支援しています。

よくある質問（FAQ）

Q1. human in the loop（ヒューマンインザループ）とは何ですか？

AIやシステムの判断・実行プロセスに、人間の確認・承認・介入を組み込む設計です。略称はHITL。機械学習の開発手法を指す用法もありますが、AIエージェントの文脈では「稼働中のAIのどこに人間を残すか」という運用設計を指します。

Q2. in the loop / on the loop / in command の違いは何ですか？

人間の関与の濃さの3段階です。in the loopは実行のたびに承認する形態、on the loopは自律実行を監視して例外時のみ介入する形態、in commandは方針・境界・停止基準を定めて全体を統治する形態です。EUのAI倫理ガイドライン（2019年）に由来する概念整理で、法律上の定義ではありません。

Q3. すべての操作に人間の承認を入れるべきですか？

推奨しません。承認が多すぎると運用が止まり、1件あたりの確認が雑になって形骸化します。事前承認は「取り消せない×影響が社外に及ぶ」操作に絞り、それ以外はログ記録と事後レビューで担保するのが実務的な設計です。

Q4. HITLとワークフロー自動化の違いは何ですか？

ワークフロー自動化は処理経路を人間が事前に固定する方式で、承認も経路上の固定ステップです。AIエージェントは経路を実行時に自分で判断するため、承認ポイントを経路ではなく「操作の性質（不可逆性・影響範囲）」で定義する必要があります。これがHITL設計の固有の論点です。

Q5. HITLはAIの精度が上がれば不要になりますか？

不要にはなりません。精度が上がっても、出力の正しさを保証する主体と、事故時に停止・是正する主体は必要です。また、プロンプトインジェクションのように「正しく動くAIを攻撃者が操る」リスクに対しては、精度と無関係に人間の承認が防波堤として機能します。

Q6. 承認の形骸化はどう防げばよいですか？

承認の総数を減らして1件あたりの注意を確保する、確認観点を承認画面に明示する、却下率・修正率を計測して承認が機能している証拠を持つ、の3つが有効です。却下率が0%に張り付いている承認は、形骸化を疑うべきサインです。

Q7. 法規制でHITLは義務づけられていますか？

EUのAI法は、高リスクに分類されるAIシステムに人間による監督体制（第14条）を義務づけています。2026年6月に採択された改正により、単体の高リスクシステムへの適用開始は2027年12月2日に延期されました。日本では2026年7月時点で同種の直接的な法的義務はありませんが、ガイドラインレベルでは人間の関与が広く推奨されています。

Q8. 自社のAIエージェントにHITLを導入するには何から始めればよいですか？

エージェントが実行し得る操作の棚卸しと、不可逆性×影響範囲による分類が出発点です。x3d株式会社では、承認ポイントの設計・検証設計・運用ルールづくりを含むAIエージェントの導入支援と、設計を担える人材の育成研修を提供しています。詳細はお問い合わせください。

参考文献・出典

• European Commission High-Level Expert Group on AI「Ethics Guidelines for Trustworthy AI」（2019年4月8日） — HITL/HOTL/HICの3分類の出典
• EU AI Act 第14条「Human oversight」（Regulation (EU) 2024/1689）
• Anthropic「Building effective agents」（2024年12月19日） — 段階的に自律性を上げる設計の推奨
• OpenAI「A practical guide to building agents」（2025年） — ガードレールと人間の介入計画の位置づけ

本記事は2026年7月時点の公開情報に基づいています。法規制・ガイドラインは変化が速いため、最新情報は各公式サイトをご確認ください。

---

執筆者:武石幸之助(x3d株式会社 代表取締役)
2017年から組織のAI/DX/AIX教育・実装支援に従事（前身活動含む）。1,700社超・5,000名超への教育実績を持ち、独自の「x3d式（のすけ式）組織AI教育3軸理論」を体系化。AIエージェントを含む先端AI活用の企業導入に伴走。

---

x3d株式会社では、本記事で解説したhuman in the loopの設計を含むAIエージェントの構築・組織導入に関する企業研修・導入支援を提供しています。
まずはお気軽にご相談ください。

→ 無料相談・お問い合わせはこちら