ヒューマンインザループ(HITL)とは?
ヒューマンインザループ(HITL)とは、AIの処理の途中や出力の後に人間の確認・判断を組み込む運用設計のこと。AIの自動化と人間の責任・品質管理を両立させる基本パターンで、業務へのAI導入では「どこに人を入れるか」の設計が成否を分けます。
実務での使い方
生成AIの出力には誤り(ハルシネーション)が一定確率で含まれるため、業務利用では「AIが下書きし、人が確認して確定する」形が基本になります。重要なのは、人の確認を「全部見る」根性論にせず、リスクに応じて確認の深さを設計することです。
実務の分岐点は「間違いが起きたときの影響」です。社内向けのたたき台なら事後の軽い確認で足り、社外向け文書・金額・契約に関わる出力は送信前の必須チェックにする、のように業務ごとに確認ポイントを決めます。当サイトのAI業務仕分け診断で、業務ごとの向き不向きとあわせて確認の要否を判定できます。
どこに人を入れる?チェックポイント設計の基本
確認ポイントは大きく3箇所あります。①入力前(AIに渡してよい情報かの判断。機密・個人情報の混入チェック)②出力後・利用前(事実確認・トーン調整。最も一般的なHITL)③実行前(AIの判断に基づいて金銭・対外的なアクションを起こす直前の承認)、です。
全業務に3箇所すべては不要です。定型的な社内文書なら②だけ、顧客への自動返信なら②を件数サンプリングに緩めて③を必須に、のように業務のリスクに合わせて濃淡をつけます。「人の確認」が形式的なワンクリック承認に堕ちると、HITLは機能していないのと同じです。
確認者の負担設計も重要です。AIの処理量は人の確認能力を簡単に超えるため、確認が追いつかず素通しになる事故が起きます。処理量を確認能力に合わせて絞るか、確認を要する出力だけを機械的に振り分ける(全件確認からの卒業)のが持続する設計です。
HITLの基本形。①〜③のどこに確認を置くかを業務のリスクで決める。全部に置く必要はない。
全件確認とサンプリング確認の使い分け
確認方式は、全件確認(すべての出力を人が見る)とサンプリング確認(一部を抜き取って品質を監視する)の2つが基本です。社外向け・不可逆・高額の業務は全件、社内向け・修正可能・定型の業務は精度が安定した段階でサンプリングへ移行する、が定石です。
移行の判断は感覚ではなく数字で行います。例えば「直近100件の修正率が5%を下回ったら10%抜き取りに移行する」のように基準を決め、抜き取りで問題率が上がったら全件に戻す、という双方向のルールにします。
この設計はAI活用のROIに直結します。AIで作業が10分の1になっても、全件確認に元と同じ時間をかけていては効果が出ません。「AIの処理コスト+人の確認コスト」の合計で効果を測るのが正しい計算です。
HITLが特に必須になる業務は?
確認を省略してはいけない典型は、①採用・人事評価など人の処遇に関わる判断(AIの単独判断はガイドライン上も禁止事項の定番)②契約・法務・金額の確定に関わる文書③医療・安全に関わる情報④社外への公開文書・広告表現(景品表示法・薬機法などの法令リスク)、です。
これらはEUのAI法などの規制でも人間の監督が求められる方向にあり、社内のAI利用ガイドラインに「AIに単独で判断させない業務」として明記しておくべき領域です。
逆に、議事録の下書き・社内資料のたたき台・アイデア出しなどは軽い確認で十分で、ここに重い承認プロセスを課すと利用が定着しません。「重いものは重く、軽いものは軽く」の使い分けを文書化するのがAIガバナンスの実務です。