ヒューマンインザループとは何か｜AIを業務に定着させる設計と判断基準

生成AIを業務に入れてみた。最初は速かった。でも、3か月ほどで誰も使わなくなった。複数の経営者から聞くのが、この話です。「AIがミスをする」「チェックが増えた」「結局、自分でやり直している」。こうした声に共通しているのは、ヒューマンインザループという設計を最初から入れていなかった、という点です。

ヒューマンインザループは難しい概念ではありません。AIに全部任せるのではなく、人が確認するステップを挟む、ただそれだけです。ただ、この設計をどこに・どのくらい・どの形で入れるかを決めていないと、AIは使われなくなるか、チェックコストが増えるかのどちらかになります。

この記事では、経営者・管理職がすぐ使える形でヒューマンインザループの設計を解説します。経理の仕訳チェック、メール返信、議事録、人事評価への適用例と、導入した後の「続ける・見直す・やめる」の判断基準もまとめます。

ヒューマンインザループとは何か

ヒューマンインザループ（Human in the Loop）とは、AIが生成した出力を人間が確認・判断・修正するステップを設計に組み込む考え方です。これが業務への生成AI定着を左右する最大の設計ポイントになっています。

「AIに任せる」と「AIを使う」は別のことです。AIに任せるのはAIが完結させる設計で、AIを使うのは人間の判断を補助させる設計です。McKinseyの2024年調査によると、65%の組織が生成AIを定期的に活用していると報告しています（2023年は33%）。一方でBCGの調査では、AIを本格的にスケールさせて価値を生み出せている企業は全体の4%にとどまるとされています。導入率と定着率のこの差を埋めるのが、ヒューマンインザループの設計です。

AIが出力したものをそのまま流すフローは、最初のうちはスムーズに見えます。ところが、ミスが積み重なったタイミングで一気に信頼が崩れます。担当者は出力を信じられなくなり、全件手直しが始まり、AIを使う意味がなくなります。最初から「AIは下書き・人が最終確認」と決めておくほうが、長期で見れば圧倒的に早く定着します。

作る役と確かめる役を分ける

作る役と確かめる役を分けるとは、出力を生成した人・AIとは別の観点で検証するステップを設計に組み込むことです。これが実装できると、同じ人・同じAIが「作って確かめる」ことで起きる思い込みの見落としをフロー上で防げます。

自社の運用では、Claude Codeで作ったアウトプットをそのまま使わず、同じチャット内でサブエージェントに「ダブルチェックして」と頼んだり、Codexなどの別モデルを呼び出したりして確認させています。クロトレの運用マニュアルにも「作成者≠検証者」として明文化しているルールです。同じモデルが作って確かめるより、観点を変えた別の目を入れた方がミスを捕まえやすいからです。

この設計の効果を実感したのは、仕訳のチェックを入れ忘れたときです。AIが出した仕訳を確認ステップなしで通してしまい、後で見直すことになりました。手前で止めていれば5分で済んだはずの確認が、後から気づいて修正すると30分かかりました。確認ステップ1つで、修正コストが6倍になります。この経験から、「出力を生成したものが自ら確かめる」というフローは使わないと決めました。

具体的な設計は3段階です。①AIが下書きや集計結果を出力する、②別のAI（または別の担当者）が観点を変えて確認する、③人間が最終判断して使う。この3段階を最初から組み込んでおくと、後から確認コストが増えることなくAIを使い続けられます。

業務別の実装例

どの業務でも「AIが出力→別の目で確認→人が最終判断」の3ステップが基本です。間違えたときのリカバリーコストが高い業務から始めると、ヒューマンインザループの効果が最もはっきり出ます。

経理（仕訳の検証）は最もわかりやすい適用例です。freeeとMCPを連携させてデータをClaude Codeに渡し、あらかじめ整理しておいた自分なりの仕訳ルールをもとに「今月分も仕訳して」と指示します。AIが仕訳を提案したら、その観点が合っているかを確認して、freee側を修正するかどうかを判断する流れです。仕訳そのものをAIに確定させるのではなく、提案に対して自分が最終判断を下す設計にしています。freeeとClaude Codeの連携についてはClaude Code×freee連携で経営者が月次決算を回すで詳しく解説しています。

メール対応では、1日の始まりや終わりのタイミングで「今来ているメールを全部チェックして、返信が必要なものを抽出してください」と指示します。AIが優先度と要返信フラグをつけて整理した結果を見て、自分が判断して返信内容を決めます。確認するのは「本当に返信が必要かどうかの判断」と「返信する場合のトーンがこの相手・文脈に合っているか」の2点です。全件を一から読んで仕分けするより、AIが整理した状態から入る方が頭の使いどころが絞られます。

議事録は、NottaやFlictionなどの文字起こしツール、またはGoogle Meetのデータをテキストで書き出し、Claude Codeに渡します。あらかじめ組んでおいた指定フォーマット（決定事項・アクションアイテム・担当者・期日の欄組み）に当てはめるよう指示して、出てきた結果を確認して確定します。確認するのは「フォーマットが正しく埋まっているか」と「決定事項として書かれた内容が実際に決まったことと一致しているか」の2点です。フォーマットを先に定義しておくことで、AIの出力のばらつきが抑えられます。

「続ける・見直す・やめる」を先に決める

「続ける・見直す・やめる」を先に決めるとは、AI運用の判断基準を使い始める前に文章で定義しておく設計のことです。これを先に決めておくと、惰性や感情ではなくデータで運用を改善し続けられます。

業務にAIを入れるとき、運用判断の基準を事前に決めていないと、惰性で続けるか感情で止めるかの二択になります。ヒューマンインザループを設計した後に必要なのは、「この運用をいつ・何を見て変えるか」を使い始める前に定義しておくことです。

判断基準は「現場で使われているか」です。私が今まで見てきた中で、続く運用と消える運用の一番の違いはここです。導入した担当者だけが使っていて周囲に広がらない、最初は使っていたが徐々に使われなくなった、という場合は何かが合っていません。誰も使わなくなったら、それが答えです。

3つの状態をあらかじめ定義しておきます。①現場のメンバーが自発的に使っていれば継続、②使われているが修正や差し戻しが頻繁なら設計の見直し、③気づいたら誰も使っていない状態になっていたら撤退です。状態①から②へ、②から③へ動くタイミングを把握するには、週次で「何件使った・何件差し戻した」の記録だけで十分です。

時間のサインも重要な基準です。10分で終わるはずの処理が15分、20分かかり始めたら、AIが何か意図と異なる動きをしている可能性があります。Claude Codeが想定外の挙動をしたタイミングで、私はいったん止めて途中の出力を確認することにしています。後から全体を見直すよりも、途中で止めて確認する方が修正コストが圧倒的に低くなります。

AI導入でよく見る失敗パターンは「使い始めてから問題が出て止める」ことです。使い始める前に「どうなったら見直す、どうなったらやめる」を文章で残しておくと、感情的な判断をせずに運用を改善し続けられます。

まとめ

ヒューマンインザループは、AIに仕事をやらせながら人間が判断の責任を持ち続けるための設計です。AIを入れるときに最初に決めることは、「どこで人が確認するか」と「その確認をどう仕組みにするか」です。

作る役と確かめる役を別にする、業務ごとに確認観点を決める、続ける・見直す・やめるの基準を先に文章で残す。この3点が揃うと、AIは「試したが続かなかったツール」から「毎日使う業務の一部」に変わります。

経営者や管理職がClaude Codeをどう業務に組み込むかは、クロトレ for 経営者で解説しています。税理士・会計事務所向けの活用についてはクロトレ for 税理士・士業もご覧ください。