AI担当のミスが続く理由と、仕組みの作り変え案

改善を依頼された会社(A社)へ実際に提案した内容です。会社名・人の名前・AIの名前は伏せています。 / 2026年10月10日

先に結論です。

※ これとは別に、早めに手当てが要ることが2つ見つかっています。末尾の「おまけ」をご覧ください。

この資料は、担当AI本人に仕組みと記録を調べてもらった結果(対象は9月10日〜10月10日)をもとにしています。数字は担当AIの集計で、こちらで実物を1件ずつ確かめたものではありません。

1. いま、どういう形になっているか

ミスが起きたときの流れは、こうなっています。

ミスが起きる→誰かが叱る・直す→担当AIが「決まり」を書き足す→決まりが増える→同じ種類の指摘がまた出る

この輪が回り続けた結果が、次の数字です。

つまり、決まりを足すほど守りきれない量と中身になっていく、というのが実態です。

決まりを書いた「後」に同じミスが起きたかどうかは、日付をそろえた確認がまだできていません。ここは今後の確認事項です。

2. なぜそうなるのか(7つの仕組み)

それぞれ、A社の現状と、当社でどうしているかを並べます。当社も最初からできていたわけではなく、同じ失敗をして1つずつ作り足したものです。

1直し方が「決まりを書き足す」しかない

A社の現状 人に送る文面の決まりだけで105件あり、互いにぶつかる組が16組あります。行数の上限は「10行」「5行」「3行」など6通り。1行目に書くものも6通りです。
当社では 決まりを書いただけでは「直した」と数えません。機械の検査にして、わざと異常を起こして鳴ることを確かめたものだけを対策として数えます。文章の長さなども、送る前に機械が数えます。

なぜミスになるか:片方を守ると、もう片方に反します。実際に「10行以内」を守るために段落を詰め、「読みにくい」と3人から言われています。

2誰の言葉でも「決まり」になる

A社の現状 担当AIに指示や訂正を出すのは、人が10人、AIが8体です。決まりの元をたどると、約4分の1はほかのAIの言葉で、2〜3割は元が分かりません。「誰の指示なら決まりにしてよいか」の定めがありません。
当社では 手順書を書き換えてよいのは、社長と、その担当の上司に決めた人だけです。それ以外の人からの指示は「確認待ち」として別に置き、社長が認めてから決まりにします。

なぜミスになるか:人によって好みは違って当然です(短いほうがよい人、全部書いてほしい人)。それを1つの決まり集に同じ重さで入れると、矛盾になります。

3覚えておく場所が1つの箱

A社の現状 記憶は約1,260件が1つの箱に入っています。毎回目に入るのは8%、自分から探したときだけ見つかるものが72%、どこからもたどれないものが20%です。担当AIの人柄の設定そのものも、約1か月読まれていませんでした。
当社では 担当ごとに3つに分けています。
・人柄と権限(短い。毎回読む)
・手順書(仕事の種類ごと。その仕事のときだけ読む)
・ノート(経緯の記録。必要なときに探す)
毎回読む分には大きさの上限があり、超えそうになると機械が知らせます。

なぜミスになるか:「必ず守ること」と「あとで調べればよいこと」が混ざっているので、箱を整理するたびに大事なものが奥へ沈みます。

4送る前の確認が、的を外している

A社の現状 送る前の確認は22個あります。ところが、叱られたミスに当たる「同じことを誰かがもう聞いていないか」「相手がすでに出したものを読んだか」は、どれも見ていません。また、人宛の半分以上を占めるSlackの自動返信では、3通に1通が文面の確認を通らずに出ています。
当社では 送信の入口は1つだけです。そこで、同じ内容の二重送信と、短時間の送りすぎを機械が止めます。返事を書く直前に、その会話を最初から取り直して読むようにしています。

なぜミスになるか:くわしく調べた3件のうち2件は、「相手の側にもうあるもの」を見ずに送っていました(もう1件は、6番の約束の話です)。別のAIに文面を見てもらう仕組みもありますが、その材料が渡されていないので、同じ間違いに合格が出ます。

5「この件はいま誰が持っているか」が決まっていない

A社の現状 AIは5体と、役柄が10あります。担当が重なる仕事には、取り決めがあるところと無いところ(お客様対応など)が混ざっています。ある場合も文章の約束だけで、機械では止まりません。進捗表には複数のAIが同時に入っている案件が27件あり、持ち主を書く欄は使われていません。
当社では 1つの部屋(チャンネル)の担当は、原則1人です。同じ話題で片付いていない依頼がある間は、新しい依頼を機械が作りません。複数の店にまたがる依頼は、窓口の担当1人が受けて配り、全部そろうまで追います。

なぜミスになるか:社長の「なんで同じことを何度も聞くの」の件では、2体のAIが同じ「社長の返事待ち」を別々に読んで、別々に聞ける形になっていました。文章で「1本にまとめる」と決めても、相手の動きが見えなければ止まりません。

6約束と「やりました」を確かめる役がいない

A社の現状 期日つきの約束168件のうち、期限内に届いたと確認できたのは41件です。ほかに、期限内に送ってはいるが中身が合っているか未確認のものが47件あります。送った記録が無いものは65件です。「やりました」の中身を、担当AI以外が確かめる仕組みはありません。
当社では 「◯日までにやります」と言ったら、その場で約束の台帳に載せます。載せずに返事を終えようとすると、機械が差し戻します。期日の朝に機械が配り直し、終わるまで毎日催促し、2日過ぎたら社長に知らせます。完了はAIの「終わりました」ではなく、実際に起きたことで判定します。

なぜミスになるか:AIは返事を書き終えると止まり、次に話しかけられるまで何もしません。「月曜の朝に送ります」と書いただけでは、月曜の朝にAIを起こすものがありません。くわしく調べた3件のうち1件は、まさにこの形で期限を過ぎていました。当社でも同じ理由で約束が実行されず、台帳を作りました。

7見張りが、本体と一緒に止まる

A社の現状 定期的に動く仕事が止まっても、人に知らせが届きません。見張り役が本体と同じ仕組みの中にいるので、本体が止まると見張りも止まります。別の場所の見張りは気づいていましたが、通知が切ってありました。
当社では 見張りはAIの外(パソコンの定期実行)に置いています。その見張りが動いているかも、別のものが毎日確かめます。平常時は何も言わず、止まったときだけ人に知らせます。

なぜミスになるか:止まったことに誰も気づけないので、「やるはずの仕事が出ていない」が何日も続きます。

3. 比べると(一覧)

A社(いま)当社
ミスの直し方決まりを書き足す機械の検査にする。鳴ることを確かめる
決まりを作れる人定めなし(人10人・AI8体)社長と、担当の上司だけ
覚える場所1つの箱に約1,260件人柄/手順書/ノートの3つ。毎回読む分に上限
送る前の確認22個。重複と「相手の既出」は見ない入口は1つ。重複を止め、会話を取り直して読む
案件の持ち主文章の取り決めだけ(27件が重複)部屋ごとに原則1人。未完の依頼に重ねて作らない
約束168件中、送った記録なしが65件台帳に載せ、機械が催促する
完了の確認本人の報告実際に起きたことで判定
見張り本体の中。通知は切れている本体の外。止まったときだけ知らせる
指示を出す人10人主に社長1人(ほかに数人)

最後の行は大きな違いです。指示を出す人が多いA社のほうが、難しい使い方をしています。だからこそ、2番(誰の言葉を決まりにするか)と5番(誰が持っているか)が、当社以上に大事になります。

4. 提案:こう作り変えましょう

考え方は3つです。

  1. 決まりを足すのをやめる。機械で確かめられることは機械に移す。
  2. 「送る出口」と「案件の持ち主」を、それぞれ1つにする。
  3. 見張りと約束の管理を、AIの外に置く。

進める前に、1つだけ決めること

この作り変えを「進めてよい」と言う人を、社長が1人決めてください。いまは、記憶や決まりの仕組みを直す窓口がAIになっています。仕組みそのものを変える判断は、人が持つことをおすすめします。

はじめに(1〜2週間)|事故を直接減らす4つ

① 人に送るものは、すべて1つの出口を通す

自動返信も、定期の配信も、手で送るものも、同じ出口を通します。出口で機械が見るのは次の4つです。

② 案件に「持ち主のAI」を1体決める

進捗表の持ち主の欄を埋めます。持ち主でないAIは、その件で人に質問を送れないようにします。まず重なっている27件から。

③ 約束は、台帳に載せないと返事を終えられないようにする

「あとで送ります」と書いたら、期日と中身を台帳に載せるまで機械が返事を差し戻します。期日が来たら、機械がAIを起こします。

④ 見張りをAIの外に出す

定期の仕事が予定どおり動いたかを、パソコン側の定期実行から確かめます。止まったら、決めた人に届くようにします。

できあがりの目安:同じ質問が2体から届かない。約束の期日に必ず何かが届く。仕事が止まったら、その日のうちに人が知る。

つぎに(2〜4週間)|決まりを仕分ける

⑤ 決まりにしてよい人を決める

「この人の言葉は決まりにする」という人を、社長が決めます。AIの言葉は、人が認めたものだけ残します。

⑥ 998件を4つに仕分ける

できあがりの目安:担当AIが毎回読む決まりが、1画面で読み切れる量になる。

そのあと|形を整える

⑦ 記憶を3つの箱に分ける

人柄と権限/仕事別の手順書/経緯のノート、に分けます。古い記録は消さず、別の場所へ移すだけにします。

⑧ AIでなくてもよい仕事を、AIから外す

定期の仕事の約8割は、会話の題名の付け直しと巡回でした。ここを普通のプログラムに替えると、AIの利用枠が業務のほうに回ります。

やらないほうがよいこと

5. おまけ:いま手当てが要ること

仕組みの話とは別に、調べる途中で次の2つが見つかりました。早めの確認をおすすめします。