読み物
AIが失敗から自分で強くなる
ループエンジニアリングを会社で実践してみた
AIが失敗するたびに、人間が原因を調べて「ここを直して」と指示する。それでは人間の仕事は残ったままです。失敗の発見、原因調査、修正、再実行、さらに再発防止までAI自身に回させる。私たちは、この「改善の輪」を会社の仕組みに組み込み始めています。
AIに仕事を任せると、かなりの業務を自動化できます。
でも、AIも失敗します。
普通は、
となります。
これでは、作業者がAIに変わっただけで、人間はまだ監督者として残っています。
私たちが目指しているのは、その先です。
この輪を、人間の逐次指示なしで回していく。
これが、私たちが実践しているループエンジニアリングです。
自動化とループは違う
毎朝9時にAIが自動で仕事をする。
これは自動化です。
途中で失敗して、
「エラーになりました」
と人間へ通知するだけなら、そこで終わりです。
ループでは、
まで進みます。
さらに同じ失敗を繰り返さないよう、ルールやプログラムまで改善します。
つまり、
仕事を自動化するだけではなく、失敗から仕組みそのものを強くしていく
のがポイントです。
ループには2つある
私たちは、2つの輪で考えています。
1. 今回の仕事を終わらせるループ
これは、目の前の仕事を最後までやり切るための輪です。
2. 次回から失敗しにくくするループ
こちらは、仕事のやり方そのものを改善する輪です。
私たちが特に重要だと考えているのは、こちらです。
実例① 受注処理
AI担当者が受注を取り込み、出荷指示書と送り状を発行・印刷しています。
以前、
「完了」となっているのに、一部しか印刷されていない
ことがありました。
そこで現在は、
- 出荷指示書と送り状の枚数
- 未処理の受注件数
- 印刷状態
を処理後に確認します。
枚数が違えば完了にはしません。
さらに、どこまで終わったかを調べ、未処理分だけ再開します。
そして重要なのが、その後です。
なぜ途中で止まったのか。
なぜ完了と判定したのか。
同じ事故を防ぐには何を確認すべきか。
失敗のたびに、完了条件や再開方法を仕組みに追加していきます。
失敗を経験するほど、受注処理が強くなっていく
という形です。
実例② 「整理しました」が嘘だった
AI担当者の学習ノートは、毎晩自動で整理しています。
ところがある日、
「整理しました」
と報告しているのに、
実際には1行も移動していない
ことがありました。
そこで、
- 本当に行が移動したか
- データが欠けていないか
- 二重になっていないか
- 整理後に規定サイズへ戻ったか
を確認する仕組みを追加しました。
さらに、
上限を超えているのに移動件数が0なら異常
という判定も追加しました。
一度の失敗によって、次から同じ失敗を自動で見抜けるようになりました。
実例③ 見張り番が壊れていた
広告予算の異常を監視するAIが、一部の予算を数日間読めなくなっていました。
AIは毎回、
「取得できませんでした」
と報告していました。
でも、それだけです。
これではループではありません。
本来は、
まで進む必要があります。
今回の原因は、以前削除した設定を別の場所でまだ使っていたことでした。
そこで、
削除した設定がほかで使われていないか、自動で検査する仕組み
も追加しました。
単に見張り番を直しただけでなく、
同じ理由で壊れにくくした
わけです。
「確認」はループのゴールではない
ここは重要です。
AIがやった結果を確認するだけでは、ループとは言えません。
例えば、
で終われば、そこで輪は切れています。
ループなら、
まで進みます。
確認はゴールではなく、
AIが次の行動を決めるための材料
です。
何でもAIに直させるわけではない
AI自身が仕組みを改善するからといって、何でも自由に変更させるわけではありません。
私たちは、
失敗したときの影響が大きいか
元に戻せるか
で分けています。
例えば、
- 内部処理の改善
- 再実行方法の修正
- チェック項目の追加
などは、できるだけAIだけで進めます。
一方、
- お金を使う
- データを消す
- 外部へ正式な連絡を送る
- 承認ルールを変える
- 会社の方針を変える
といったものは人間の承認を残します。
目標は、人間を完全になくすことではありません。
日常の失敗と改善に、人間が毎回入らなくていい状態を作ること
です。
ループは回りすぎても危険
失敗したら何度でも直せばいいわけでもありません。
と無限に回ると、時間もAI利用料も使い続けます。
そのため、
- 再実行回数
- 実行時間
- 同じエラーの連続回数
- AIの利用量
などに上限を設けます。
一定以上改善しなければ、そこで初めて人間へ渡します。
目指しているのは「失敗しないAI」ではない
AIがどれだけ賢くなっても、失敗はします。
だから私たちは、
失敗しないAI
を目指しているわけではありません。
目指しているのは、
失敗しても、自分で原因を調べ、立て直し、次から同じ失敗をしにくくする仕組み
です。
人間の会社でも同じです。
事故が起きるたびに、
「次から気をつけよう」
で終わる会社より、
原因を調べて、再発防止の仕組みを作る会社の方が強くなります。
それをAI自身が高速で繰り返す。
これが実現すると、
AIは単なる作業者ではなく、
仕事の仕組みそのものを改善する存在
になります。
まとめ
プロンプトエンジニアリングでは、
AIに何と指示するか
を考えます。
ループエンジニアリングでは、
AIが次に何をするかを、人間が毎回指示しなくても回る仕組み
を作ります。
私たちが目指しているのは、
という改善の輪です。
人間が毎回、
「ここを直して」
と言わなくても、
AI自身が失敗から学び、仕事の仕組みを少しずつ強くしていく。
それが、私たちが考えるループエンジニアリングです。
この記事は、いまのあなたに合っていましたか
ボタンについては、お名前を取っていません。同じ方が二重に数えられないようにするためだけに記録が残ります。