AIの「再発防止します」を
信用してはいけない

AIがミスをする。

こちらが指摘すると、

AIも原因を考えて、再発防止策まで出してくれます。

ところが、しばらくすると。

また同じようなミスをする。

これ、AIを使っているとかなりよくあります。

「覚えておきます」では再発防止にならない

原因は単純です。

AIが再発防止策をルールやメモ、コンテキストに書いたとしても、次回その情報を必ず読んで、その通り動くとは限らないからです。

情報が増えてくれば、なおさらです。

こちらでコンテキストを整理して、AIが必要な情報を読みやすい形にしていても、取りこぼしは起こります。

だから、

「次から気をつけます」

「ルールに書いておきました」

だけでは、本当の再発防止にはなりません。

再発防止は「記憶」ではなく「仕組み」にする

では、どうするか。

ミスの原因が起こったときに、AIが注意して思い出すことに期待するのではなく、そもそもミスが起こりにくい流れに変える。

あるいは、ミスが起きても機械側で検知して止める。

そこまでやって、初めて再発防止です。

「それ、仕組み化できない？」と聞く

最近は、AIが

「今後は〇〇します」

と言ってきたら、そのまま終わらせず、

と聞くようにしています。

この流れに変える。

そうすると、AIの注意力や記憶に依存する部分を少しずつ減らしていけます。

その確認すら、人間が毎回やらない

ただ、ここでもう一つ問題があります。

AIが再発防止策を出すたびに、

「それは本当に仕組み化したの？」

と人間が毎回確認するのも大変です。

これが頻繁に起こるのであれば、その確認自体も仕組み化したほうがいい。

つまり、

という方針そのものを、AIの仕事のルールにしてしまいます。

そして報告の仕方も変える。

「今後は気をつけます」ではなく、

「再発防止のために、〇〇をプログラム化しました」

「〇〇を自動チェックする仕組みに変更しました」

という報告を基本にする。

ここまでやれば、人間が毎回「本当に再発防止になってる？」と確認する回数も減らせます。