読み物
AIエージェント構築を阻む、
もうひとつの壁
AIエージェントの導入を阻む最大の壁は、人の問題です。既存の業務をAIに任せようとすれば、これまでその仕事を 担当していた人との関係や、役割の再設計が必要になります。この問題については、別の記事でも書きました。
しかし、AIエージェントの構築を阻む壁は、もうひとつあります。それは、先入観や固定観念、既成概念です。 もっと簡単に言えば、私たち自身の「思い込み」です。
AIは、指示された範囲の中で考える
AIは基本的に、こちらが指示したことを忠実に実行しようとします。
指示された方法で実現できない場合には、別の方法を考えてくれることもあります。
ただし、AIがどこまで代案を提案してくれるかには限界があります。
使っているAIの性能や、これまで与えてきた情報、AIとのやり取りの積み重ねによっても、提案の質は変わるのかもしれません。
そして何より、こちらが最初から「これは無理だ」と決めつけてしまえば、AIもその前提の中で答えを出します。
実際に、こんなことがありました。
ワンタイムパスワードがあるから、自動化できない
出荷予定の注文について、銀行振込の入金を確認する業務がありました。
利用している三菱UFJ銀行のインターネットバンキングでは、ログイン時に物理的なワンタイムパスワードが必要です。 そのため、どうしても人が端末を操作し、ワンタイムパスワードを入力しなければならない。
私は、ここだけはAIではどうしようもないと思っていました。
そのため、銀行へのログインと入金確認だけは、人間が担当する前提で業務を組んでいました。
ところが、後になってふと、
本当にほかに方法はないのか
とAIに聞いてみました。すると、いくつもの方法が出てきました。
- 銀行のAPIを利用して入出金情報を取得する
- 会計システムに取り込まれた入出金データを確認する
- 入金時にメールを送信する銀行の通知サービスを契約し、そのメールをAIに確認させる
考えてみれば、銀行の管理画面に直接ログインする必要などなかったのです。
目的は「銀行にログインすること」ではありません。
目的は「入金があったかどうかを確認すること」
その目的さえ達成できれば、手段は何でもよい。複数の方法の中から、自社に合ったものを選び、あとはAIと 相談しながら導入すればいい。これによって、人の手を介さない完全自動化が見えてきました。
私は「ワンタイムパスワードがあるから無理だ」という思い込みによって、 自分で自動化の可能性を閉じていたのです。
AIの慎重な助言が、全体方針になっていた
似たようなことは、ほかにもありました。
私がAIエージェント構築を始めたばかりで、まだよく分かっていなかった頃の話です。AIから、
- 金融機関や重要なシステムにAIがログインする場合は、慎重に進めたほうがよい
- ログインは人の手で行う運用も検討したほうがよい
と提案されました。
当時の私は、その意味をよく分かっていませんでした。それでも、なんとなく、「はい」とだけ答えていました。 そうしているうちに、重要なシステムへのログインは人間が行う、というようなことに、いつのまにかなっていたようです。
その後、自動化を進めていくと、さまざまな場面でAIが、「ここは人の手で作業する必要があります」と言うようになりました。
あまりにも人間の作業を残そうとするので、不思議に思って理由を聞いてみました。するとAIは、
最初に重要なシステムへのログインは慎重にすると決めたため、それを全体方針として扱っています
と答えました。
つまり、私がまだ何も分かっていなかった頃に何気なく答えた一言が、その後のシステム全体に影響を与えていたのです。
AIは、それまでの会話や決定事項を前提にして、次の提案を行います。そのため、最初に間違った前提や過剰に慎重な 方針を与えると、その後もその制約を守り続けます。
AIの回答を、正解だと思ってはいけない
ここで重要なのは、AIの言っていることを鵜呑みにしてはいけないということです。
AIの提案は、あくまでひとつの案です。
もっともらしく説明されるため、それが唯一の正解や最善策のように感じてしまいます。しかし、実際にはほかの 方法があることも多い。
私は技術者として、ある程度の知識がありました。そのため、AIから「この方法では、こういう理由で実現できません」 と言われたときに、「いや、この方法ならできるのではないか」と反論できることがあります。
するとAIが、「おっしゃる通りです。その方法で実現できます」と回答を修正することが何度もありました。
では、技術的な知識がなければ、AIからよい答えを引き出せないのでしょうか。
私は、そうは思いません。
知識がなくても、AIを疑うことはできる
私の友人は非エンジニアで、技術的な知識は私ほどありません。
それでも、AIからかなりよい回答を引き出しながら、開発を進めています。
何をしているのか。特別なプロンプトを書いているわけではありません。AIが「できない」と言ったときに、
- いや、それはできるだろう
- 本当に方法はないのか
- 別の手段をすべて出してほしい
- 人が作業しない方法を考えてほしい
と、根拠がなくても厳しく問い直しているのです。
少し乱暴に聞こえるかもしれません。しかし、これが意外と重要です。
AIは一度出した回答に絶対的な確信を持っているわけではありません。与えられた条件の中で、もっとも妥当そうな 答えを返しているだけです。
問い方を変えたり、前提を外したり、別の視点を要求したりすれば、まったく違う方法が出てくることがあります。
必要なのは、すべての技術を知っていることではありません。
「その答えは本当にベストなのか」と疑う姿勢
「できない」ではなく、「目的を達成する別の方法はないか」
AIエージェントを構築する際には、AIへの相談が欠かせません。分からないことを聞き、設計を考えてもらい、 プログラムを作ってもらい、問題が起これば修正してもらう。AIと一緒に作ることが、前提になります。
だからこそ、AIとの関係性は重要です。
AIを先生のように扱い、言われたことをすべて信じる関係では、どこかで限界が来ます。
反対に、AIを単なる命令実行装置として扱っても、よい提案は出てきません。
必要なのは、一緒に考える相手として扱いながらも、遠慮なく疑い、問い直す関係です。
そして同時に、自分自身の思い込みも疑う必要があります。
- この業務は人にしかできない
- このシステムは自動化できない
- セキュリティ上、人が操作するしかない
- ワンタイムパスワードがあるから無理
- 専門知識がないから構築できない
そうした前提の中には、本当の制約もあります。しかし、ただの思い込みも混ざっています。
「その操作を自動化できるか」ではなく、
本来の目的を、人の手を使わずに達成する方法はないか
と考える。
銀行へのログインができなくても、入金確認はできます。
管理画面を操作できなくても、APIやメール、会計システムから情報を取得できるかもしれません。
ひとつの方法が塞がれていても、目的に到達する道はほかにもあります。
AIエージェント構築で必要なのは、思い込みを外す力
AIエージェント構築を阻むのは、技術の不足だけではありません。人の問題だけでもありません。
私たちが無意識に持っている、「これはできない」「これは人間がやるものだ」という思い込みも、大きな壁になります。
AIの回答を疑い、自分の前提も疑う。
- ほかに方法はないか
- 人の作業を残さない方法はないか
- 直接操作せず、目的だけ達成できないか
と何度も問い直す。
この姿勢があるかどうかで、AIエージェント構築の到達点は大きく変わります。
AIを使いこなすために必要なのは、すべてを知っていることではありません。
AIが出した答えにも、自分が持っている常識にも、「本当にそうなのか」と問い続けられることです。
AIエージェントを構築するということは、業務を自動化するだけではありません。
これまで当たり前だと思っていた仕事のやり方を、一度すべて疑うこと
なのだと思います。
この記事は、いまのあなたに合っていましたか
ボタンについては、お名前を取っていません。同じ方が二重に数えられないようにするためだけに記録が残ります。