【AIの功罪】知性の罠から考えるAI活用の落とし穴

『知性の罠 なぜインテリが愚行を犯すのか』という本を読みました。内容はIQが高い人や有名大学を卒業している人でも、愚かな誤りを犯す人もたくさんおり、優秀で高い教育を受けた人ほど陥る「知性の罠」について書かれています。

この書籍自体とても面白く、自戒も込めながら読んでいた時、ふとこれはAIにも通ずるところがあると思いました。最近いただくマーケティングのご相談は、相談の文面がとても長くなっています。

事前にAIへ相談し、ある程度の仮説を立てたうえで持ってこられるからだと思います。準備してくださること自体はありがたいのですが、その仮説はあきらかに間違っているなと思うこともあります。

AIという優れた知能があるからこそ、人間は過ちを犯しやすくなっているのかもしれません。この記事では、その考えと、私が実際にやっている対処を書きます。

専門家ほど細部を見落とすという話

本書で紹介されていたのは、専門家が判断を誤る仕組みについての話です。以下書籍から引用です。

専門家の脳が生の情報を意味のある構成要素としてチャンク（塊）にまとめていき、根底にある共通のパターンを認識することに注力していると、細かな要素を見失ってしまう。

専門家が入念な分析ではなく、大まかな事実認識に基づいて判断を下すようになると、感情、期待、フレーミングやアンカリングといった認知バイアスの影響を受けやすくなるのだ。結論として、訓練を積む中で専門家のRQ（偏りのない判断をどれだけ下せるかの能力）はむしろ低下する可能性がある。

もちろん、直感に流されず体系的な分析に立ち戻ることや、常に謙虚な気持ちで挑むことで、この間違いを防ぐことはできます。ただ実際には、危険に気づいていないことが多いとも書かれていました。

AIを使う人は専門家より立ち戻る先がない

これを読んで、私はAIを使っている人間にそのまま当てはまると感じました。ただ、よく考えると当てはまり方が少し違います。そして、その違いのほうが問題だと思っています。

専門家は、細部を積み重ねた末に塊を手に入れます。だから直感が外れたとき、細部に立ち戻る道が残っています。もちろん自分が常に間違えているかもしれないと考える必要はありますが、戻ろうと思えば戻れます。

ところがAIを使う人は、細部を経ずに塊だけを受け取ります。 立ち戻る先がそもそもありません。

しかもAIの出力は、正しそうに見えます。構成が整っていて、論理的で、専門用語も適切に使われている。もっともらしく見えるものに対して、人の精査は当然甘くなります。結果としてAIの判断が正しいと認識し、それに引きずられていきます。

専門家が長い訓練の末に陥る罠に、AIを使う人は数分で入ってしまう。そんなことを考えました。

実際に見た2つの例

抽象的な話に聞こえるかもしれないので、私が実際に関わった案件を2つ挙げます。

例1：サイトの外側が視点から抜けていた

地域密着型のサービス業を営むお客様から、SEO診断のご依頼をいただいたときのことです。競合と同じ時期にサイトを作ったのに、競合だけが上位に表示されるという内容でした。

診断してみると、差につながっていそうな違いが4つ見つかりました。そのうち3つは、記事やページの追加では対応できないものでした。屋号、Googleビジネスプロフィールの登録内容、情報公開の方針です。いずれもサイトの外側にあります。

このお客様は、サイトをAIで制作し、分析もAIに任せていました。だからこそ、AIが見ている範囲の外に原因があったとき、視点から抜け落ちたのだと思います。

分析結果という塊を受け取った時点で、検討が止まっていた状態です。

例2：良好な数字が誰にも疑われなかった

もう1つは、広告運用の相談です。

管理画面上のコンバージョン単価は、目標を大きく下回っていました。数字だけ見れば順調なアカウントです。ところが実際には、予算の大半が既存顧客に使われており、新規はほとんど増えていませんでした。

このアカウントには過去に複数の運用者が関わっていましたが、誰もこの点を指摘していませんでした。良好な数字という塊が出ているため、そこから先を見る理由がなかったのだと思います。

悪い数字は疑われますが、良い数字は疑われないまま通過します。 これは人間もAIも同じでした。

私がやっている対処

では、どうすればいいのか。私がやっていることを書きます。

前提としてAIが万能ではないと認識する

当たり前のようですが、ここが出発点です。

そのうえで、AIの言うことが正しいかどうかを判断できるだけの知識と経験を、自分でも持つ必要があります。塊を受け取るだけの立場でいる限り、間違いに気づく手段がありません。

専門外の分野は専門家に相談する

自分の専門分野でない場合、私はより慎重になるようにしています。

具体的には、AIで仮説をある程度組み立てたうえで、それが正しいかどうかを専門家に相談します。費用はかかりますが、判断の精度は間違いなく上がります。

AIで仮説を作る工程と、その仮説を検証する工程を分ける、という考え方です。両方をAIに任せると、検証にならないためです。

AIに検証の道筋を出させる

毎回専門家に聞けるとは限りません。その場合は、AIに検証の道筋を出させます。「この結論が間違っているとしたら、どんな事実が見つかるはずですか。それはどこで確認できますか」

この聞き方をすることで、AIに細部を検証させ、塊を受け取った状態から脱出します。

AIを活用するための考え

• AIに仮説を作らせる工程と、検証する工程を分ける。両方を同じAIに任せると検証になりません
• 専門外の分野ほど慎重に扱う。可能であれば費用を払ってでも専門家に相談する
• 検証の道筋を出して、正しく検証されているか確認する
• 出てきた答えが正しいか判断できるだけの知識を、自分でも持つようにする
• 答えが整っていて、もっともらしいときほど注意する。精査が甘くなるのはその瞬間です

AIはとても便利で、今やなくてはならないものです。しかし便利だからと言って、すべてをAIに任せていては、致命的な失敗につながる可能性があります。AIを使う時こそ慎重に対処していきたいと思った一件でした。