今回は、「ＡＩとはどういうものか？」について、私のイメージをお話したいと思います。
近年、ＡＩが爆発的に普及しています。多くの人が「ＡＩのおかげで仕事が楽になった」と語り、経営者は「ＡＩによる業務改革を！」と訴え、メディアは「ＡＩが社会に及ぼす影響」について取り上げています。しかし、それらはすべてＡＩを “使った結果” の話です。
品質に携わる人であれば、常に「より良くするためには」と考えることが求められます。そのためには「なぜそうなっているのか」を知ることが必要であり、ＡＩについてもある程度その仕組みを理解しておく必要があります。「ＡＩはこういう仕組みだから、こういう便利なことが出来る。反面、こういう問題もある。だから使う時にはここを注意する必要がある」と理解することが必要なのです。
そこでＡＩの仕組みについて学ぼうとすると、いきなりハードルが上がります。書籍や解説サイトを見ると、”ニューラルネットワーク” や “ディープラーニング” といった難しい専門用語が数多く出てきて、ついていけなくなるのです。いま世の中に出回っているＡＩに関する情報は、《高度な技術》と《末端の影響》という両極端のものばかりで、その中間にある《技術と影響の因果関係》についてはほとんど触れられていないと感じています。
そこで今回は、私が理解している範囲で《ＡＩの仕組み》を示したうえで、「なぜＡＩは間違えるのか？」について考えてみます。
–
まず、ＡＩの定義から始めましょう。【ＡＩ】のイメージが異なっていると話が通じない恐れがあるからです。
実は【ＡＩ】は社会的に統一された定義がありません。「ＡＩとはどういうものか？」と尋ねれば、答えは人それぞれ違うでしょう。公に公表されている定義（それらしい説明）を集約すると、概ね次の３つのイメージになります。
① ＡＩを研究する立場での定義
知能のメカニズムを人工的に再現する技術
② ＡＩを提供する立場での定義
蓄積したデータを自律的に解析し模倣することで、結果の予測や最適解を提供するシステム
③ ＡＩを利用する立場での定義
膨大なデータから最適解を導くことで、知的作業（認知・判断・創出）を代替・支援するツール
ＡＩは元々、①の「知能のメカニズムを人工的に再現する」研究から始まりました。その根底には「人間に備わっている仕組みを人工的に再現したい」という科学者としての強い動機があります。その中でも、脳を人工的に再現することは、他の部位に比べて比較的簡単だったようです。驚かれた方もいるかと思いますが、例えば、肝臓の機能を人工的に再現しようとしても、今の科学技術ではほぼ不可能です。それくらい人間（というか生物）の仕組みは緻密にできているのです。知能の研究は、人体を再現する研究の中でもズバ抜けて進んでいると言えます。
②と③は似ています。違いは、②が「自律的に解析し模倣する」というプロセス重視（①寄り）であるのに対して、③は「知的作業を代替・支援する」というアウトプット重視であるという点です。実は、③の定義はＡＩに限らず普通のプログラムにも適用することができます。つまり、③の定義からすれば、あらゆるアプリはＡＩシステムと呼ぶことができるのです。Excelも会計ソフトもすべてＡＩです。しかし、そこまで範囲を広げると今回ブログで取り上げる意味がなくなるので、今回は②を想定して話を勧めます。すなわち、本ブログでは《自律的》と《模倣》をＡＩの要件とします。
–
次に、ＡＩの基本的な仕組みについて説明します。あくまでもイメージとして捉えてください。専門的なことには触れませんが、前提として『この世の全ては《 IN → 変換 → OUT 》の組み合わせで出来ている』ということは理解しておいてください。
詳しい説明はここでは省略します。知りたい方は記事『文書化した情報（総論）』をご覧ください。
一般的なプログラムもＡＩも《 IN → 変換 → OUT 》の組み合わせで出来ていますが、その扱い方はかなり違います。
一般的なプログラムでは、複数の《 IN → 変換 → OUT 》を選択（分岐）や反復（繰り返し）を使って配置します。 記事『複雑なことを整理する｜構造化プログラミング』参照。
この時、選択や反復の条件は、与えられたパラメーターやデータによって決まります。つまり、「こういう場合はこうして、この場合はこうする」というように人間が記述するのです。その結果出来たものがプログラムであり、プログラムは人間が記述した通りに動きます。
一方ＡＩは、複数の《 IN → 変換 → OUT 》のネットワークを作ります。異なる《 IN → 変換 → OUT 》の共通点を探して関連性の強弱を学習するのです。そして、指示があった時（例えば「○○とは何？」とか「△△を作って」と指示された時）に、もっとも関連性が強い《 IN → 変換 → OUT 》のルートを探して、真似したり切り貼りして答えを導くのです。ですので、正しい答えを出せるようになるまでには、とても多くの《 IN → 変換 → OUT 》を学ぶ必要があります。これが “機械学習” と呼ばれるものです。
過去にもＡＩブームと呼ばれるものが何回かあり、流行と衰退を繰り返してきました。期待したほど実用的ではなかったのです。しかし、近年のＡＩは様子が違います。極めて実用的になり、それまで特定の専門領域でしか使われなかったＡＩが生活のあらゆるところで使われるようになりました。過去のＡＩブームとの違いは、主に次の３つの変化が要因です。
①ＡＩテクノロジーの進化 … 脳のメカニズムの研究が進んだ結果
②コンピューターの性能向上 … より高速に、より大容量に
③インターネットの普及 … 情報の量、質、汎用性が大きく拡大
これらをまとめると、
・一般的なプログラムは、《 IN → 変換 → OUT 》のつながりを予め人間が決める
・ＡＩは、《 IN → 変換 → OUT 》のつながりをＡＩが判断する
–
次に、ＡＩが間違える理由を説明します。先ほどの図において、ＡＩには〈学習〉〈連想ネットワーク〉〈解釈〉〈表現〉の４つの要素があると述べました。この４つそれぞれに、ＡＩが間違える要因が潜んでいます。
【学習】で起きる問題
ＡＩは、与えられた情報を学習して、その結果を真似て答えを導きます。ですので、元の情報が間違っていれば、そこから導かれる答えも間違っています。間違った情報を真似すれば間違えるのです。当たり前ですね。人間で言うと「親の背を見て子は育つ」です。
専門領域に特化したＡＩであれば情報が間違っていることは少ないかも知れません。ですが、一般に普及しているＡＩシステムの多くはインターネット上の情報を元にしています。インターネットの情報が間違っていればＡＩも間違えるのです。ＡＩには、インターネット上の情報が正しいのか間違っているのかは分かりません。単に情報の量（関連性の強さ）によって判断します。「インターネットの情報が間違っているはずがない」と思っている人もいるかも知れませんが、かなりの数のデマが存在し、古い情報もあります。例えば、私がＡＩ検索を始めた頃、「日本から南米の都市に直行便を就航している航空会社は存在するか？」とＡＩに尋ねたところ「○○航空が△△と□□間で就航している」と返ってきました。しかし、調べてみると数年前に廃止されていました。ＡＩは日々情報を更新しているので現在はきちんと「現在はない」と返ってきますが昔はそういうことがありました。
最新情報を重視すれば情報量が少ないので精度は下がります。内部情報を重視すれば、情報が古いので間違えるリスクが高まります。ＡＩには、インターネット上の最新情報を重視するものと、内部に蓄えた情報を重視するものがあります。それぞれの特徴を考慮して使いましょう。
【連想ネットワーク】で起きる問題
これは、それぞれのＡＩシステムのテクノロジーの問題です。つまり、連想する仕組みの違いです。仕組みによって、得手不得手があります。得意とする領域（間違えない領域）と苦手な領域（よく間違える領域）があるのです。
”間違える”とは少し違いますが、ＡＩが抱える大きな問題の一つに”著作権”の問題があります。著作権とは、極端に言うと「真似してはいけない」ということです。これは連想ネットワークそのものの問題であり、ＡＩの存在に関わることです。なぜなら、知能とは真似すること、すなわち【模倣】だからです。人間の赤ちゃんは、親や周囲の人の行動を真似て学習して成長します。ＡＩは「知能のメカニズムを人工的に再現する技術」なので、赤ちゃんと同じ様に人間のやること（与えられた情報）を真似して成長します。「真似してはいけない」となれば、ＡＩは存在し得ないのです。
［成長するための模倣］と［著作権侵害にあたる模倣］の区別は人間の都合です。ですので、「ＡＩには著作権上の問題がある」という意見は正確な表現ではありません。ＡＩに罪はありません。生物の進化の根源を越えた《著作権》という概念が、《人工的な知能》というテクノロジーについていっていないのです。これは、技術の問題ではなく社会秩序（法律や倫理）の問題であると考えます。
【解釈】で起きる問題
これは、前回の記事『私のＡＩとの付き合い方』で述べた《過剰な忖度》の問題です。
ＡＩは、依頼者の指示が曖昧であっても確認することなく勝手に解釈して突っ走ります。その結果、依頼者が本当に求めているものとは異なる結果を返すことがあります。人間でも同じことが起きますが、ＡＩは頻度も影響も極端なので注意が必要です。
これを防ぐために、私が心掛けていることを記します。参考にしてください。
①出来る限り具体的に指示する。人が聞いたら「くどい」と思うくらい詳細に。
②返ってきたものを鵜呑みにしない。必ずウラを取る。
③初めは大枠で前提などを確認。徐々に深堀りして詳細に確認。
【表現】で起きる問題
これも、先ほどと同じ《過剰な忖度》です。さっきは［ＡＩの入口］の問題、今度は［ＡＩの出口］の問題です。
例えば、検索目的のＡＩは答えを返す時に出来るだけ分かりやすいようにと忖度します。奇妙な例えを使ったり、やたらと長い説明を返すのです。それで助かることも時々ありますが、たいていは鬱陶しかったり、逆に分かり難かったり、時には間違った例えを示してきます。過剰な忖度は本当に迷惑です。人間でも、説明下手な人や、説明がやたらに長い人がいますね。この点もＡＩは極端です。
そんな時、私は次のように対応します。
①回答の先頭の数行しか見ない。こちらの意図から外れた長い説明は無視する。
②矛盾を突いて再確認する。奇妙な例えは論理的でないことが多い。
③要約して、自分の言葉にして確認する。「つまり、・・・ということ？」
–
以上、「ＡＩの仕組み」と「ＡＩが間違える理由」でした。仕組みが分かると間違える理由が分かります。間違える理由が分かると間違えそうな条件が見えてきます。それが、再発防止や未然防止につながります。そんなことを考えながらＡＩを使ってみてください。
なお、各問題の対策については検索ＡＩを想定しています。生成ＡＩについては経験が少ないのでお話することはありません。あしからず。
コメント