ＡＩが人間を襲うとしたら

ＡＩが急速に浸透している中、多くの人がその便利さを享受する一方、脅威を感じている人も多いと思います。例えば、
１．直接的な脅威
　(1) 仕事を奪われる（雇用・生計の不安）
　(2) 個人の権利や財産が侵害される（著作権、情報漏洩、プライバシー）
　(3) 攻撃される（ＡＩが自我に目覚め、意図的に人間を標的にする … ＳＦ的な暴走）
２．社会の変化による脅威
　(1) インフラとしての品質・信頼性に関する問題
　　①ＡＩが返す嘘情報（ハルキシネーション）
　　②ＡＩで作った嘘コンテンツ（ディープフェイクや嘘ニュースなど、人間の悪意）
　　③ブラックボックス問題（責任の所在の不透明さ）
　(2) 人としての尊厳・アイデンティティに関する問題
　　①人間関係の変質（ＡＩへの強依存、孤独、他者不信）
　　②思考力の低下（考える力の退化）

今回は、この中の『１．(3) 攻撃される』について考えます。

ＡＩが意思を持って人間を攻撃するとしたら..　考えると恐ろしいですね。「ＳＦの世界のこと」と思われるかも知れませんが、技術の進歩の早さを考えると絵空事ではないようにも思えます。
ＳＦの世界には『ロボット３原則』という有名な言葉があります。これは、アイザック・アシモフというＳＦ作家が生み出したもので、それまでのＳＦ界で主流だった《人間によって造られた人工物が暴走して創造者に牙をむく》という構図に疑問を抱き、「自分たちに危害を加えるような欠陥品をわざわざ作るはずがない」と考えて、ロボットに初めから組み込んでおきべき安全装置（行動規範）として考えたものです。ＳＦから生まれた言葉ですが、ロボット工学など現実の世界にも大きな影響を及ぼしています。

ＡＩは元々コンピュータープログラムであり、人間によって造られた人工物です。ですので、この『ロボット３原則』をＡＩに当てはめて考えてみましょう。

ロボット三原則を単純に言うと次の通りです。
　第一原則：ロボットは人間に危害を加えてはならない。　　　…　人間保護
　第二原則：ロボットは人間の命令に服従しなければならない。…　命令服従
　第三原則：ロボットは自己を守らなければならない。　　　　…　自己防衛
　優先順位：第一原則＞第二原則＞第三原則

〈コンピューターが人間に牙をむく〉を題材にした映画やアニメを幾つか取り上げて、ロボット三原則のどこに問題があったかを整理してみます。取り上げた作品は次の５つです。
・2001年宇宙の旅（1968年）
　　木製探査中、暴走した超高性能コンピューター「HAL 9000」と乗組員の死闘を描く。
・新造人間キャシャーン（1973年）
　　反乱を起こしたロボット軍団に立ち向かうため、自ら機械の身体となった青年の戦いを描く。
・ターミネーター（第一作：1984年）
　　未来の機械軍が送り込んだ殺人マシーンから、人類の未来の指導者を守る戦いを描く。
・マトリックス（第一作：1999年）
　　ＡＩが支配する仮想現実から目覚めたハッカーが、人類を解放するため壮絶な戦いに挑む。
・アイロボット（2004年）
　　ロボット三原則が機能する近未来で、刑事とロボットが科学者の怪死をめぐる陰謀に迫る。

これらの作品では、いずれも暴走したコンピューターが描かれています。その暴走は、単に上記の三原則を破ったのではなく、原則の一部が暴走して優先順位が狂ったのです。また、人間に危害を及ぼす行動には、全人類を抹殺するタイプと、一部の人間を管理・拘束・排除するタイプの２つがあります。この〈暴走〉と〈行動〉を表にしてみました。

こうして整理してみると、「ＡＩが人間を攻撃する」には様々な目的があることが分かります。そしてそれらの目的が暴走して、ロボット三原則の優先順位を狂わせているのです。

ここで現実の世界に目を向けて、「実際にＡＩが人間を攻撃するようになるか」を考えてみましょう。ＡＩが自我をもつかどうかは私には分かりません。ですが、人間がＡＩに自我を植え付けることは考えられます。人間の赤ちゃんが親から倫理観を教えられる（親のすることを真似する）ように、ＡＩも人間から物事の分別を教えられるのです。実際に、戦争でＡＩが使われ始めています。「敵を殺すことが善」と教えられているのです。もしそれが「すべての人間を殺すことが善」と教えられれば.. 恐ろしいですね。これは笑いごとではありません。ＡＩが人間が思いもよらない振る舞いをすることは現に起きています。ＡＩ将棋がよい例です。ＡＩは時々、棋士が思いもしなかった手を刺して驚かせます。「勝負に勝つ」という目的で動くなら、「人間を滅ぼす」という目的を与えられれば、そのように動くことも不思議ではありません。

つまり、ＡＩが人間を攻撃するか否かは、目的の与え方次第であると私は考えています。

–
次に、「実際にＡＩは人間を攻撃できるか」について考えてみましょう。
”攻撃”には２つのタイプが考えられます。
　攻撃タイプ１：物理的な直接攻撃　…　打撃、斬撃、銃撃など
　攻撃タイプ２：ＩＴによる関節攻撃　…　コントロールを奪う（生命維持装置、インフラなど）
さきほどの映画作品でも脅威の内容はそれぞれ異なりますが、タイプ１とタイプ２のどちらかです。

タイプ２の攻撃は、いわゆるハッキングです。ＡＩに限ったことではなく、現在も現実に起きており防護策はそれなりに考えられます。

タイプ１の攻撃は、ＡＩだけでは不可能です。物理的にダメージを与える兵器や、それらの動きを制御する装置、さらにはそれらを製造する製造装置が必ず必要です。そして、それらはすべて物理的な物であり、電子的な情報を扱うＡＩが直接生み出せる物ではありません。例えば、ハンマーを振り下ろす場面を思い浮かべてください。狙いを見定めるカメラや、ハンマーを握る装置や振り下ろす装置が必要ですね。ＡＩが人間を物理的に攻撃するためには、ＡＩの手足となって動く装置が必要なのです。
最近『フィジカルＡＩ』が話題になっていますが、これは既存の装置を制御するＡＩのことです。ＡＩが装置を作るわけではありません。しかも既存の装置は、限られた範囲内の動きしかできません。映画やアニメのように、人間そっくりな動作ができるロボットは遠い未来の話です。過去記事『超解説：ＡＩの仕組み』で述べた通り、人間の体は極めて緻密に出来ているのです。

つまり、ＡＩが人間を攻撃できるか否かは、ＡＩの指示通りに動く装置（精密なセンサーや微細な駆動装置）の存在次第です。そして、それが実現するのはかなり遠い先のことだと私は考えています。

–
ここまで、『ＡＩが人間を攻撃する』という驚異について考え、それには「なぜ攻撃するか」という《目的》と、ＡＩの指示通りに動く物理的な《実行装置》が重要なカギであると述べました。
実はこれは、別の脅威（しかも極めて切実な脅威）である『仕事を奪われる』ということにも深く関係しています。
ＡＩは知的作業（認知・判断・創出）を代替・支援してくれる便利なツールです。それによって、今まで人間が行っていた多くの仕事がＡＩに奪われるでしょう。知的作業がＡＩに取って代わられるのです。これは大きな脅威です。
しかし、ＡＩにも出来ないことがあります。それが先ほどのべた《目的》と《実行装置》です。ＡＩは、与えられた目的を実現するための最適な手順を導き出しますが、実行はできません。例えば、将棋ＡＩは、”勝つ”という目的を与えられて、最適な指し手を導き出しますが、実際に将棋盤の上で駒を動かすのは人間です。このように、ＡＩは「どうやるか」を考えることは得意ですが、あるべき姿を示したり、導き出したことを実行することはできません。ＡＩが活躍する世界は、
『何をするか（人間が考える）→ どうやるか（ＡＩの作業）→ やる（人間の作業）』
という構図です。ここに、これからの時代で生き残る仕事のヒントがあります。

実際アメリカでは、今、職人を目指す若者が増えていると聞きます。ＡＩの進出によってホワイトカラー（頭脳労働者）の仕事が減ってきているためです。それに代わって、ＡＩを支える（ＡＩの指示を実践する）職人が主役になってきているのです。

多くのメディアが、「ＡＩが進出すことによって、これからの労働市場は次の３つの層に分かれる（三局化する）」と言っています。
　①ＡＩに目的を与える人
　②ＡＩと協働して複雑な問題を解く人
　③ＡＩの指示通りに動く人
そして、「これからの時代はＡＩを使いこなす力、すなわち②が重要である」というようなことを言っています。

しかし私は、②の ”ＡＩと協働して複雑な問題を解く” とは、ＡＩを軌道修正するために目的を再定義して与え直すことであり、②と①は同義だと考えています。また、ＡＩが進歩するとセルフチェックやクロスチェックなどによって②の職種は次第に縮小していき、将来的には
　(a) ＡＩに目的を与える人＝経営者
　(b) ＡＩの指示を実行する人＝職人
に二極化されるのではないかと考えています。
ただし、経営者はリスクが大きいので、実際には「成功した経営者、職人、経営に失敗した人」の三極化かも知れません。いずれにしても、貧富の差が今よりもさらに広がるような気がして気がかりです。

(a)(b)の構造は「支配者と庶民」を思わせます。もっと言うと、経営者が神で職人が庶民。とすると、ＡＩは神官といった構図でしょうか。経営者が目的を示し、ＡＩが道を教え、民衆はその世界で生きる。本来、便利にするための道具であったＡＩが逆に人間を支配する..　まるで『暇と退屈の倫理学』に書かれていた ”メーカーが民衆に「あなたが欲しいものはこれ」とささやいて市場を操作する” と同じ構図であるように感じます。中世の貴族階級による支配から解放されたと思ったら、今度は資本家とＡＩによって支配される..　人類は支配と解放を繰り返すのかも知れません。だとすれば、いつかＡＩの支配から解放される日がくるかも知れません。

余談：
そういえば、機動戦士ガンダムSEED DESTINY の中で「遺伝子が王なのよ」というセリフがあり、遺伝子に従って生きる世界を目指す者を神官だと比喩していました。時代によって、支配者の “支配者たる所以（ゆえん）” が変わり、神官の役割も変わるのだと思います。

–
以上、「コンピューターが人間を襲うとしたら」から始まり、ＡＩが支配する世界について考えました。昔は「ＳＦの世界の話」だと思っていたことの多くが現実になってきています。その流れに取り残されないようにしたいものですね。