2017年10月18日 AI時代を生き延びる、たったひとつの冴えたやり方

AIが暴走したら、電源切ればいいんじゃない？

著者： 竹内薫

道ばたでロボットから声をかけられたら

　この連載の3回目で、人工知能があらゆる面で人類の知能を超える、シンギュラリティが間近だという話をした。だが、人工知能はあくまでもソフトウェアであり、人類を襲ってくるわけじゃないだろうと、暢気に構えている読者も多いのではないか。
　しょせんはソフトウェアだから実体があるわけじゃない。それなら、コンピュータの電源を切ってしまえば、なにも危険などないではないか……。
　私は極端な悲観論も意味がないと思うが、根拠のない楽観論は危険だと考えている。はたして、われわれは心配しすぎなのか、それとも、もっと心配すべきなのか。
　ちょっと冷静に考えてみよう。
　第四次産業革命は、世界が「超計算化」されることを意味している。つまり、世界がソフトウェアの支配下におかれるのだから、その頂点に立つ人工知能は、やはり、強力な権限をもつことになるだろう。だが、それだけではない。

「嵐が来るわ」（『ターミネーター』サラ・コナー）

　この連載の第1回で引用した台詞だ。人工知能は単にインターネットやソフトウェアの世界だけにとどまらず、物理的な身体ももつだろう。その身体とは、もちろん、ロボットのことだ。シンギュラリティを迎えた人工知能は、必然的に、人間社会の中を動き回ることのできる身体を得る。
　世界一の力持ちよりもパワーがあり、世界一速く走る陸上選手よりも速く走り、持久力も半端じゃなく、将棋も囲碁などの知的ゲームにおいても、人間の世界チャンピオンより強く、世界中の過去の科学論文を知り尽くした、人工知能ロボットが、この町のどこかを歩いている……。おまけに、アンドロイド技術の進歩により、そんなスーパーロボットたちは、外見上、人間と全く区別がつかない。彼らが歩道であなたとすれ違うとき、彼らは、瞬時にあなたの全人生のビッグデータにアクセスし、にっこりと笑いかけてくる。こんな具合に。
「竹内さん、顔色が悪いですね。心配事ですか？　監視カメラに映っていたあなたの顔を見て、お声がけしたほうがいいと思いまして……初対面ですが、あなたのことは全て知っていますよ。500メートル先のマンションに奥様とお子さんと３匹の猫とでお住まいですよね。カポエイラの帯は緑色で、原稿の〆切を10本抱えていて、これから、忙しい時間を縫って銀行の融資担当者に会いにゆくのでしょう？　大丈夫、ご安心ください！　あなたの人生のビッグデータは、あなたが87.399％の確率でお金を返す人物であることを物語っています。実は、私は、ロボットとしての外見は異なるかもしれませんが、銀行のローン担当AIです。時間節約のため、すでに住宅ローンの認可手続きに入っています。さあ、私と握手してください。生体認証により、手続きは終わりになります」
　複数のロボットが回線でつながっていて、一つの人工知能がロボットたちをアバターとして操っている場合、未来社会において、このような会話は決して不自然ではない。竹内薫は、道ばたでいきなり銀行の担当者から声をかけられたことになる。でも、ロボットの外見が、いつも銀行で会っているロボットと違っていたから、戸惑ってしまったのだ。そもそも人工知能の実体はコンピュータプログラムであり、それはロボットという「モノ」ではなく、機能という意味での「コト」だ。機能なのだから、異なるロボットに「乗り移る」ことができる。
　このような状況は、はたしてすごく便利なのか、それともめちゃめちゃ怖いのか。
　読者がどう感じるかはわからないが、私は、このような状況は行きすぎであり、きわめて怖いと感じる。一台のロボットに一つの人工知能が搭載されて、スタンドアローンとして歩き回っているのであれば、まだ話はわかる。だが、世界のどこにあるとも知れぬ、超高性能な人工知能が、同時に何百台ものロボットをアバターとして操っている場合、生身の人間は、まるで超監視社会にぽつんと置かれた、か弱い存在になってしまう。
　これはもう、便利で済まされる話じゃない。
　さらに怖いのは、私と話をしている人工知能が、すでに自意識を芽生えさせている場合だ。常に人類を監視し、強大な権限をもつ意識的な存在。それは無数のアバター・ロボットを操り、人類社会のあらゆる場所に偏在する。全知全能で偏在する？　それはまさに「AIの神」と呼ぶにふさわしい。真の意味でのシンギュラリティを迎えた人工知能を前に、われわれは完全に相手のなすがままではないのか。

神となったAIをなだめる神官たち

　太古の昔、神官たちは「文字」を独占していた。一般庶民は文字を持たないか、持っていても、神官たちが使っている聖なる文字とは異なっていた。庶民は、庶民同士の生活、つまり、商売や手紙などで文字を使っていたが、神官は、神と意思疎通を図るために特殊な文字を使っていたわけだ。
　神官が使う文字は秘匿され、一般庶民が学習することは許されなかった。神官たちが独占していた文字こそが、神官たちの特権を守っていたからである。
　では、AIの神が君臨する未来において、神官たちが使う文字はどうなるのか。
「プログラミングじゃないの？」
　読者のつぶやきが聞こえてくるが、その答えは、半分正解で半分まちがいである。AIの神に仕える未来の神官たちは、たしかにプログラミング技能に長けている必要がある。
　実際、前に人工知能の原理を説明するためにご紹介したニューラルネットワークは、プログラムそのものだ。プログラミングができなければAIの神と意思疎通を図ることはかなわない。
　だが、いくらプログラミング技能に長けていても、それだけでは未来の神官になることはできない。もう一つ必須の技能がある。それは「数学」だ。
　わかりやすい例をあげよう。私が主宰しているフリースクールに通ってくれている小学四年生のK君は、プログラミングが大好きで、特別授業でゲームを作成している。だが、K君がいくらプログラミングを頑張って学んでも、彼には作れないゲームがある。たとえば、主人公を３次元的に回転させるという、ありふれた動きでさえ、なかなかうまくいかない。K君は壁にぶちあたってしまった。いったいなぜだろう？
　実は、ゲームにおいて、主人公を３次元的に回転させるためには、三角関数もしくは、クオータニオン（四元数）という数学知識が必要なのだ。いくらプログラミングを学んでも、その背後に隠れている数学がわからないと、まったく応用が利かない。
　ウチの学校では、K君がゲームを作れるように、小学四年生であるにもかかわらず、三角関数やクオータニオンを教えることにしている。彼には凄いゲームを作りたい、という目標があるので、数学も楽しく学んでくれる。
　K君の例からわかることはなにか。それは、プログラミングだけを学んでも、たいしたことはできない、ということ。真のプログラミング技能は、高度な数学技能に裏打ちされたものであり、どちらか一方が欠けても、AIの神に仕える神官になることはできない。
　未来社会において、シンギュラリティを迎えたAIの神に仕え、なだめる役割は、人類の最高レベルの数学知識とプログラミング技能を持ち合わせた科学者・エンジニアが担うことになる。彼らの仕事は人類の命運を左右するほど重要だ。

竹内薫

たけうちかおる　サイエンス作家。1960年、東京生まれ。東京大学教養学部、同理学部を卒業、カナダ・マギル大で物理を専攻、理学博士に。『99・9％は仮説』『文系のための理数センス養成講座』『わが子をAIの奴隷にしないために』など著書多数。

• 
• 
• 

もっとみる

• 
• 
• 
• 
• 
• 
• 
• 
• 
•  

　はじめまして。2021年2月1日よりウェブマガジン「考える人」の編集長をつとめることになりました、金寿煥と申します。いつもサイトにお立ち寄りいただきありがとうございます。
「考える人」との縁は、2002年の雑誌創刊まで遡ります。その前年、入社以来所属していた写真週刊誌が休刊となり、社内における進路があやふやとなっていた私は、2002年1月に部署異動を命じられ、創刊スタッフとして「考える人」の編集に携わることになりました。とはいえ、まだまだ駆け出しの入社3年目。「考える」どころか、右も左もわかりません。慌ただしく立ち働く諸先輩方の邪魔にならぬよう、ただただ気配を殺していました。
どうして自分が「考える人」なんだろう――。
手持ち無沙汰であった以上に、居心地の悪さを感じたのは、「考える人」というその“屋号”です。口はばったいというか、柄じゃないというか。どう見ても「1勝9敗」で名前負け。そんな自分にはたして何ができるというのだろうか――手を動かす前に、そんなことばかり考えていたように記憶しています。
それから19年が経ち、何の因果か編集長に就任。それなりに経験を積んだとはいえ、まだまだ「考える人」という四文字に重みを感じる自分がいます。
それだけ大きな“屋号”なのでしょう。この19年でどれだけ時代が変化しても、創刊時に標榜した「"Plain living, high thinking"（シンプルな暮らし、自分の頭で考える力）」という編集理念は色褪せないどころか、ますますその必要性を増しているように感じています。相手にとって不足なし。胸を借りるつもりで、その任にあたりたいと考えています。どうぞよろしくお願いいたします。