2020年3月23日

菅付雅信×山本貴光「AIを魔術化しないために」

『動物と機械から離れて AIが変える世界と人間の未来』刊行記念対談

前編　アルゴリズム・リテラシーを高めよ

著者： 菅付雅信 , 山本貴光

昨年末、編集者の菅付雅信さんが各国のAI開発現場を取材したノンフィクション『動物と機械から離れて　AIが変える世界と人間の未来』が発売されました。人工知能は人々の暮らしや仕事をどう変えて、未来には何が幸福と呼べるのか？　人は機械と共に進化を遂げるのか、それとも機械に従う動物となるのか——1年８ヶ月に渡ってアメリカ・シリコンバレー、中国・深圳、ロシア・モスクワ、そしてNY、ソウル、香港、京都、東京で、世界の第一線の研究者、起業家、脳科学者、数学者、哲学者等、合計51名を取材してまとめられた本書の刊行を記念して、コンピューターの思想にも造詣が深い著述家・山本貴光さんとの対談が実現しました。AIとうまく付き合うために、アルゴリズムを“脱魔術化”する方法とは——。

（構成・石戸諭）

山本　『動物と機械から離れて』は、数あるAIに関する本の中で、あまり類のない一冊です。アメリカだけでなく、中国やロシアまで、多くのAI研究者らを訪ね歩き、彼らの楽観的な考えから悲観的なコメントまで、人によって受け止め方にさまざまなグラデーションがあることをこの一冊の中で見せてくれます。

菅付　ありがとうございます。この本の取材は、山本さんが『脳がわかれば心がわかるか』（山本貴光・吉川浩満著、太田出版）でも書かれている、「魔術的な語り口」という問題が出発点にあると考えていて。
　AIの専門家には、「一般の人に科学的なことはわからないだろう」と最初から説明をしない、悪しきエリート主義を持った人たちがいます。こうした専門家は、シンギュラリティは起きます、AI は人間より賢くなりますとさかんに言うのですが、「では、それってどういうことですか？」と問うと、これは魔術のようなものだから一般人にはわからないだろうという態度をとり、具体的な説明をしてくれないんです。
　僕は、AI の発達はこれだけ多くの人の生活に関わる問題なのに、魔術化させてはいけないんじゃないかと思って、この本を書きました。

アルゴリズムの「擬人化」問題

山本　前著の『物欲なき世界』（平凡社）にも共通していますが、菅付さんの著作には「人間の幸せとはなんだろうか」という大きな問いが通底していますね。AI とは、まさに人間の幸せに大きく関わるものでありながら、ご指摘のような魔術的な語り方もされて、多くの人にとってブラックボックスになってしまっている。そうしている間にも、よく分からないうちに、AI のテクノロジーが生活のさまざまな面に入り込みつつあります。
　これは見過ごせない課題だと私も思います。今、私たちは「アルゴリズム・リテラシー」をどう高めるかという問題に直面しているのではないでしょうか。
　人びとの誤解を招く大きな問題の一つは、アルゴリズムについての表現が「擬人化」しすぎていることです。「人工知能（AI）」という言葉がまさにそうですね。機械の働きに「知能」という人間や動物になぞらえた言葉を使う。すると、人工的に作られた知能が、やがて人間の知能を超えていく……といった類推も容易に働くようになるわけです。
　実態はどうか。菅付さんもこの本で幾重にも指摘しているように、人工知能といっても、実際にはコンピューターという機械を動かすためのアルゴリズムですね。アルゴリズムとは、問題解決の手順というぐらいの意味です。つまり、コンピューターを使ってある問題を解決するためのステップを、料理のレシピのように設計する。まずこうして、次にこうして、最後にこうする。この手順でコンピューターを動かせば画像を識別できる、翻訳ができる、というようなことを一つ一つやっているに過ぎません。
　言ってしまえば、なんらかの処理を機械化する手法です。機械化できるということは、自動化できるということであり、自動化できるということは、処理の手順を取り出して、機械装置に指定できるということを意味します。これがアルゴリズムです。
　ただし、その手順にはさまざまな工夫が凝らされており、複雑化しています。そのためアルゴリズムがブラックボックスになる。仕組みはよく分からないが効果がある。ブラックマジック（黒魔術）だ、と揶揄されたりもする。そのからくりを理解せずに語ろうとすれば、まさに魔術のように扱うことにもなりかねない。そうならないためには、アルゴリズムを読み解くリテラシーが求められると思うんです。

菅付　世界の研究者や論者でアルゴリズム・リテラシーを高めようという人はいるんですか？

山本　私が知る限りでは、あまり多くはないように見えます。例えば『ホモ・デウス』などで知られる歴史家のユヴァル・ノア・ハラリは、AIという言葉をあまり使わず、おそらく意識的に「アルゴリズム」という言葉を使っています。無用な擬人化の影響を退けて、アルゴリズムに読者の注意を向けるための工夫だと見ました。あの本では、バイオテクノロジーとアルゴリズムの恩恵に与(あずか)れる人間がホモ・デウス（神の種族）になり、そうでない、従来のままのホモ・サピエンスは下位に置かれるという構図が提示されていましたね。アルゴリズムのわかる人がお金を儲けられるし、世界を動かすということを暗に言っているようにも読めます。

菅付　『ホモ・デウス』はこの本の取材をする上では避けられないと思って、読みました。非常に刺激的ではありましたが、僕は少し懐疑的に受け止めています。あの本の中には膨大な知識と記述がありますが、それに基づく仮説はあまりにも単純ですよね。複雑な事象が削ぎ落とされた結果、わかりやすいAI悲観論に接近しているように感じます。

山本　ハラリの本は、大きな物語を提示して人びとの思考を促すという目的もあってでしょうけれど、かなり単純化された仮説を提示していますね。彼の悲観論は、裏を返せばシンギュラリティ神話と大して変わらない。ここで大事なのは、菅付さんのように、彼の仮説とどう向き合うかです。

テクノロジー楽観主義の正体を考える

 菅付　僕はアルゴリズムについてはまったくの素人で、プログラムを組んだこともありません。アメリカ西海岸を中心とした、楽観論に満ちたシンギュラリティ神話に基づくAI本はある種のSFとしては面白いんだけれど、それも「本当かよ？」と思ってこれまで読んできました。
　だから僕は今回、自分が取材するにあたって「素人目線で、どこまで専門家に問いただせるか」という問題意識を大事にして、シリコンバレー、モスクワ、中国の深圳といったAI研究の拠点を回りました。
　僕の結論は、「AIによって人間の幸福はどうなるか？」といった“素人の疑問”に真正面から答えられる専門家は少なく、彼らがAIの未来に楽観的なのは、明確な根拠があるからというより単に彼らの「体質」なのではないか、というものです。カリフォルニアの太陽にさんさんと照らされて生活していると、楽観的になるんじゃないか、と（笑）。

山本　太陽が重要（笑）。楽観といえば、この本で印象的な場面の一つは、深圳のエンジニアたちの楽観主義です。私もゲーム制作の現場でプログラムを組んでいた経験から、エンジニアが楽観的になるのはわかる気がします。エンジニアは、プログラム（命令）を書いて、コンピューターを制御する立場にあります。コンピューターを自分たちの命令で動かしている。ここでは主従関係がはっきりしていて、これが楽観主義というか、コンピューターの使用に対するある種の全能感、万能感のベースになっているのではないかと思います。
　本書でインタヴューに答えた１人に、深圳のゲノム解析企業のCEOがいますね。彼は「善なる自分たちはAIをうまく使えるから大丈夫だ」と言っていますが、この発想には危惧を覚えますね。例えばGoogle社のかつての「邪悪になるな（Don’t be evil）」というモットーがあります。モットーそのものはよいけれど、その組織や人間がずっとその姿勢を維持し続けられるとは限らない。こういう仕組みをつくる場合、人間を過信してはいけないと思うんです。かつて善だった者がそうではなくなったらどうするか。自分は善だと信じていたが、結果的には善ならぬことをしていたということはないか。こういう可能性を踏まえたフェイルセーフ（失敗が生じても安全側に作動する仕組み）も必要です。
　AI を使って人が幸せになれるかどうかは、煎じ詰めれば私たちがどう使うかという問題ですね。少しイメージしやすい例で考えましょう。アマゾンのリコメンド・システムはいまや多くの人の生活に直結しています。では、それはどのようなアルゴリズムで動いているのか。そしてリコメンドの外には何があるのか。こういうことを考えなくなってしまうとしたら、かえって不便になりかねない。
　こうしたリコメンドに代表されるような AIは、膨大な人間の行動データからパターンを抽出して表示するものですね。もちろんこの仕組みで便利に必要が満たされたり発見がもたらされたりする場合もあります。他方で、例えば私のように仕事柄、日々たくさんの本を手にする人にとっては、レコメンド・システムは、書店の棚のあいだを巡り歩きながら発見や着想を得るといった用途には向いていない。
 「アルゴリズムで何ができて、何ができないのか」をわかることがAI の脱ブラックボックス化には重要です。そのことを、この本のように、メディアがちゃんと人々に伝える必要があると思いますね。

「他にもある選択肢」を想像する力

 菅付　今は、多くの人がリコメンドに振り回されすぎていると思います。僕の知人で婚活アプリを使っている女性がいるんですが、彼女は「アプリの中で自分の希望に叶う人がリコメンドされないと絶望的な気分になる」と言うんです。
　本当なら、恋愛はアプリの中だけで閉じるようなものではありませんよね。偶然の出会いは、現実にもたくさん起こりうる。それなのに、使っているうちにアプリがすべてのように感じてしまうんです。
　そこでは「相手を無限に選べるようでいて、実は小さなネットワークにしかいない」ということが起きていると思います。

山本　データだけでなく、現実も見る必要があるわけです。ツイッターのようなSNSも同じですね。ツイッターでなにかが話題になっているのを見ると、あたかも社会全体で話題になっているかのように錯覚してしまう。でも、考えてみれば、それはツイッターを使っている限られた人たちの中の、さらに限られた範囲で話題になっているだけだったりするわけです。
　婚活アプリもアマゾンも同じですが、本来、選択肢はデータによるリコメンド以外にもたくさんありえるわけです。システムの仕組みを理解する「アルゴリズム・リテラシー」と合わせて、「ここではないどこかよそや、他にもある選択肢を想像できる力」も大事になってくるでしょう。
　私が好きな哲学者に、エピクテトスという人がいます。一世紀にローマで活躍したギリシア人の哲学者で、彼は奴隷という立場から出発しているんですね。
　その哲学の根本にあるのが、「権内」と「権外」を適切に区別するという考え方です。要するに、自分で何をコントロールできて、何がコントロールできないかを適切に見極めなさいということです。それが人の幸福を左右するからです。
　たとえば、船乗りが船でどこかの港を目指している。いまのようにエンジンは積んでいない船です。ある時、風が吹いて来ないので、船が止まってしまった。エピクテトスは、風が吹くかどうかは自分にはコントロールできない「権外」なのだから、そのことを嘆いたり、喚いたりしてもしょうがない。船乗りにとって、この状況で自らがコントロールできること、つまり「権内」とは何か。それを考えることが大事だろうと言うわけです。
　他方でエピクテトスは、「権内」と「権外」を適切に線引きするためにはトレーニングが必要だとも言っています。私たちは放っておけば、何が権内で何が権外かを簡単に取り違えて悩むものだから、というわけです。人工知能の問題に引きつけていえば、人間がAIを使うことによって、これまでとは「権内」と「権外」の線引きが変わってきている。しかも、その線は日々動いています。

（後編に続く）

菅付雅信

すがつけ・まさのぶ　編集者／株式会社グーテンベルクオーケストラ代表取締役。1964（昭和39）年宮崎県生まれ。『月刊カドカワ』『カット』『エスクァイア 日本版』編集部を経て独立。『コンポジット』『インビテーション』『エココロ』の編集長を務め、出版物の編集から内外クライアントのプランニングやコンサルティングを手がける。著書に『はじめての編集』『中身化する社会』『物欲なき世界』等がある。アートブック出版社ユナイテッドヴァガボンズの代表も務める。下北沢B&Bで「編集スパルタ塾」を主宰。

山本貴光

やまもと・たかみつ　1971（昭和46）年生まれ。慶應義塾大学環境情報学部卒業。文筆家、ゲーム作家。「哲学の劇場」主宰。著書に『文体の科学』『「百学連環」を読む』『文学問題（F＋ｆ）＋』『投壜通信』、共著に『脳がわかれば心がわかるか』（吉川浩満と）『高校生のためのゲームで考える人工知能』（三宅陽一郎と）『その悩み、エピクテトスなら、こう言うね。』（吉川と）、訳書にケイティ・サレン、エリック・ジマーマン『ルールズ・オブ・プレイ』、メアリー・セットガスト『先史学者プラトン 紀元前一万年―五千年の神話と考古学』（吉川浩満と共訳）など。

• 
• 
• 

もっとみる

• 
• 
• 
• 
• 
• 
• 
• 
• 
•  

　はじめまして。2021年2月1日よりウェブマガジン「考える人」の編集長をつとめることになりました、金寿煥と申します。いつもサイトにお立ち寄りいただきありがとうございます。
「考える人」との縁は、2002年の雑誌創刊まで遡ります。その前年、入社以来所属していた写真週刊誌が休刊となり、社内における進路があやふやとなっていた私は、2002年1月に部署異動を命じられ、創刊スタッフとして「考える人」の編集に携わることになりました。とはいえ、まだまだ駆け出しの入社3年目。「考える」どころか、右も左もわかりません。慌ただしく立ち働く諸先輩方の邪魔にならぬよう、ただただ気配を殺していました。
どうして自分が「考える人」なんだろう――。
手持ち無沙汰であった以上に、居心地の悪さを感じたのは、「考える人」というその“屋号”です。口はばったいというか、柄じゃないというか。どう見ても「1勝9敗」で名前負け。そんな自分にはたして何ができるというのだろうか――手を動かす前に、そんなことばかり考えていたように記憶しています。
それから19年が経ち、何の因果か編集長に就任。それなりに経験を積んだとはいえ、まだまだ「考える人」という四文字に重みを感じる自分がいます。
それだけ大きな“屋号”なのでしょう。この19年でどれだけ時代が変化しても、創刊時に標榜した「"Plain living, high thinking"（シンプルな暮らし、自分の頭で考える力）」という編集理念は色褪せないどころか、ますますその必要性を増しているように感じています。相手にとって不足なし。胸を借りるつもりで、その任にあたりたいと考えています。どうぞよろしくお願いいたします。