2020年3月24日

菅付雅信×山本貴光「AIを魔術化しないために」

後編　コンピューターに田舎道を歩かせること

著者： 菅付雅信 , 山本貴光

編集者の菅付雅信さんによるノンフィクション『動物と機械から離れて　AIが変える世界と人間の未来』刊行を記念して、コンピューターの思想にも造詣が深い著述家・山本貴光さんとの対談を２回に分けてお送りしています。後編では、AIの特徴である“部分最適”をキーワードに現代を読み解きながら、これからの社会の可能性を語ります。

（構成・石戸諭）

（前回はこちら）

AIの「権内」と「権外」

菅付　先ほども話に出ましたが、AI 肯定論者には果てしない全能感があります。本の中にも書いたエピソードで、レイ・カーツワイル（AI 研究の世界的権威）の来日講演を聞きにいった時に、印象的な場面がありました。日本の聴衆から「あなたは将来、自分の脳に電極を刺しますか？」と聞かれて、彼は「喜んで刺します」と嬉々として答えたんです。ここにテクノロジーに対する、彼の絶対的な信頼を見て取ることができましたね。

山本　『自分の体で実験したい』という滅法面白い本があるのですが、まさにそれですね（笑）。そのお話で思い出したのですが、SF作家、テッド・チャンの短編集『息吹』（大森望訳、早川書房）が翻訳されて話題になっています。彼は、テクノロジーの発達によって、私たちが近い将来に日常で経験しそうな出来事やそこで生じる問題を書く名手で、『息吹』にもそうした話が載っています。「偽りのない事実、偽りのない気持ち」は、ある父と娘の話です。
　ライフログを映像としてすべて記録する装置がある。この装置を着けている人が、誰かとおしゃべりをすると、その会話に現れるキーワードに関連する過去の映像が検索されて、視野の隅っこに映される。そういうAIです。作中では「リメン」と呼ばれています。このリメンを使って生活する娘と、それ以前の世界を知っている父親。このふたりを通して、人間の「記憶」とは何かを問う話です。
　その世界では「言った、言わない」の言い争いもなくなります。なぜなら会話もすべて記録されているからです。しかし、果たしてそれが人間にとって幸せと言えるかどうか。もちろん正確な記録によって便利になることも多々ある。同時に、時間とともに記憶が変化することで人が救われるという面もあります。テッド・チャンは、こうした状況を物語にして、テクノロジーと人間の組み合わせから何が生じるかについて考えるよう促しています。
　現在、AI業界は「AIであんなこともできる、こんなこともできる」と盛んに宣伝をするわけですが、当然AIにも「権内」と「権外」があります。できれば、テクノロジーによってできることと、できないことの線引きを分かるようにしておきたいですね。

菅付　本の中で哲学者の東浩紀さんが指摘していますが、みんなAIやテクノロジーの万能を信じすぎているんですよね。テクノロジーが発達すれば問題が解決するなんて単純なものではないのに、安倍政権も含めて、いま世界中の政治家がテクノロジーに投資し、期待もしている。
　かつての原子力開発と同じで、AIが発達すればなんとかなると思いすぎています。
　僕はこの本の取材を通じて、AIが意識を持つということは、まだまだ非常に難しいのではないかと思いました。「意識とは何か」ということは脳科学の分野だけでなく哲学的な問いも含んだ問題であり、いまだにほとんどのことが分かっていない問題だからです。
　例えば、意識を持たないAIには、京都の人やパリの人が言葉に込めている皮肉だったり嫌味だったりもわからないですよね。僕はこれまでパリに18回行ったことがありますが、ようやく15回目を過ぎたところで、パリの友人の言っている言葉のニュアンスがわかるようになってきた（笑）。

コンピューターは世界を経験しない

山本　これは笑い話ですが、グーグル翻訳に「瓜二つ」と入れると「Two melons」と出てくる、というのが時々ツイッターでも話題になります。最初のころは「Melon two」だったので、「Two melons」と訳せるようになったのは大いなる進歩なのですが（笑）。要するにグーグル翻訳のAI は、ここまで精度が上がったといってもまだ文字通りにしか「瓜二つ」を翻訳できない。ましてや、京都人の「いけず」が分かるとなると、ほど遠いでしょうね。
　アラン・チューリング（「人工知能の父」とも言われる数学者）が「知能機械」という論文で、もし知能を持った機械ができたとするならば、その機械には田舎町を歩かせないといけないと書いています。

菅付　それはおもしろいですね。

山本　なぜ田舎町を歩かせるかというと、機械に知能を持たせるには、世界を経験させないといけないからです。ただし、チューリングがこれを考えた1940年代には、人間と同じような機能を備えて人びとの間を歩き回れるような機械をつくるのは難しかった。できても巨大になってしまう。だから歩かせるにしても人の少ない田舎でということなのですね。
　そこで彼が考えたのは、人間の身体全部を機械にするのは難しくても、人間でいうところの頭と目と口の機能だけなら動き回らなくてもいいし、なんとかできそうだ、ということです。では、そういう状態だけでできる知的なことは何か。
　チューリングは五つ挙げています。チェスのようなゲーム、言語の習得、言語の翻訳、暗号解読、数学の証明です。現在でもAI の開発で取り組まれてきたものばかり。ここで挙げられているものは、チェスが最たるものですが、あるルールと条件を指定すれば、その中で最適な答えを出せるというものですよね。こんなふうに限定された課題に対して、部分最適の答えを出すという意味においてなら、コンピューターのほうが人間より得意かもしれない。
　しかし、目下のコンピューターは身体を伴うことがなく、世界を経験できません（ロボティクスが進みつつありますが、身体制御の段階にあります）。また、私たちが「知性」と呼んでいる性質には、経験した世界について言語という抽象化したモデルを使って考えることも含まれています。人間はその能力を使って、限定された課題についての部分最適解だけでなく、一見相互に関係のない課題同士を視野に入れて全体最適解も考えることができます。
　コンピューターが限定されたアルゴリズムによって個々の部分最適解を出しても、問題全体で考えた時にはどこまで最適なのか。部分最適解同士の答えに矛盾が起きたり、双方の最適がぶつかったりすることがあったとしても、コンピューターはそこに全体的な視点から答えを出すことはできないわけです。
　人間は世界を経験し、感情を根底に持ちながら、理性も働かせている。コンピューターは世界を経験できず、「きれい」や「美味しい」を感じることができず、感情も持ち得ない。そのようには世界を理解することができず、知性も持ち得ない。
　そんなふうに、限定された個々の課題に部分最適解を出す機械が、あたかも知性を持つことができるかのように思わせる「人工知能」という言葉の取り下げを要求したいですね。

菅付　なにか代案はあるんですか？

山本　かつては、冗談めかして「人工無脳（無能）」と言ったりしていました（笑）。知能は持っていませんからね。翻訳プログラム、チェスプログラム、画像同定プログラムというふうに、用途別に呼ぶのでよいと思います。

部分最適の時代

菅付　山本さんの部分最適の話は面白いですね。AIの研究や開発でも、「明日から部分最適が解決できる」という話はたくさんありますが、では全体最適がどうなるのかという話はなかなか出てこない。
　むしろ、今の社会問題は部分最適ばかりが重視されているのかもしれません。例えば、スターバックスがプラスチックストローを紙にすると発表しましたよね。でも、ストローってスターバックスのごみ全体からすると微々たる量で、お店から毎日出ているあのぞっとする量のごみは、まったく減っていない。だったら、店内で飲むお客へは全てマグカップで提供するようにした方がずっとごみが減るのに、そこはプラスチック容器で渡している。

山本　そう考えると、ストローを紙に変えるだけで、ブランドイメージ的には大きな効果を得ましたよね。

菅付　環境に配慮している企業ですよというアピールにはなりましたよね。地球環境という全体最適から物事を考えなければいけない時代なのに、これではただ何かをやった気になるだけです。これは悪しき部分最適だと思いますね。
　部分最適についてもうひとつ思うのは、書店でこの十年の間に一番売り場を拡大したジャンルって何だと思いますか？　それは、自己啓発本です。いまや出版物の一大市場になっていますが、自己啓発本とはつまり、明日から使えて、すぐに何かやったような気になれる本のことですよね。そうした本がより求められるようになっているわけです。僕は妻から「本が売れるためには、明日から使えるアイディアが書かれていないといけない。でもあなたの本や講演には、明日から使えるアイディアがない」とよく言われます。
　僕にとっては、そんなものはどうでもいいことなのですが。歴史を踏まえて、長いレンジで物を考えなくてもいいとされる時代になっているとすると、怖いなと思います。

山本　皮肉なことに、明日すぐ使えるものは、アルゴリズムにできる可能性が高い。ということは、機械で置き換えられる可能性も高い。
　他方で、人間は「自分」、「今の課題」、「環境や状況」という3つを組み合わせて、答えを出すことのできる生き物です。コンピューターは「環境・状況」の変化が苦手です。というのも、アルゴリズムは、限定された因果関係を想定して作るものですが、現実世界には無数と言いたくなるほど事物があって、それらが無数と言いたくなるほど関係しあって何かが生じているからです。
　例えば、ビルの上からリンゴを落としたとします。このリンゴが落下する物理法則は分かっていて計算できますね。ですからコンピューターで、ある高さのビルからリンゴを落とせば重力に従い、どのくらいの時間で道路に落ちるかという計算はできる。しかし現実の世界では、リンゴが道路に落ちない可能性もある。途中でカラスが飛んできてひゅっと咥えていってしまうかもしれないし、風が吹いて、どこかにぶつかって落ちる前に割れるかもしれない。私たちが生きているこの世界は、複数の因果が複雑に絡み合っているような世界です。こうした状況は、落体の運動に絞った計算では考慮されないわけです。
　もちろん人間にしても、そうした複雑な因果をすべて見通せているわけではない。未来を予測しきれないし、いろいろな失敗もします。ただ、そうした失敗の経験を通じて、人間は多様な状況に結構柔軟に対応することもできます。これは、明日すぐ使えることというよりは、長い時間と経験によってできることですね。あるいは、そうしようと思えば、過去の歴史も含めて利用できるわけです。部分最適解を出すことができるAIはこの先も発展するでしょうから、私たちとしては、それを道具としてうまく使えるようにしたいものですね。

菅付　AI研究者の楽観って、ある意味で不幸せだなと思いました。彼らもどこかで、部分最適を求めているんだと思うんです。僕は、人間にしかできない全体最適について考えていきたいと思いますね。

国家を超えた「全体最適」を考える可能性

山本　最後に、AIのポジティヴな可能性についても考えておきましょう。菅付さんはこの本の最終章で国家の問題に触れて、国民ではなく世界市民という生き方を提案していますね。目下の日本、現政権が典型ですが、国家が国民全体の幸福ではなく、権力側に立つ人びとへの便宜を図り、それ以外を斬り捨てるケースが目に余ります。これは国民全体の幸福から見れば、まさに限定された部分最適解ですよね。
　他方で、ここでも確認してきたように、AIは、各種の限定された課題についてパターンや部分最適解の発見に使える。人類の活動や自然に関わるさまざまなデータを材料として、それぞれの地域や人びとに関わる各種課題に対する部分最適解を出してみる。それらをさらに付き合わせて調整を試みる。こうすると、実は国家もまたその中の一要素でしかないような形で、人びとの幸福な状態を模索する利害調整システムを見いだせるかもしれない。極めて大雑把なスケッチに過ぎませんが、菅付さんの構想を読みながら、そんなことが思い浮かびました。
　ただし、繰り返しになりますが、過去のデータからパターンを抽出できたとしても、それらはあくまで過去のパターンであり、それによって未来が決まるわけではありません。過去のパターンをそのまま繰り返したところで、問題は解決しませんが、未来について考える指標を増やすことはできる。また、誰がどのようなアルゴリズムを設計し、どんなデータを使うかによって、見いだされるパターンも変わりますから、冒頭で述べたように、そうした仕組みを大まかであれ理解することが重要です。
　AIをうまく活用できれば、国家を超えた問題についても、人間が地球全体の全体最適を見つけやすくなる。そういう可能性もありそうですね。

菅付　そうですね。僕が「コンピューター第一世代が夢見たように、AIを活用して、個人が国家に紐づくことなく自律して世界とつながる方法を考えよう」とか「これから人々を統治するものは、国家ではない別の形があるのかもしれない」と話すと、「それはいつ実現するんだ」という質問が必ず飛んできます。僕は今世紀中に実現すればいいかな、というくらいの気持ちで語っているんですけれどね。
　経済は一足早くグローバル化していますが、政治や人権というのはまだまだ国家レベルに留まっていて、およそグローバル化しているとは言えません。AIもビジネスの領域だけでなく、地球レベルの問題について、国家の枠を超えた最適解を見つけることを助けるようなツールになればいいと思っています。

（おわり）

菅付雅信

すがつけ・まさのぶ　編集者／株式会社グーテンベルクオーケストラ代表取締役。1964（昭和39）年宮崎県生まれ。『月刊カドカワ』『カット』『エスクァイア 日本版』編集部を経て独立。『コンポジット』『インビテーション』『エココロ』の編集長を務め、出版物の編集から内外クライアントのプランニングやコンサルティングを手がける。著書に『はじめての編集』『中身化する社会』『物欲なき世界』等がある。アートブック出版社ユナイテッドヴァガボンズの代表も務める。下北沢B&Bで「編集スパルタ塾」を主宰。

山本貴光

やまもと・たかみつ　1971（昭和46）年生まれ。慶應義塾大学環境情報学部卒業。文筆家、ゲーム作家。「哲学の劇場」主宰。著書に『文体の科学』『「百学連環」を読む』『文学問題（F＋ｆ）＋』『投壜通信』、共著に『脳がわかれば心がわかるか』（吉川浩満と）『高校生のためのゲームで考える人工知能』（三宅陽一郎と）『その悩み、エピクテトスなら、こう言うね。』（吉川と）、訳書にケイティ・サレン、エリック・ジマーマン『ルールズ・オブ・プレイ』、メアリー・セットガスト『先史学者プラトン 紀元前一万年―五千年の神話と考古学』（吉川浩満と共訳）など。

• 
• 
• 

もっとみる

• 
• 
• 
• 
• 
• 
• 
• 
• 
•  

　はじめまして。2021年2月1日よりウェブマガジン「考える人」の編集長をつとめることになりました、金寿煥と申します。いつもサイトにお立ち寄りいただきありがとうございます。
「考える人」との縁は、2002年の雑誌創刊まで遡ります。その前年、入社以来所属していた写真週刊誌が休刊となり、社内における進路があやふやとなっていた私は、2002年1月に部署異動を命じられ、創刊スタッフとして「考える人」の編集に携わることになりました。とはいえ、まだまだ駆け出しの入社3年目。「考える」どころか、右も左もわかりません。慌ただしく立ち働く諸先輩方の邪魔にならぬよう、ただただ気配を殺していました。
どうして自分が「考える人」なんだろう――。
手持ち無沙汰であった以上に、居心地の悪さを感じたのは、「考える人」というその“屋号”です。口はばったいというか、柄じゃないというか。どう見ても「1勝9敗」で名前負け。そんな自分にはたして何ができるというのだろうか――手を動かす前に、そんなことばかり考えていたように記憶しています。
それから19年が経ち、何の因果か編集長に就任。それなりに経験を積んだとはいえ、まだまだ「考える人」という四文字に重みを感じる自分がいます。
それだけ大きな“屋号”なのでしょう。この19年でどれだけ時代が変化しても、創刊時に標榜した「"Plain living, high thinking"（シンプルな暮らし、自分の頭で考える力）」という編集理念は色褪せないどころか、ますますその必要性を増しているように感じています。相手にとって不足なし。胸を借りるつもりで、その任にあたりたいと考えています。どうぞよろしくお願いいたします。