2018年4月4日 AI時代を生き延びる、たったひとつの冴えたやり方

ウーバー（UBER）の死亡事故が意味するもの

著者： 竹内薫

　AI時代とプログラミングの話を書こうと思っていた矢先、大事件のニュース速報が飛び込んできた。

　現地時間2018年3月18日の夜、アメリカのライドシェアリング大手ウーバーが、アリゾナ州テンピの公道で行なっていた完全自動運転車の実証実験で、死亡事故が起きた。
　テンピ警察は、事故の際の映像を公開している。そこには、暗闇を走る車の左手から急にあらわれた、自転車を押す女性の姿が映っていた。この女性は、時速60キロで疾走する自動運転車に右側から衝突され、死亡した。映像は同時に、緊急時にハンドルを操作してブレーキを踏むはずだった、人間の運転者の様子も映していた。自動運転に慣れすぎて地図でも見ていたのか、単調な仕事に飽きてスマホを操作していたのか詳細は不明だが、事故の直前まで、人間の運転者は下を見ていて、車の左手からあらわれた女性を見ていなかった。衝突の直前、驚いて顔を上げた運転者の映像は、この事故の原因の根深さを象徴しているかのようだった。
　
　私は講演会でいつも、次のような話をする。
「AIにゲームをやらせてみましょう。これは誰もが一度はやったことがあるブロック崩しのゲームです。人間は、このゲームのルールをおおまかに覚えてから遊び始めます。最初はすぐにゲームオーバーになりますが、徐々に上達していきますよね。さて、Googleの子会社ディープマインドは、DQNと呼ばれるAIシステムにブロック崩しをやらせてみました。ええと、DQNはディープQネットワークと呼んでください。ドキュンではありません」
　私の親父ギャグで会場がしんと静まりかえる。仕方ないので、コホンと軽く咳払いをしてから、話を続ける。
「DQNはブロック崩しを400回くらいプレーした時点で、ほぼ失敗しなくなり、600回もプレーすると、いわゆる『裏技』まで発見してしまいました。あるいは、ピンボールを学習させると、なんと人間の25倍の得点を叩き出すにいたりました」

　AIは将棋や囲碁のような数学ゲームだけでなく、いわゆるアーケードゲームも驚くべき速さで学習してしまう。この話がどこに続くかというと（少々、飛躍があることは承知の上で）、完全自動運転なのである。ゲームの世界には、車や飛行機のシミュレーターがある。AIが車のシミュレーターをうまく学習すれば、原理的には、F1レーサーよりも速く走り、自動車教習所の教官よりも縦列駐車が上手になるはずだ。だとしたら、そのAIをそのままリアルな車に搭載し、さまざまな支援技術を使っていけば、自動車の完全自動運転も決して夢ではない。
　支援技術としては、まず車載カメラ（単眼・複眼）、レーダー（ミリ波・レーザー）、赤外線センサーなどの「目」がある。また、地図上のどこにいるかを認識するためのGPSや準天頂衛星みちびきによる「位置情報」がある。さらには、車同士の通信、車と道路インフラとの通信、そして車と歩行者との通信技術などがある。
　このうち、「目」についてはかなり精度が高くなってきており、位置情報も、日本を例に取れば、みちびきの本格稼働によって誤差がたった数センチというところまで来ている。最後に挙げた車と道路と歩行者の通信技術は、まだまだ、発展途上の技術だ。
　
　さて、このような状況を鑑み、なぜ今回の悲劇が生まれてしまったのか、そして今後、AIによる完全自動運転がどこへ行くのかを考えてみたい。
　事故の原因究明は今後の警察の捜査を待つしかないが、映像を見る限り、いくつか気になる点があった。

１　道路がかなり暗かったこと
２　自転車を押している女性が（歩道側ではなく）中央分離帯側から急にあらわれたように見えること
３　緊急時に回避行動を取る役割を担っていた男性が前方を見ていなかったこと

　まず、１について。私はデジカメの愛好家だが、いくら明るいレンズを使っても、暗い環境で写真を撮るのはずいぶんと大変だ。実際、オートフォーカスの利きも暗所では悪くなる。完全自動運転車の「目」も、原理はデジカメと同じなので、暗所では道路を横切ろうとする自転車の女性を認識できなかった可能性がある。あるいは、対向車のヘッドライトのせいで、画像認識ができなかったのかもしれない。いずれにせよ、今回、AI以前の問題として、「目」そのものがうまく機能しなかった可能性は捨てきれない。
　次に２について。自転車の女性が急に左からあらわれたわけだが、AIがこのような状況を学習していなかった可能性がある。急な歩行者の飛び出しは、通常は歩道側からなので、想定外だったのかもしれない。女性からすれば、いつもは、自転車を押して道路を横断していると運転手が気づいて減速してくれていたので、今回も、車の前を突っ切って大丈夫だと考えた節がある。しかし、被害者は死亡しているので、この点は確かめる方法がない。
　３については、安全性の担保として人間の運転手が運転席に座っていたわけだが、私には、机上の空論で実験が設計され、人間の心理が充分に考慮されていなかったように見える。自分がハンドルを握って運転していても、よそ見運転をして事故を起こす人がいるのだ。自分がハンドルも握らず、アクセルも踏んでいない状態で、長時間走行していたら、誰だって退屈してしまい、よそ見くらいするだろう。人間の集中力が、どのような状態で散漫になるのかは、心理学で研究し尽くされている分野だと思うのだが……。とにかく、最後のセーフティネットであるべき人間の運転者が、危険回避行動を取れなかったために今回の悲劇は起きた。
　人間の運転者よりも安全だと喧伝され続けてきたAIによる完全自動運転だが、今回の事故により、少なくとも現段階では、技術にいくつもの「穴」が存在することがわかった。10年後には、人間の運転者よりもAIの完全自動運転の方が安全になるのかもしれないが、まだまだ長い道のりであることが予想される。
　どのような技術でも、必ず想定外はあるし、必ず事故が起きる。死亡した女性のご家族は最新技術の「実験」のせいで、愛する人を失ったわけで、怒りのやり場もないであろう。今後の完全自動運転技術の行く末に暗雲がたちこめた感があるが、事故がアメリカで起きたことには意味がある。もし、この事故が日本で起きていたら、少なくとも日本の完全自動運転技術は10年間、停滞することになったはずだ。日本は、技術的な事故が起きると、安全性が100％確保されない限り、研究開発が完全にストップする国だからである。だがアメリカは、技術がらみの事故が起きる度に、原因を究明し、同じタイプの事故が起きない対策を講じ、再び先に進む国なのだ。どちらが良い、悪いではなく、文化の違いである。
　今回の事故の原因が究明され次第、おそらく、アメリカでは実証実験が再スタートする。そして、それを待って、日本（および日本企業）が実証実験を再スタートするだろう。

　将来、完全自動運転が実用化された暁にも、私は、できれば自分で車を運転したいと考えている。高速道路などであれば、そもそも運転が単調なので、自動走行でかまわないが、複雑に環境が変化する一般道や山道などでは、自分の手で安全を確保したいのだ。
　ちょっと似た話だが、パソコンやインターネットセキュリティの専門家の多くが、パソコンのカメラ部分に絆創膏を張っているという話をご存じであろうか。私も同じことを実践している。いくらソフトウェアで守りを固めても、スーパーハッカーが私のパソコンを乗っ取る可能性は常にある。複雑怪奇なネットセキュリティ技術の最終防御ラインが、「カメラ部分に絆創膏を張ること」というアナログな方法であることは、意味深長だ。
　近い将来、AIの自動運転は、確実に世界に広まるだろう。だがそのとき、安全運転の最終防御ラインは、やはり、人間がブレーキを踏み、エンジン（モーター）を切るという、アナログな方法なのではあるまいか。自動運転技術に必要なのは、「AIと人間の役割分担をどうすべきか」をはっきりさせることだ。安全神話が崩壊した今、AIだけで突っ走るのではなく、改めて、人間の心理面を見直すべきだと思うのである。

竹内薫

たけうちかおる　サイエンス作家。1960年、東京生まれ。東京大学教養学部、同理学部を卒業、カナダ・マギル大で物理を専攻、理学博士に。『99・9％は仮説』『文系のための理数センス養成講座』『わが子をAIの奴隷にしないために』など著書多数。

• 
• 
• 

もっとみる

• 
• 
• 
• 
• 
• 
• 
• 
• 
•  

　はじめまして。2021年2月1日よりウェブマガジン「考える人」の編集長をつとめることになりました、金寿煥と申します。いつもサイトにお立ち寄りいただきありがとうございます。
「考える人」との縁は、2002年の雑誌創刊まで遡ります。その前年、入社以来所属していた写真週刊誌が休刊となり、社内における進路があやふやとなっていた私は、2002年1月に部署異動を命じられ、創刊スタッフとして「考える人」の編集に携わることになりました。とはいえ、まだまだ駆け出しの入社3年目。「考える」どころか、右も左もわかりません。慌ただしく立ち働く諸先輩方の邪魔にならぬよう、ただただ気配を殺していました。
どうして自分が「考える人」なんだろう――。
手持ち無沙汰であった以上に、居心地の悪さを感じたのは、「考える人」というその“屋号”です。口はばったいというか、柄じゃないというか。どう見ても「1勝9敗」で名前負け。そんな自分にはたして何ができるというのだろうか――手を動かす前に、そんなことばかり考えていたように記憶しています。
それから19年が経ち、何の因果か編集長に就任。それなりに経験を積んだとはいえ、まだまだ「考える人」という四文字に重みを感じる自分がいます。
それだけ大きな“屋号”なのでしょう。この19年でどれだけ時代が変化しても、創刊時に標榜した「"Plain living, high thinking"（シンプルな暮らし、自分の頭で考える力）」という編集理念は色褪せないどころか、ますますその必要性を増しているように感じています。相手にとって不足なし。胸を借りるつもりで、その任にあたりたいと考えています。どうぞよろしくお願いいたします。