AI時代とプログラミングの話を書こうと思っていた矢先、大事件のニュース速報が飛び込んできた。

 現地時間2018年3月18日の夜、アメリカのライドシェアリング大手ウーバーが、アリゾナ州テンピの公道で行なっていた完全自動運転車の実証実験で、死亡事故が起きた。
 テンピ警察は、事故の際の映像を公開している。そこには、暗闇を走る車の左手から急にあらわれた、自転車を押す女性の姿が映っていた。この女性は、時速60キロで疾走する自動運転車に右側から衝突され、死亡した。映像は同時に、緊急時にハンドルを操作してブレーキを踏むはずだった、人間の運転者の様子も映していた。自動運転に慣れすぎて地図でも見ていたのか、単調な仕事に飽きてスマホを操作していたのか詳細は不明だが、事故の直前まで、人間の運転者は下を見ていて、車の左手からあらわれた女性を見ていなかった。衝突の直前、驚いて顔を上げた運転者の映像は、この事故の原因の根深さを象徴しているかのようだった。
 
 私は講演会でいつも、次のような話をする。
「AIにゲームをやらせてみましょう。これは誰もが一度はやったことがあるブロック崩しのゲームです。人間は、このゲームのルールをおおまかに覚えてから遊び始めます。最初はすぐにゲームオーバーになりますが、徐々に上達していきますよね。さて、Googleの子会社ディープマインドは、DQNと呼ばれるAIシステムにブロック崩しをやらせてみました。ええと、DQNはディープQネットワークと呼んでください。ドキュンではありません」
 私の親父ギャグで会場がしんと静まりかえる。仕方ないので、コホンと軽く咳払いをしてから、話を続ける。
「DQNはブロック崩しを400回くらいプレーした時点で、ほぼ失敗しなくなり、600回もプレーすると、いわゆる『裏技』まで発見してしまいました。あるいは、ピンボールを学習させると、なんと人間の25倍の得点を叩き出すにいたりました」

DeepMindがYouTubeにアップした「DQN Breakout」より


 AIは将棋や囲碁のような数学ゲームだけでなく、いわゆるアーケードゲームも驚くべき速さで学習してしまう。この話がどこに続くかというと(少々、飛躍があることは承知の上で)、完全自動運転なのである。ゲームの世界には、車や飛行機のシミュレーターがある。AIが車のシミュレーターをうまく学習すれば、原理的には、F1レーサーよりも速く走り、自動車教習所の教官よりも縦列駐車が上手になるはずだ。だとしたら、そのAIをそのままリアルな車に搭載し、さまざまな支援技術を使っていけば、自動車の完全自動運転も決して夢ではない。
 支援技術としては、まず車載カメラ(単眼・複眼)、レーダー(ミリ波・レーザー)、赤外線センサーなどの「目」がある。また、地図上のどこにいるかを認識するためのGPSや準天頂衛星みちびきによる「位置情報」がある。さらには、車同士の通信、車と道路インフラとの通信、そして車と歩行者との通信技術などがある。
 このうち、「目」についてはかなり精度が高くなってきており、位置情報も、日本を例に取れば、みちびきの本格稼働によって誤差がたった数センチというところまで来ている。最後に挙げた車と道路と歩行者の通信技術は、まだまだ、発展途上の技術だ。
 
 さて、このような状況を鑑み、なぜ今回の悲劇が生まれてしまったのか、そして今後、AIによる完全自動運転がどこへ行くのかを考えてみたい。
 事故の原因究明は今後の警察の捜査を待つしかないが、映像を見る限り、いくつか気になる点があった。

1 道路がかなり暗かったこと
2 自転車を押している女性が(歩道側ではなく)中央分離帯側から急にあらわれたように見えること
3 緊急時に回避行動を取る役割を担っていた男性が前方を見ていなかったこと

 まず、1について。私はデジカメの愛好家だが、いくら明るいレンズを使っても、暗い環境で写真を撮るのはずいぶんと大変だ。実際、オートフォーカスの利きも暗所では悪くなる。完全自動運転車の「目」も、原理はデジカメと同じなので、暗所では道路を横切ろうとする自転車の女性を認識できなかった可能性がある。あるいは、対向車のヘッドライトのせいで、画像認識ができなかったのかもしれない。いずれにせよ、今回、AI以前の問題として、「目」そのものがうまく機能しなかった可能性は捨てきれない。
 次に2について。自転車の女性が急に左からあらわれたわけだが、AIがこのような状況を学習していなかった可能性がある。急な歩行者の飛び出しは、通常は歩道側からなので、想定外だったのかもしれない。女性からすれば、いつもは、自転車を押して道路を横断していると運転手が気づいて減速してくれていたので、今回も、車の前を突っ切って大丈夫だと考えた節がある。しかし、被害者は死亡しているので、この点は確かめる方法がない。
 3については、安全性の担保として人間の運転手が運転席に座っていたわけだが、私には、机上の空論で実験が設計され、人間の心理が充分に考慮されていなかったように見える。自分がハンドルを握って運転していても、よそ見運転をして事故を起こす人がいるのだ。自分がハンドルも握らず、アクセルも踏んでいない状態で、長時間走行していたら、誰だって退屈してしまい、よそ見くらいするだろう。人間の集中力が、どのような状態で散漫になるのかは、心理学で研究し尽くされている分野だと思うのだが……。とにかく、最後のセーフティネットであるべき人間の運転者が、危険回避行動を取れなかったために今回の悲劇は起きた。
 人間の運転者よりも安全だと喧伝され続けてきたAIによる完全自動運転だが、今回の事故により、少なくとも現段階では、技術にいくつもの「穴」が存在することがわかった。10年後には、人間の運転者よりもAIの完全自動運転の方が安全になるのかもしれないが、まだまだ長い道のりであることが予想される。
 どのような技術でも、必ず想定外はあるし、必ず事故が起きる。死亡した女性のご家族は最新技術の「実験」のせいで、愛する人を失ったわけで、怒りのやり場もないであろう。今後の完全自動運転技術の行く末に暗雲がたちこめた感があるが、事故がアメリカで起きたことには意味がある。もし、この事故が日本で起きていたら、少なくとも日本の完全自動運転技術は10年間、停滞することになったはずだ。日本は、技術的な事故が起きると、安全性が100%確保されない限り、研究開発が完全にストップする国だからである。だがアメリカは、技術がらみの事故が起きる度に、原因を究明し、同じタイプの事故が起きない対策を講じ、再び先に進む国なのだ。どちらが良い、悪いではなく、文化の違いである。
 今回の事故の原因が究明され次第、おそらく、アメリカでは実証実験が再スタートする。そして、それを待って、日本(および日本企業)が実証実験を再スタートするだろう。

 将来、完全自動運転が実用化された暁にも、私は、できれば自分で車を運転したいと考えている。高速道路などであれば、そもそも運転が単調なので、自動走行でかまわないが、複雑に環境が変化する一般道や山道などでは、自分の手で安全を確保したいのだ。
 ちょっと似た話だが、パソコンやインターネットセキュリティの専門家の多くが、パソコンのカメラ部分に絆創膏を張っているという話をご存じであろうか。私も同じことを実践している。いくらソフトウェアで守りを固めても、スーパーハッカーが私のパソコンを乗っ取る可能性は常にある。複雑怪奇なネットセキュリティ技術の最終防御ラインが、「カメラ部分に絆創膏を張ること」というアナログな方法であることは、意味深長だ。
 近い将来、AIの自動運転は、確実に世界に広まるだろう。だがそのとき、安全運転の最終防御ラインは、やはり、人間がブレーキを踏み、エンジン(モーター)を切るという、アナログな方法なのではあるまいか。自動運転技術に必要なのは、「AIと人間の役割分担をどうすべきか」をはっきりさせることだ。安全神話が崩壊した今、AIだけで突っ走るのではなく、改めて、人間の心理面を見直すべきだと思うのである。