2018年2月27日 AI時代を生き延びる、たったひとつの冴えたやり方

プログラミング現場の昔話（ふたたび）

著者： 竹内薫

――1995年・東京――

　初老の男は、うなだれて座っていたが、上目遣いでぼんやりとわれわれを見つめていた。
　その顔は、ただただ白く、能面のような表情で、しかし、その充血した目からは、内に渦巻く怒りの大きさが推し量られた。
　われわれはその場で凍りついた。
　時間にすれば、ほんの10秒程度だったのだろう。だが、あまりの緊張感に、私には、まるで永遠の時が流れているかのように感じられた。
　やがて、男はふぅーっと息を吸い込むと、ゆらりと立ち上がり、われわれ一人一人の顔を順に確認していった。ここにいたり、たまらず、私の隣に立っていたS課長が口を開いた。
「この度は、わ、私どもの落ち度により、Ｉ社様に多大なご迷惑をおかけし、本当に申し訳ございませんでした！」
　その言葉を合図に、われわれ3名が直立不動の姿勢で90度のお辞儀をした。
　私はリノリウムの床にこびりついた汚れを眺めながら思い返していた。調査会社Mを通じて広告代理店Ｉ社に納入した広告視聴率予測プログラム。半年の間、なんの問題もなく運用され、Ｉ社もクライアントにその効用を宣伝し、すべては順調であるかに見えた。ところが、3日前、クライアントからＩ社の担当者の元に「先月の数字がおかしいのではないか」という苦情が舞い込んだ。視聴率の予測数値が、テレビ放映後のビデオリサーチ社による実測値と乖離しており、無駄な宣伝広告費を使ってしまったという。いったい何が起きたのか。
　丸々2日かけて調べたところ、どうやら、調査会社MのK係長がビデオリサーチ社の「過去データ」を入力する際にミスを犯したらしいことが判明した。私のプログラムは、過去データを元に、次の月の視聴率を計算し、広告出稿を最適化するアルゴリズムだった。当然のことながら、過去データをきちんと入力しないとうまく予測できない。今となっては、なぜ、几帳面で仕事熱心なK係長がそのような入力ミスをしでかしたのかはわからないが、他の仕事が重なったか何かで、充分にチェックできなかったのかもしれない。
　当時のシステムには、大量の手入力という信じられない状況があり、それは頭の痛い問題であった。データが紙媒体でしか供給されていなければ、それをOCRで読み取る方法もあるが、（当時の読み取り精度では）読み取りミスが頻発する。人間が入力した方が、むしろ安全だったのだ。
　本来なら、別人が同じようにデータを入力してみて、計算結果が同じになるかどうかまでをチェックすべきだったが、人手が足りなかった。そのため事実上、K係長がひとりでダブルチェックしてから、広告代理店I社へ集計表を送る手順になっていた。調査会社Mの内部では、こんな会話が交わされていたにちがいない。

S課長「Kくん、今回は、単なる入力ミスではすまないんだ」
K係長「……」
S課長「数値は再確認したのかね」
K係長「はい、……いいえ、すみませんでした」
S課長「とりあえず始末書を書いてくれ。減給処分くらいですめばいいんだが」
K係長「本当に申し訳ありませんでした……」

　この一件はその後、不信感を抱いたクライアントをI社が競合他社に奪われるという最悪の展開となった。われわれが謝罪に訪れたとき、I社の担当者が顔面蒼白だったのには充分な理由があったのだ。
　M社は調査会社としての信頼を失い、納入先のI社は大事な顧客を失い、K係長には重い内部処分が下された。元のプログラムを書いた私にはお咎めはなかったが、心の中では、大いに反省していた。「おかしな数字」が入力されたり、おかしな予測値が出たときに、人間側に注意を促す仕組みがあってもよかったのではないか。コンピュータは、ほとんど計算ミスをしないが、人間は元々ミスをする生き物だ。「異常値が出ています。もう一度、入力データをチェックしてください」という表示をK係長がパソコンの画面で見ていれば、大きな損害は防げたのではあるまいか。
　だが、テレビ番組の視聴率というものは、競合するテレビ局の特番によっても大幅に変わるし、当時は、プロ野球の巨人の放送があるかないかでも変わっていた。それなりに変動が大きい上、そもそも視聴率データには4％程度の誤差がある。人間に注意喚起するシステムは開発できずに終わった。

　この連載の初め頃、数字の入力ミスによる証券の大量誤発注（2005）を採り上げたが、それよりも10年も前に、おそらく入力ミスによるビジネスの損失は多発しており、K係長の事件も、その一つにすぎなかったのだと思う。
　AIと人間が同じ職場で一緒に仕事をするような社会が到来したとき、K係長が陥ったような「悲劇」が、新たな形で多発するのではないか、と私は心配している。仕事上のトラブルが生じた場合、仮にAI側に問題があったとしても、AIを管理している技術担当者にすら問題点が理解できない時代が到来するだろう。まさに、AIが出した答えの理由を人間が推測できなくなる「シンギュラリティ」である。
　K係長がほぼ一人で責任を取らされたのと同様、未来社会においては、AIは責任を取らず、そのAIと直接関わっている人間の担当者が詰め腹を切らされるような事態は容易に想像できる。

上司「キミの責任だね」
担当者「は？　しかし、私はAIの判断に従ったまでです」
上司「AIの判断を鵜呑みにするのなら、人間のキミはいらないじゃないか」
担当者「……」
上司「それとも、AIに始末書を書かせて、減給処分にでもするのか？」
担当者「……申し訳ありません」

　現在のコンピュータと人間の接し方が、さらに複雑化することが予想される。今のうちからAIの特性をしっかりと理解し、うまく付き合うことができるように準備をしておく必要があるだろう。

竹内薫

たけうちかおる　サイエンス作家。1960年、東京生まれ。東京大学教養学部、同理学部を卒業、カナダ・マギル大で物理を専攻、理学博士に。『99・9％は仮説』『文系のための理数センス養成講座』『わが子をAIの奴隷にしないために』など著書多数。

• 
• 
• 

もっとみる

• 
• 
• 
• 
• 
• 
• 
• 
• 
•  

　はじめまして。2021年2月1日よりウェブマガジン「考える人」の編集長をつとめることになりました、金寿煥と申します。いつもサイトにお立ち寄りいただきありがとうございます。
「考える人」との縁は、2002年の雑誌創刊まで遡ります。その前年、入社以来所属していた写真週刊誌が休刊となり、社内における進路があやふやとなっていた私は、2002年1月に部署異動を命じられ、創刊スタッフとして「考える人」の編集に携わることになりました。とはいえ、まだまだ駆け出しの入社3年目。「考える」どころか、右も左もわかりません。慌ただしく立ち働く諸先輩方の邪魔にならぬよう、ただただ気配を殺していました。
どうして自分が「考える人」なんだろう――。
手持ち無沙汰であった以上に、居心地の悪さを感じたのは、「考える人」というその“屋号”です。口はばったいというか、柄じゃないというか。どう見ても「1勝9敗」で名前負け。そんな自分にはたして何ができるというのだろうか――手を動かす前に、そんなことばかり考えていたように記憶しています。
それから19年が経ち、何の因果か編集長に就任。それなりに経験を積んだとはいえ、まだまだ「考える人」という四文字に重みを感じる自分がいます。
それだけ大きな“屋号”なのでしょう。この19年でどれだけ時代が変化しても、創刊時に標榜した「"Plain living, high thinking"（シンプルな暮らし、自分の頭で考える力）」という編集理念は色褪せないどころか、ますますその必要性を増しているように感じています。相手にとって不足なし。胸を借りるつもりで、その任にあたりたいと考えています。どうぞよろしくお願いいたします。