2018年2月27日 AI時代を生き延びる、たったひとつの冴えたやり方

プログラミング現場の昔話（ふたたび）

著者： 竹内薫

――1995年・東京――

　初老の男は、うなだれて座っていたが、上目遣いでぼんやりとわれわれを見つめていた。
　その顔は、ただただ白く、能面のような表情で、しかし、その充血した目からは、内に渦巻く怒りの大きさが推し量られた。
　われわれはその場で凍りついた。
　時間にすれば、ほんの10秒程度だったのだろう。だが、あまりの緊張感に、私には、まるで永遠の時が流れているかのように感じられた。
　やがて、男はふぅーっと息を吸い込むと、ゆらりと立ち上がり、われわれ一人一人の顔を順に確認していった。ここにいたり、たまらず、私の隣に立っていたS課長が口を開いた。
「この度は、わ、私どもの落ち度により、Ｉ社様に多大なご迷惑をおかけし、本当に申し訳ございませんでした！」
　その言葉を合図に、われわれ3名が直立不動の姿勢で90度のお辞儀をした。
　私はリノリウムの床にこびりついた汚れを眺めながら思い返していた。調査会社Mを通じて広告代理店Ｉ社に納入した広告視聴率予測プログラム。半年の間、なんの問題もなく運用され、Ｉ社もクライアントにその効用を宣伝し、すべては順調であるかに見えた。ところが、3日前、クライアントからＩ社の担当者の元に「先月の数字がおかしいのではないか」という苦情が舞い込んだ。視聴率の予測数値が、テレビ放映後のビデオリサーチ社による実測値と乖離しており、無駄な宣伝広告費を使ってしまったという。いったい何が起きたのか。
　丸々2日かけて調べたところ、どうやら、調査会社MのK係長がビデオリサーチ社の「過去データ」を入力する際にミスを犯したらしいことが判明した。私のプログラムは、過去データを元に、次の月の視聴率を計算し、広告出稿を最適化するアルゴリズムだった。当然のことながら、過去データをきちんと入力しないとうまく予測できない。今となっては、なぜ、几帳面で仕事熱心なK係長がそのような入力ミスをしでかしたのかはわからないが、他の仕事が重なったか何かで、充分にチェックできなかったのかもしれない。
　当時のシステムには、大量の手入力という信じられない状況があり、それは頭の痛い問題であった。データが紙媒体でしか供給されていなければ、それをOCRで読み取る方法もあるが、（当時の読み取り精度では）読み取りミスが頻発する。人間が入力した方が、むしろ安全だったのだ。
　本来なら、別人が同じようにデータを入力してみて、計算結果が同じになるかどうかまでをチェックすべきだったが、人手が足りなかった。そのため事実上、K係長がひとりでダブルチェックしてから、広告代理店I社へ集計表を送る手順になっていた。調査会社Mの内部では、こんな会話が交わされていたにちがいない。

S課長「Kくん、今回は、単なる入力ミスではすまないんだ」
K係長「……」
S課長「数値は再確認したのかね」
K係長「はい、……いいえ、すみませんでした」
S課長「とりあえず始末書を書いてくれ。減給処分くらいですめばいいんだが」
K係長「本当に申し訳ありませんでした……」

　この一件はその後、不信感を抱いたクライアントをI社が競合他社に奪われるという最悪の展開となった。われわれが謝罪に訪れたとき、I社の担当者が顔面蒼白だったのには充分な理由があったのだ。
　M社は調査会社としての信頼を失い、納入先のI社は大事な顧客を失い、K係長には重い内部処分が下された。元のプログラムを書いた私にはお咎めはなかったが、心の中では、大いに反省していた。「おかしな数字」が入力されたり、おかしな予測値が出たときに、人間側に注意を促す仕組みがあってもよかったのではないか。コンピュータは、ほとんど計算ミスをしないが、人間は元々ミスをする生き物だ。「異常値が出ています。もう一度、入力データをチェックしてください」という表示をK係長がパソコンの画面で見ていれば、大きな損害は防げたのではあるまいか。
　だが、テレビ番組の視聴率というものは、競合するテレビ局の特番によっても大幅に変わるし、当時は、プロ野球の巨人の放送があるかないかでも変わっていた。それなりに変動が大きい上、そもそも視聴率データには4％程度の誤差がある。人間に注意喚起するシステムは開発できずに終わった。

　この連載の初め頃、数字の入力ミスによる証券の大量誤発注（2005）を採り上げたが、それよりも10年も前に、おそらく入力ミスによるビジネスの損失は多発しており、K係長の事件も、その一つにすぎなかったのだと思う。
　AIと人間が同じ職場で一緒に仕事をするような社会が到来したとき、K係長が陥ったような「悲劇」が、新たな形で多発するのではないか、と私は心配している。仕事上のトラブルが生じた場合、仮にAI側に問題があったとしても、AIを管理している技術担当者にすら問題点が理解できない時代が到来するだろう。まさに、AIが出した答えの理由を人間が推測できなくなる「シンギュラリティ」である。
　K係長がほぼ一人で責任を取らされたのと同様、未来社会においては、AIは責任を取らず、そのAIと直接関わっている人間の担当者が詰め腹を切らされるような事態は容易に想像できる。

上司「キミの責任だね」
担当者「は？　しかし、私はAIの判断に従ったまでです」
上司「AIの判断を鵜呑みにするのなら、人間のキミはいらないじゃないか」
担当者「……」
上司「それとも、AIに始末書を書かせて、減給処分にでもするのか？」
担当者「……申し訳ありません」

　現在のコンピュータと人間の接し方が、さらに複雑化することが予想される。今のうちからAIの特性をしっかりと理解し、うまく付き合うことができるように準備をしておく必要があるだろう。

竹内薫

たけうちかおる　サイエンス作家。1960年、東京生まれ。東京大学教養学部、同理学部を卒業、カナダ・マギル大で物理を専攻、理学博士に。『99・9％は仮説』『文系のための理数センス養成講座』『わが子をAIの奴隷にしないために』など著書多数。

• 
• 
• 

もっとみる

• 
• 
• 
• 
• 
• 
• 
• 
• 
•  

　はじめまして。2026年7月1日よりウェブマガジン「考える人」の編集長をつとめることになりました、松本太郎と申します。いつもサイトにお立ち寄りいただき、ありがとうございます。

　2002年7月4日、季刊誌「考える人」が創刊されました。

　目次には当代随一の執筆陣がずらりと並び、B5判240ページの誌面の隅々から知の香りが立ちのぼってくるかのようでした。

　当時、入社3か月の営業部員だった私は、見上げるような思いで手に取り、発売日には編集長の松家仁之さんと創刊のご挨拶のために書店にうかがいました。

　まだ書店訪問にも慣れておらず、編集長ともほぼ初対面の中、次のお店の約束の時間に間に合うだろうかと時計ばかりが気になって、終始、そわそわしていました。そんな私に松家さんがやわらかな笑顔で接してくれたこと、そして、新雑誌の門出を祝うようなすっきりと晴れた一日だったことを覚えています。

　あれから四半世紀が過ぎ、ウェブマガジンとして衣替えした今でも、創刊時に掲げられた「Plain living, high thinking（シンプルな暮らし、自分の頭で考える力）」という言葉は古びていません。ＡＩに尋ねれば瞬時に答えが返ってくる時代だからこそ、それらしい言葉に飛びつくのではなく、自分の頭で考え、心の声に耳を澄ませることの大切さは増しているように感じます。

　創刊号には、養老孟司さんのロングインタビューが掲載されています。養老さんはその中で、恩師である中井準之助先生の口癖だった「人の心がわかる心を教養という」という言葉を紹介しています。

　読んだ瞬間に立ち止まり、さまざまな思いが湧き上がってくるような文章に、楽しみながら出会える場であり続けたいと思っています。