――1995年・東京――

 初老の男は、うなだれて座っていたが、上目遣いでぼんやりとわれわれを見つめていた。
 その顔は、ただただ白く、能面のような表情で、しかし、その充血した目からは、内に渦巻く怒りの大きさが推し量られた。
 われわれはその場で凍りついた。
 時間にすれば、ほんの10秒程度だったのだろう。だが、あまりの緊張感に、私には、まるで永遠の時が流れているかのように感じられた。
 やがて、男はふぅーっと息を吸い込むと、ゆらりと立ち上がり、われわれ一人一人の顔を順に確認していった。ここにいたり、たまらず、私の隣に立っていたS課長が口を開いた。
「この度は、わ、私どもの落ち度により、I社様に多大なご迷惑をおかけし、本当に申し訳ございませんでした!」
 その言葉を合図に、われわれ3名が直立不動の姿勢で90度のお辞儀をした。
 私はリノリウムの床にこびりついた汚れを眺めながら思い返していた。調査会社Mを通じて広告代理店I社に納入した広告視聴率予測プログラム。半年の間、なんの問題もなく運用され、I社もクライアントにその効用を宣伝し、すべては順調であるかに見えた。ところが、3日前、クライアントからI社の担当者の元に「先月の数字がおかしいのではないか」という苦情が舞い込んだ。視聴率の予測数値が、テレビ放映後のビデオリサーチ社による実測値と乖離しており、無駄な宣伝広告費を使ってしまったという。いったい何が起きたのか。
 丸々2日かけて調べたところ、どうやら、調査会社MのK係長がビデオリサーチ社の「過去データ」を入力する際にミスを犯したらしいことが判明した。私のプログラムは、過去データを元に、次の月の視聴率を計算し、広告出稿を最適化するアルゴリズムだった。当然のことながら、過去データをきちんと入力しないとうまく予測できない。今となっては、なぜ、几帳面で仕事熱心なK係長がそのような入力ミスをしでかしたのかはわからないが、他の仕事が重なったか何かで、充分にチェックできなかったのかもしれない。
 当時のシステムには、大量の手入力という信じられない状況があり、それは頭の痛い問題であった。データが紙媒体でしか供給されていなければ、それをOCRで読み取る方法もあるが、(当時の読み取り精度では)読み取りミスが頻発する。人間が入力した方が、むしろ安全だったのだ。
 本来なら、別人が同じようにデータを入力してみて、計算結果が同じになるかどうかまでをチェックすべきだったが、人手が足りなかった。そのため事実上、K係長がひとりでダブルチェックしてから、広告代理店I社へ集計表を送る手順になっていた。調査会社Mの内部では、こんな会話が交わされていたにちがいない。

S課長「Kくん、今回は、単なる入力ミスではすまないんだ」
K係長「……」
S課長「数値は再確認したのかね」
K係長「はい、……いいえ、すみませんでした」
S課長「とりあえず始末書を書いてくれ。減給処分くらいですめばいいんだが」
K係長「本当に申し訳ありませんでした……」

 この一件はその後、不信感を抱いたクライアントをI社が競合他社に奪われるという最悪の展開となった。われわれが謝罪に訪れたとき、I社の担当者が顔面蒼白だったのには充分な理由があったのだ。
 M社は調査会社としての信頼を失い、納入先のI社は大事な顧客を失い、K係長には重い内部処分が下された。元のプログラムを書いた私にはお咎めはなかったが、心の中では、大いに反省していた。「おかしな数字」が入力されたり、おかしな予測値が出たときに、人間側に注意を促す仕組みがあってもよかったのではないか。コンピュータは、ほとんど計算ミスをしないが、人間は元々ミスをする生き物だ。「異常値が出ています。もう一度、入力データをチェックしてください」という表示をK係長がパソコンの画面で見ていれば、大きな損害は防げたのではあるまいか。
 だが、テレビ番組の視聴率というものは、競合するテレビ局の特番によっても大幅に変わるし、当時は、プロ野球の巨人の放送があるかないかでも変わっていた。それなりに変動が大きい上、そもそも視聴率データには4%程度の誤差がある。人間に注意喚起するシステムは開発できずに終わった。

 この連載の初め頃、数字の入力ミスによる証券の大量誤発注(2005)を採り上げたが、それよりも10年も前に、おそらく入力ミスによるビジネスの損失は多発しており、K係長の事件も、その一つにすぎなかったのだと思う。
 AIと人間が同じ職場で一緒に仕事をするような社会が到来したとき、K係長が陥ったような「悲劇」が、新たな形で多発するのではないか、と私は心配している。仕事上のトラブルが生じた場合、仮にAI側に問題があったとしても、AIを管理している技術担当者にすら問題点が理解できない時代が到来するだろう。まさに、AIが出した答えの理由を人間が推測できなくなる「シンギュラリティ」である。
 K係長がほぼ一人で責任を取らされたのと同様、未来社会においては、AIは責任を取らず、そのAIと直接関わっている人間の担当者が詰め腹を切らされるような事態は容易に想像できる。

上司「キミの責任だね」
担当者「は? しかし、私はAIの判断に従ったまでです」
上司「AIの判断を鵜呑みにするのなら、人間のキミはいらないじゃないか」
担当者「……」
上司「それとも、AIに始末書を書かせて、減給処分にでもするのか?」
担当者「……申し訳ありません」

 現在のコンピュータと人間の接し方が、さらに複雑化することが予想される。今のうちからAIの特性をしっかりと理解し、うまく付き合うことができるように準備をしておく必要があるだろう。