AIに溺れるな

2年半ほど前、NHKスペシャル『AIに聞いてみた どうすんのよ!? ニッポン』という番組で「40代ひとり暮らしが日本を滅ぼす」という「提言」をしたことが話題になった。

NHKのサイトでは「40代ひとり暮らしを減らせば日本がよくなる」という、40代ひとり暮らしの皆さんに忖度した表現へ置き換えられているが、元のセンセーショナルな文言は他メディアに広くコピペされている上、当のNHKも文書として残している。

後編はAIの分析から読み解いた「40代ひとり暮らしが日本を滅ぼす」という提言を,多角的に取材し,議論。

NHK年鑑2018p.356

好意的に取り上げている記事で、インタビューに答えて曰く:

「民間企業がAIを開発するとなると、どうしても自社の業界に関連したものや、自社の利益を最大化するものになりがちです。ですので、社会課題の解決を目指すAIを作ることは、(民間企業ではない)公共放送として意義がある挑戦だと考えました」(神原ディレクター)

[1] 「ひとり暮らしの40代が日本を滅ぼす」NHKが作ったAIの分析が冷たすぎる
https://www.huffingtonpost.jp/2017/07/22/nhk-ai-made-shocking-analysis_n_17510952.html

また、批判的な記事でも:

現在のAIには「忖度」という概念がないので、人間社会の都合など関係なく、冷徹な結果を出してくる。

[2] 「40代ひとり暮らしが日本を滅ぼす」NスペのAI提言は本当か
https://diamond.jp/articles/-/136199

などと紹介されている。突拍子もない提言をするのは忖度がなく冷徹だからだと。

しかし、両記事でも言及されているが、何らかの(疑似相関も含む)相関を見つけただけで、因果関係を導き出したわけではない。

「AIは、人の顔色をうかがって結果を出すようなことはありません。たとえ人間にはショッキングな情報でも、躊躇なく表示してきます。また、AIが示すのは『Aが増えると、Bも増える傾向にある』といったパターンのみで、因果関係があるかどうかまでは教えてくれません。ですから、その読み解きは、私たち人間がする必要が出てきます」(神原ディレクター)

前出 [1]

この時点で、『AIに聞いてみた』などと、あたかも「AIによる提言」であるかのように見せているのは虚偽捏造と言って差し支えないだろう。最初から批判を想定して逃げを打っているのか、冒頭のNHK年鑑に収録されている文言のように、「AIの分析から読み解いた~提言」と巧妙に嘘にはならない表現を用いていたり、「多角的に取材した」などと第三者のように振舞っていたりする。しかし、「AI」や「何かを言い放つタイプの芸能人」を使って、本来内容に責任を負うべき「読み解いた人間」を隠しているのは否めない。「読み解いた人間による提言」であることを明確にするのであれば、AIが忖度しない冷徹人の顔色をうかがわない……などはどうでも良い話であり、明らかにミスリードだ。

また、後者の記事は、結論として:

正しくは「40代ひとり暮らしが日本を滅ぼす」のではなくて、「心ならずも40代ひとり暮らしを強いられる人生を歩んでいる人たちを生み出してしまった日本社会が日本を滅ぼす」のだ。

前出 [2] の4ページ目
としているが、これはこれで違う方面への忖度を盛り込んだだけで、違う方向の因果関係を勝手に付け加えているという意味では同レベルの虚偽・捏造だ。

そもそも、それ以前の問題として、機械学習に使ったデータの中に過去に「日本が滅びた」データがあるはずもないのだから、「こういう条件で日本が滅びる」あるいは「日本が滅びるときにこういう事象が見られる」という結論を導くわけがないのである。しかし、どちらの記事も、見た限り他の記事も指摘していない(Twitterやブログなどに溢れる批判の中にはあるかもしれないが)。だが、他の項目をセンセーショナルに言い換えた(AIではない)「人間」が、確実にいるのである。

つまり、この「提言」は、因果関係と結論の両方が「人間」によって作られたものである。AIの功績は「目新しい意外な前提」を発掘しただけと言ってよい。これによって「人間」に何のメリットがあるかと言えば、注目を集めるとか視聴率が上がるとかであろう。

「民間企業がAIを開発するとなると、どうしても自社の業界に関連したものや、自社の利益を最大化するものになりがちです。(略)」

前出 [1]・再掲
結局のところ、公共放送も民間企業も同じだったということではないか。むしろ、人間が考えたものも含めてすべてをAIに押し付けて、バイアスがないフリをしている分、よりタチが悪いのではないか。

なお、使用された手法自体は新しいものかもしれないし、扱っているデータの規模も大きいと思われるが、やっていることは何十年も前に流行ったデータマイニングである。しかし、文言が過激なだけで、現代の「おむつとビール」としてはあまりに出来が悪い。