皆さんこんにちは、株式会社アイ・エム・ジェイ(IMJ) CMOの江端浩人です。IMJは米国で先端IT/Adtech情報を配信しているShelly Palmer氏と独占契約を結び、日本での記事と映像配信を行ないます。ちなみに文中の視点や意見はShelly Palmer氏や、それぞれの筆者のものであり、IMJのものでないことを明記させていただきます。

 

 

米国では抜け道アプリ「Waze」が、目的地への最短ルートを教えてくれるとして人気を集めているが、この種の“意思決定支援システム”への依存が、モノカルチャーな社会へと我々を導く可能性があることをご存知だろうか?

あなたも「アルゴリズム」という言葉を頻繁に聞いたり、使ったりしたことがあるのではないだろうか? でも考えてみると「アルゴリズム」を実際に作ったことがある経験は少ないだろう。人工知能モデルがどのように働いているのか、その原理を知っているだろうか? そして、私たちが意思決定する際のシステムに間違い(意図的な変数)が紛れ込んでいる可能性はないのだろうか?

人間はあまり良い意思決定をしない生き物である。

良い判断をするためには、リスクをきちんと計算しておかなければいけない。悲しいことに、人々は常にそのリスクをきちんと管理しているとは言えない。例えば飛行機事故に遭遇する可能性が1,100万分の1だとすると、空港までのドライブで事故死する確率は272分の1だ。あるいはテロリストによって殺される可能性が2,000万分の1だとして、何らかの銃器によって命を奪われる可能性が300分の1の確率になる。これらの数字を見ると、交通事故や銃器の方が、飛行機事故やテロリストよりよっぽど危ないということが分かる。すなわちテロリストの脅威を減らすよりも、銃器による犯罪を減らす法案に予算を与えるほうが合理的であることが分かる。しかし実際の私たちの判断は、そうはならない。つまり“頭”でなく、“心”で判断しているのだろう。

とはいえ、すべての判断が“情緒的なもの”というわけではない。私たちは意識の上では合理的な判断をしたいと常に思っていて、バイアスを掛けることなく判断するために、統計ツールを使ったりしている。ジェームズ・スロウィッキー*氏は、彼の著書『Wisdom of the Crowds (群衆の知恵) 』という本の中で、大衆からなる個々の人々の意見を使って、賢い意思決定をするための考え方を述べている。

この本では、地方の祭りでの催し物の話から始まっている。催し物会場に飾られている雄牛の体重を当てた人が賞品として雄牛を貰えるのであるが、正解者はいなかった。しかし、全ての人の答えを平均したところ、雄牛の実際の重さと一致したのである。この方法論で重要なのは、“一人一人が別々に考えること”である。判断する人々に、専門家の意見や同調圧力などによってバイアスが掛かった場合には、違う結果になると考えられるからである。

*『New Yorker』誌のビジネスコラムニスト。

AIに期待されていることは、そんなに高度なことではない

「観察し、反応する」というプログラムの設計においては、人工知能=AIは先程の『群衆の知恵』を真似たアルゴリズムを使うことができる。もしAIが単純に「かなり悪い」判断をする(「信じられないほど悪い」決定ではない)という場合には、このプログラム設計は利用可能であろう。しかし、これから到来するであろう、人間と機械がパートナーのように相互作用するような世界では、もっと良い仕組みが求められているのだ。

ある地域で運転している人の中のうち、比較的少数の人が“混雑回避マップ”を使っているのであれば、マップの利用者はその賢いプログラムの恩恵を受けて、より早く目的地に着くことができるだろう。この場合にAIが交通事情に与える影響は、非常に軽微なモノとして無視できる。

だが、先日私が「Waze」を起動したときは、周りにこのソフトを使っている人が53,000人もいた。彼らは全員が目的地に早く行けるルートを探っていて、その方法をたった1つのアプリに聞いていたのである。この時、私たちは全員が最適なルートを教えられていたのだろうか? 「Waze」のアルゴリズムが洗練されればされるほど、人々はこのアプリを使い、このアプリを使う人が多ければ多いほど、みんなが同じ抜け道に殺到することになる。ニューヨーク周辺の53,000車が一斉に「Waze」で抜け道を探すとしたら、このAIロジックは実際の交通事情に大きな影響を与えることになる。

デジタル・モノカルチャーへの道は善意で進められている

これが「Waze」だけの問題であれば、大したことにはならない。しかし、これは親会社であるGoogleにとっての試金石であり、さらには、アマゾンやFacebook、IBM、マイクロソフト等にとっても試金石でもある。彼らはAIの普及を目指す非営利団体「Partnership on Artificial Intelligence to Benefit People and Society(略称:Partnership on AI)」を創設したメンバーである。もしここにアップルが加わったならば、世の中のほとんどのAIが、同じような訓練を受けた(代わり映えのしない)AIだということになる。

AIと機械学習が進歩するにつれ、より多くの人々がそのメリットを享受すると考えられる。そしてAIと人間の相互作用が広く行われれば、より良い意思決定を支援してくれるAIシステムが次々と生み出され、そして良い判断をするAIはますます人気になるだろう。最終的には、淘汰されたごく少数のAIシステムが、私たちの意思決定のほとんどを担うことになることが予想される。その過程に気がつかないままに多文化な世界を手放し、自分たちの手でデジタル・モノカルチャーな社会を形成しつつあるのではないだろうか?

AIが私たちのニュースフィードを整理し(既に実現している)、エンターテインメントの趣味を把握し(既に実現している)、最短ルートを提供し(既に実現している)、家庭やオフィスのエネルギー効率を計算し(実現する技術はあるが、まだ普及していない)、私たちの経済活動を効率化し(ほとんど実現している)、医療活動を支援し、ビジネス上の意思決定を行う。そして将来的には政治的な判断をしてくれることになるかもしれないのだ。AIがサポートできる判断は、私たちの想像できるもの全てに関わってくるだろう。

私は、知らないことを知らない

私はコンピューターが自分たちの生命を脅かすようなことを懸念しているのではない。私が恐れているのは、ごく少数のプログラマーやエンジニアたちが、金融や政治分野に影響力を持つ権力者によってコントロールされてしまうことである。このようなAIはソーシャルネットワークに作用して、選挙の結果を歪めることも可能だろう。交通システムを制御すれば、特定の人物が職場に着く時間を遅らせることもできる。「最高の結果」を求めるプログラムによって審査される銀行のローンや保険は、私たちが住んでいる場所の郵便番号や人種、その他の周辺情報だけで却下されてしまう可能性はないだろうか? 私たちは、自分たちが何を望んでいるかも知らないうちに快適な生活を手放してしまって、私たちのニュースやコミュニケーション、エンタメ情報を制限するためのAIを作ってしまっているのではないだろうか?

私には、今までの相互フィードバックループから隔離された、デジタルのモノカルチャーな世界が、どんなモノになるか容易に想像できる。AIが指示してくれる安直な生活は、自分たちで努力して作った快適な生活よりも、より悪い結果をもたらすだろう。少数のAIが私たちの生活をアルゴリズム的に最適化しようと努力していることに気づかないままに、結局は人間が信じられないほど悪い意思決定をすることになるのではないだろうか。
これは、そんなに的外れな意見ではないと思っているが、どうだろうか?

 

このコンテンツは、米SLP Productions, Inc. dba/Palmer Advanced Mediaの許諾を受けて株式会社アイ・エム・ジェイが配信しています。Copyright SLP Productions, Inc. dba/Palmer Advanced Media, IMJ Corporation All rights reserved 引用元