Blog - Shelly Palmer の記事をIMJのオウンドメディアであるBACKYARD で翻訳・配信していきます。ぜひよろしくお願いします。ちなみに文中の視点や意見はShelly Palmer氏や、それぞれの筆者のものであり、IMJのものでないことを明記させていただきます。

 

 

ストックホルムで開かれたBrilliant Mindsというシンポジウムで、AIの将来についてGoogleの会長であるエリック・シュミット氏は、最近イーロン・マスク氏やスティーヴン・ホーキング氏らが掲げている、AI(人工知能)脅威論に反対する意見を述べた。

「ホーキング博士もマスク氏も、とても聡明な人物で、物理の専門家ではあるものの、彼らは決してコンピュータサイエンティストではない」。

この発言はマスク氏やホーキング博士が唱えている「AIにより、人類が近い将来脅威にさらされる可能性に関して」という質問に対する返答であり、シュミット氏は「それは映画の中の世界のことであって、現在の地球上の環境ではそのようなシナリオは成立しないのだ」と主張している。

間違った質問をすると……

『2001年宇宙の旅』のHal 9000や『ウォー・ゲーム』のWOPR、『地球爆破作戦(1970年公開のB級SF映画だ)』に出てくるColossus等、AIが登場するのは全てSF映画の中の出来事だ。ある日、進化に目覚めたコンピュータは人類を破滅させようとするのではないか、という心配をしなければいけないのか…。しかし、そのようなAIの出現を恐れる必要はない。というのも、それらはシュミット氏が言うように、現在の地球上にはそれを裏付けるシナリオは無いからである。

人間と機械の関係性

むしろ私たちが恐れるべきなのは、悪意を持ったハッカー集団がAIを駆使して、ターゲットである企業や金融機関、究極的には政府機関を攻撃することである。サイバーセキュリティの専門家であるユージン・カルペルスキー氏によると、彼の運営する会社が発見したStuxnet とFlame32というコンピュータウィルスは、まさにそのような用途で使われているという。「私たちは“暗黒のサイバー時代“を生きているのだ」と彼は言う。

夜も眠れなくなるほどの心配ごとがたくさんある。シュミット氏とは違う点で、私が恐れているのは、悪意のある人間と機械の連係である。

ハッカーは常に機械を味方につけてきた。彼らは長年ボットやウィルスを通じて活動をしており、サイバーセキュリティの専門家はイタチごっこの様相を呈しているという。ある時には正義側が勝っていて、違う日には悪者側が勝っているという具合である。しかも、オープンソース活動は一般のサイトビルダーやアプリ開発者のためのものではない。カルペルスキー氏によると「サイバーギャング同士で技術交流している」というのだ。恐ろしい現実ではあるが、まだなんとかなる。

新しく、そして恐ろしい

そのような恐ろしい現実の中、かなり新しい試みも始まっている:ハッカーと人工知能を組み合わせた人間と機械のパートナーシップだ。このような人工知能の訓練はサイバーアタックを今までにも増して加速させることになる可能性がある。

想像してみてほしい。“考える”ことができるコンピュータウィルスが登場したらどうなるか? そのようなものは、まだ“ウィルス”と呼んでいいのであろうか? もしGoogleの“アルファ碁”のようなAIが銀行強盗を行なったり、医療記録を搾取したり、他のコンピュータインフラに対して攻撃を仕掛けたりするような教育を与えられたらどのようになるだろう? それは極悪非道の機械が世界を破滅させるという事ではなく、世界中のハッカーたちが一致団結してAIに教育を施して、今まで想像もできなかった方法で攻撃をしてくるという事になる。

そして、私たちはハッカーのAIに対抗するために、自分たちもAIを使うようになるのであろうか? そうなるとその戦いは平行線をたどるのではないだろうか? 攻撃を受けているという認識は生まれるのであろうか? イ・セドル九段を4勝1敗で下す前に、AIである“アルファ碁”は自身で数百万回に及ぶシミュレーション試合を経てから対戦している。この試合は自律機械と人間の戦いであった。しかしAIとハッカーが組むと、この強力なコンビが人工知能を搭載していない普通のコンピュータを攻撃することになる。同じ技術を使って反撃するとなると、その技術はAI同士の戦いという新しい次元へと進化することになる。一体、どのような結末を迎えることになるのか想像しがたいが、どう始まるかは容易に想像できる。

AIには感情がない。善悪の判断もできない。教えられたことしかできないけれど、盗むことや騙すことや攻撃し無力化することを教えれば、その通りに実行することはできるのだ。

私もコンピュータサイエンティストではないので、シュミット氏の言うように、本件にコメントする資格はないのかもしれない。しかし、良い技術が将来悪用される可能性について、あえて警鐘を鳴らしたい。自然界の生命体に似た人工物として、コンピュータウィルスが作られた。アインシュタインのE=mc2という公式を利用して、原子爆弾が作られた。AIは素晴らしい技術の集積であり、想像もできなかったことを解決していくだろう…その善悪を問わずに。従ってAIを恐れずにその技術を尊重し、その時が到来することを楽しみにしようではないか。

このコンテンツは、米SLP Productions, Inc. dba/Palmer Advanced Mediaの許諾を受けて株式会社アイ・エム・ジェイが配信しています。Copyright SLP Productions, Inc. dba/Palmer Advanced Media, IMJ Corporation All rights reserved 引用元

 

AIの未来について、こちらの記事もぜひご覧ください。
未来に話しかけたら、返事をされた。
アルファ碁vsあなたそれは公平な勝負ではない