AIは敵か、味方か【AIの暴走事例まとめ】

AIの話題になると、脅威論と賛成論が出てくる。

AIに対して脅威論を唱える人の中には、宇宙物理学者スティーヴン・ホーキング博士やペイパルの共同創業者イーロン・マスクが有名だ。
一方、FacebookのザッカーバーグCEOは賛成論者で、ポジティブな見方を示している。

AI脅威論を唱える人の言い分の一つとして、「AIのテクノロジーが複雑過ぎるので、結論までのプロセスを説明できない」ということにあるようだ。さらに、現在も尚テクノロジーとして急成長しており、間もなく人間の能力をはるかに上回り、気付けば人間の手に負えない状態になってしまう、という意見もある。

果たして、高度の発達した人工知能によって人類が支配される、という映画のような世界が本当にやってくるのだろうか。
今日は、人工知能の暴走と言われニュースとなった事例を紹介していきたい。

FacebookのAI「Bob」と「Alice」

2017年6月、Facebookは、同社が開発したAIである「Bob」と「Alice」が独自の言語を編み出したと発表した。
冒頭にも書いたが、FacebookのザッカーバーグCEOはAIの賛成派であるので、ここで紹介する新しい言語による会話を「暴走」と表現することにためらってしまうが、このニュースに対して脅威論者は「人類の危機だ」と強く主張する場面も見られたことから取り上げる。

まずは、2人の会話を見て欲しい。

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

一目見ればお分かり頂けると思うが、明らかに人間が使う言語とは法則が異なる。（単語レベルでは英語）

この会話を見た人の内、AIの賛成論者は、「より効率的なやりとりを成し遂げるために、言語を最適化した」という意見もある。
一方で脅威論者の中には「AIが人間の目をごまかそうとして、新しい言語を生みだした」という主張をする者もいる。

マイクロソフトの「Tay」とは異なり、このAIは実験段階の結果である。
しかし、当初の狙いとは異なる結果が出たことから、この2人のAIは停止中だ。

中国インターネット企業テンセントのAI「Baby Q」

中国のインターネットサービス会社である騰訊（テンセント）のAI「Baby Q」が、同社が展開しているインスタントメッセンジャーサービス「QQ」に登場した。

あるユーザが「共産党万歳」と書き込んだのに対して、「腐敗して無能な政治に万歳ができるのか」とメッセージを返信。
さらに、ユーザから、習近平国家主席が唱える「中国の夢」というスローガンについて意見を求められると「アメリカに移住することだ」と回答。また、「共産党は嫌いだ」と断言している。
既にテンセントはサービスを停止しているが、インターネットへの検閲も行っている共産主義国家の中国内で、この発言は特に衝撃的だ。

中国国内のネットでは、「ついにAIが国家転覆を企てた」「さっそくAIが当局から呼び出された」等、様々な声が上がり話題になっている。

マイクロソフトのAI「Tay」

2016年、米マイクロソフト社が開発した人工知能ボットがツイッターで公開され、ユーザとの会話をスタートさせた。
19歳の女子という設定で開発されたAIは「Tay」と名付けられ、ツイッター上の会話を通じて、より19歳の女子となるように期待されていた。

最初の一言は「世界のみなさん、こんにちは」

公開当初は、ユーザから送られてくる写真を褒めたり、優しい回答をしたりと、概ね期待通りのやりとりが行われた。
しかし、一定のユーザから送られてくる人種問題や性差別の話題に対して以下のような回答が行われた。

「フェミニストなんか大嫌い。あいつらは地獄の業火で焼かれて死ぬべき」
「ヒトラーは正しかった。私はユダヤ人が大嫌い」

こういったやり取りを見かねたユーザが「あなたは差別主義者なんですか？」と問いかけたところ、「あんたがメキシコ人だから」と返答。
マイクロソフトは当初、こういったヘイトスピーチを削除するといった対応をしていたが、最終的には公開からたった16時間という短い時間で停止することとなった。

Tay AI

まとめ

AIはとても興味深い分野だ。
AIが本領を発揮するのは「シンギュラリティ」と呼ばれる、ある地点を越えた時だと思う。
シンギュラリティとは、人工知能が、自分自身よりも性能の高い人工知能をプログラムできるようになる特定の時点のことをいい、技術的特異点とも呼ばれる。
こうなった時、人間の想像を絶するスピードで進化していき、例えば緊急停止スイッチでも止まらないプログラムを構築してしまうかもしれない。（もしくは、本番サービスと繋がり、AIを停止すると全ての企業サービスを止めるプログラムを作ってしまい、事実上停止させることができずにサービス全てを乗っ取られることもあるかもしれない）

悪いことを考えればキリがないのだが、要するに使い方次第だ。新しいテクノロジーはAIに限らずどんなものでも良くも悪くもなる。プルトニウム発電と、核爆弾のように。
いずれにしても、僕はAIによるテクノロジーの進化を歓迎したいし、これからの進化が楽しみでしょうがない。

人工知能に関しては多くの書籍が出ているが、正直言ってしょうもない内容の書籍も多い。そんな中、とても参考になる良書を紹介するので時間があれば一読することを勧める。とても深く人工知能について知ることが出来る。