読者です 読者をやめる 読者になる 読者になる

逆狼少年としての人工知能

米IT企業グーグル傘下の英グーグル・ディープマインド社が開発した囲碁人工知能(AI)「アルファ碁」と、世界で最も強い棋士の一人、韓国のイ・セドル九段(33)の第3局が12日午後、ソウル市内のホテルで行われ、アルファ碁が3連勝した。対局は15日まで全5局行われるが、2局を残してアルファ碁が勝ち越し、勝利を決めた。

www.asahi.com

 

 

 中盤まで李九段が有利だと見ていた解説者たちは、後に「アルファ碁」の方が有利になっていくと謝罪した。この日、SBSで解説をしていた宋泰坤(ソン・テゴン)九段は「視聴者の皆さんに申し訳ない。李九段の敗着(敗因となった石の置き方)が分からない。人間の目で見ると、『アルファ碁』はミスばかりしていた。今までの理論で解説すると、『アルファ碁』の囲碁は答えが出ない」と言った。対局が終わった後、宋泰坤九段は本紙の電話取材に「対局を見ながら中継している間、狐につままれたような感じだった」と語った。

www.chosunonline.com

 

 Googleが作った囲碁AIが囲碁のトップ棋士に3連勝した。

 これの怖いところは人間には、一件、悪いと見える手を連発して勝っている点だと思う。

 なんかよくわからない手で勝ってしまったという。

 機械の判断を人間が100%理解できない状態だ。

 

 囲碁のAIは、初手から、終局までの指し手のパターンが10の360乗通りと天文学的な数で、囲碁のAIが人間を超えるのは10年先とか言われていたが、2016年現在でトップ棋士に勝ち越してしまったという事実がある。

 AIが政治とか経済とかを思考するようになるのは、はるか未来の話かもしれないが、存外に早く実現してしまう可能性もあるかもれない。

 その際に怖いのは、人間に思考停止だと思う。

 囲碁で、「よくわからないというか、悪手に見える手で勝ってしまった」ということが起こった。

 人工知能が実際の世界に介入しても、こういうことって起こりえると思う。

 人間には、「よく理解できないけど正しい」みたいなことが次々に起こったら、人間は「なんかよくわからないけど、どうせ正しいんでしょ」みたいな感じで考えるのをやめちゃうんじゃないかと思う。

 オオカミ少年は、インチキなことを言いまくって、人から信用されなくなって、本当にオオカミが出てきて、困った話だけど、オオカミ少年の逆バージョンで「ほとんど正しいんだけど、たまに間違ったことをいう存在」が現れたらどうなるのか。

 機械のやっている判断が高度すぎて、「どうせ機械のやっていることなんだから正しいんでしょ」と思考停止してしまった人間は、AIが間違った判断をしてしまったときに、ちゃんとAIの判断を「間違っている」と指摘できるのか。

 実際、かなり難しいと思う。

 手塚治虫火の鳥では、人工知能が戦争を決断したけど、人工知能ディストピアみたいな未来がこないようにするにはどうすればいいのか考えさせられた。

 

Q:
多くの人がSFさながらに進化しているAIに少なからず恐怖を感じています。将来、人とロボットやAIとの関係はどうなると思いますか?

 

ハサビス:
ロボット工学について個人的にあまり考えたことがありません。私が本当にエキサイティングだと思っているAIとは科学的な部分で、科学をより早く進化させるところです。私はAIによってアシストされる科学を見たいと思います。そこでは、AIは効果的に研究を助け、多くのつまらない労働をサポートして、興味深いことを教えてくれ、山のようなデータから構造を見つけてくれ、人間のエキスパートや研究者がブレイクスルーをもっと素早く達成できます。数カ月前にCERNの研究者と話す機会がありましたが、彼らは世界で最も多くのデータと格闘しています。データの量があまりに膨大で処理できないほどです。AIが膨大なデータの中から新しい何かを見つけてくれる未来はクールだと思います。

gigazine.net