人間は人工知能の思考を「理解」できるか

SF や現代思想で語られていた「妄想」が現実になった時に、我々はどうすれば良いのか。 あるいは、「汎用人工知能」という発想自体が「新たに創り出される知性は人間の似姿であって欲しい」という願望の産物なのかも。 まぁ、まだまだ十年単位で時間はたっぷりあると思うので、今のうちからゆるりと考えて、社会全体で心構えを作るのがよろしかろうと思います。
科学 AI 人工知能 AlphaGo 囲碁
15
(あんちべ! 俺がS式だ) @AntiBayesian
AlphaGoとトップ棋士の対局を観戦しよう! antibayesian.hateblo.jp/entries/2016/0… 本当グダグダですがAlphaGoの対局をリアルタイムで観戦して貰いたくて雑文書きました。終わってから解説聞くのではなく徐々に解説のプロ棋士たちが青ざめていく様子をその場で味わって欲しい
Yuta Okamoto @okapies
AI 研究を真面目にやれば、必然的にこういうものが出てくるよね。「高度な知的活動」と「人間のように考える」事は独立した話なのに、そこを混同した議論があまりに多い。何にせよ、今日の対局は真価が試されるという意味でさらに注目ですね。 antibayesian.hateblo.jp/entry/2016/03/…
豆腐の角~囲碁講師@楽人カフェトーク @sai2881sai2881
人間側、一手一手の最善を目指している。AI側、一手の価値だけでなく、部分的には損でも全体でみれば損をしていなければいいという手を打つ。終局までのトータルベースで一手を考えている、そういう風に感じた。
豆腐の角~囲碁講師@楽人カフェトーク @sai2881sai2881
一体どれほど先をアルファ碁は見通しているのか聞いてみたい。もし終局までのトータルベースで石の効率、価値判断をしているのであれば、本当に人間側は勝てないぞ。
きゃれら @kyarera
@sai2881sai2881 だとすれば、現代に降臨した道策ということですね。井山さんは「こう打てば勝てたという局面は無かった」って言ってるし、全敗あり得るね。まあ人間には無理。全部の損得を一手打つごとに計算してるみたいなことだろうから。全盛期李昌鎬さんなら、あるいは‥。
豆腐の角~囲碁講師@楽人カフェトーク @sai2881sai2881
@kyarera もしトータルベースで考えているとしたら、どのくらいの局面から判断しているのでしょうね。もしかなり早い段階でそれを判断しているのであれば……本当に恐ろしいですね。
豆腐の角~囲碁講師@楽人カフェトーク @sai2881sai2881
プロが利かしをすぐに利かさず保留するのは、局面が進んできたら他方から利かしたほうが得になる可能性を消してしまったり、固めてしまって損する可能性があるから。これが人間の常識なわけだが、もしかしてアルファさんは終局から逆算して利かしたりしているのではないかと思う。

okapies: 少し補足すると、アルファ碁が使っている深層学習 (deep learning) による形勢の判定というのは、人間に例えれば「直観」で判断している状態なので、全局面を読み切っているというのとは違うだろうと思います。つまり、(囲碁限定で)根拠は無いけど非常に正確な直観を持つプレイヤーが指している、みたいな状態。

で、それだけでは手が選択できないので、モンテカルロ木探索 (MCTS) で探索した手の中から「直観」で良さそうな手を選んでいるのがアルファ碁の方式、という理解ですが合ってるかな…。まぁ、間違ってたら突っ込んでください>識者。


大熊悠人 @kumanoyuuutu
アルファ碁の勝利で、衝撃と共に深刻な空気が囲碁界に流れているが「明日の勝敗ジュース1本かけようぜ!」 ってLINE送ってくる棋士もいることを知ってほしい
大熊悠人 @kumanoyuuutu
昨日人類を裏切ってアルファ碁(AI)の勝利に賭けた棋士から「ジュースはもらったな」ってLINEきた…
非線形 @_mod_p
AIが人間の作ったルールを人間のやる理解の仕方と全く別の想像もつかないような方法で「理解」しているのだとしたらと思うとワクワクを禁じ得ない
非線形 @_mod_p
脳みそとAIつないでみたい
非線形 @_mod_p
そもそも人間が考えるところの「理解」なんていらないのではという気がする
非線形 @_mod_p
人間の理解できる形に翻訳できるかどうかのほうが興味がある
非線形 @_mod_p
例えばの話、細胞を使って実験を自動で行いあらゆるパラメータを取得するマシンを作って計算資源を惜しみなくつぎ込みそのデータを元にどう細胞が応答するかを学習させ、結果新しい刺激に対する応答も予測できたとすると、そこに人間のするような「理解」はいらないのではないか。
非線形 @_mod_p
その機械のとる状態空間を人間の言葉に翻訳できるだろうか?
非線形 @_mod_p
自然現象とかゲームとか、外から見ることができる現象については機械が人間とは別の仕方で「理解」したとしてそれを人間が評価できるわけだ。twitter.com/_mod_p/status/…
非線形 @_mod_p
一方、例えば数学はどうだろうか?ラマヌジャンは「夢で女神が教えてくれた」というようなことを言い次々と"正しい"結果を生み出したが、彼はある意味AIのようなものだったのかもしれない。
非線形 @_mod_p
その結果の正しさを「証明」せねばならなかったというのは、結局人間はAIまたはラマヌジャンの生み出す結果を人間の言葉に直さないと「理解できた」と思えなかったと言えないかな。
非線形 @_mod_p
AIの「できない」作業、酒を飲む、に従事したいと思います
Tetsuya Hattori 服部哲弥 @tetshattori
もっと単純な側面ですが,ヒトが思考や理解と呼ぶ情報処理がどの程度の処理量かが一連のプロとプログラムの比較で見えてきた,と考えると,ここしばらくの進歩全体がヒトの能力の測定装置として機能していて興味深いと思います twitter.com/_mod_p/status/…
メエメエ @maa__maa
李九段が会見で完全敗北宣言。人間はまだ囲碁というゲームを掌握できてなかったんだなあ……プロが見ても意図不明な一見悪手が後から化ける局面が何度もある時点で大局観が違いすぎる……もう勝てる気全くしない……そして武宮宇宙流は時代の先を行ってたんだな…… #AlphaGo #アルファ碁
Umepon @shunji_umetani
組合せ最適化を研究してると自分がどんなに頭を捻っても解けないパズルを、自分が開発したアルゴリズムがサラッと解いてしまうなんて経験を山ほどしてるので、将棋や囲碁の話は今更感がある。
残りを読む(116)

コメント

齊藤明紀 @a_saitoh 2016年3月13日
deep learningに限らずニューラルネットワーク全般の性質として、「答えは得られるがなぜそうなったかの説明は得られないのが欠点」と、機械学習の教科書に書いてありますね。
Yuta Okamoto @okapies 2016年3月13日
はい。第四戦の結果は、その欠点を非常に分かりやすい形で示したと思います。
nekosencho @Neko_Sencho 2016年3月13日
アルファさんが実はドジっ子だとわかって、ちょっと親しみがもてました
Yuta Okamoto @okapies 2016年3月14日
機械学習の研究者の方々のコメントを追加しました。
ログインして広告を非表示にする
ログインして広告を非表示にする