今のAIでは言語は理解できない。

水田孝信 @takanobu_mizuta

コンビニでたまたま見かけて買った今月号のニュートンだけど、「今のAIではできないこと」みたいな、この図が意外に良いできだった。 newtonpress.co.jp/newton.html pic.twitter.com/BQstabrGAE

拡大

Podoro @podoron

.@zoeai氏の『働きたくないイタチと言葉がわかるロボット』良書でした。動物達が「言葉がわかるロボット」を作る寓話＆技術・学術解説パートを通じ、「言語を理解する」とはどういう事か、それが出来るプログラムの開発には何が必要か、AIの自然言語処理の課題と現状を解説。1/amazon.co.jp/dp/425501003X/

Podoro @podoron

AIや機械翻訳などがますます注目されているが、本書では、 ・そもそも「言語を理解する」のに必要な条件 ・その各条件をクリアするプログラムの開発に必要なもの ・「言葉の意味」は理解できないが、機械的に答えの正答率を上げる工学的解決法 ・現状、機械には出来ない事は何か をそれぞれ解説。2/

Podoro @podoron

筆者は言語学・工学両方の研究に携わっているので、「またフランスに行きたがっている」という文の2種類の解釈の区別といった言語学的な話と、機械が画像から情報を収集する仕組みやディープラーニングはどういう仕組みかなど工学的な話と、自然言語処理の言語学・工学両面の基礎を解説している。3/

Podoro @podoron

私自身は言語学・言語習得畑なので、「そもそも人の言語習得の仕組みすら分ってないのに、言語が分かる機械の開発とか無理じゃね？　『こんなに言語を解するAIが！』みたいな話なんなの？」という意識だったので、AI・自然言語処理の技術開発・工学的解決策・問題点の話が興味深かったし、　4/

Podoro @podoron

逆に、「囲碁や将棋でAIが無双したりしてるし、言語の理解なんてディープラーニングですぐ出来るんじゃないの？」って人などには、「言語を理解する」がいかに複雑で難しい作業なのかを理解するに良いと思う。 「言語」に興味がある人、「AIなどの自然言語処理」に興味がある人、どちらにもお薦め。5/

Podoro @podoron

本書でもチューリング・テストに触れてるが、現状は、特定の機能に絞った言語を理解できる・扱える”風”のAIは工学的解決策で開発できるが、結局「中国語の部屋」を解決できない限り、「言語の理解」には至らないし機能も限界があるって所かと。 東大入試に挑んだ「東ロボ」もそこで行き詰まったし。6/

Podoro @podoron

言語習得、人が言語を理解出来るようになるかの仕組すらそもそもまだ分ってませんって話についてはこのスレッドをどうぞ。 ・補助の説明も知識もないのに言語を習得する ・一度も聞いたことない文を理解するし、発する などが謎で、第二言語習得となると更に複雑な話に。7/ twitter.com/podoron/status…

Podoro @podoron

「なぜ人間は言語を習得できるのか？」言語習得理論の変遷 ・パターンを覚える説（構造主義） パブロフの犬の様に、同じ刺激が繰り返される事で覚える。“This is a pen” “This is a dog”などの文章を繰り返し聞くことで、それが習慣化して身に付くという説。1/

2017-04-02 11:56:36

Podoro @podoron

本書では、「言語の理解」には「相手の意図や考えを推測する」事が必要って話にも触れてましたが、 他者の気持ちや考えを推論する能力は「心の理論」と呼ばれていて、それが猿にもあったという研究（Science誌が選ぶ2016年の10大科学ニュースの1つ）の解説も良ければどうぞ。8/twitter.com/podoron/status…

Podoro @podoron

この中で私が分かるのは、「類人猿にも『心の理論』の能力があった」という研究ですね。 「心の理論／Theory of Mind」とは、他者の気持ちや考えを推論する能力の事です。理論と名が付いてますが能力。この能力の有無が人と猿の違い、と言われてきたのですが、それが猿にもあったと。→

2017-01-02 21:38:35

Podoro @podoron

後は、言語処理の話ではないですが、 「機械学習、ビッグデータ等は結局は人間が生み出したデータを人間が設計したアルゴリズムで学習するので、人間の持つバイアスが反映されてしまう」というアルゴリズムの限界・危険性を指摘したTEDトークも是非どうぞ。日本語字幕有り。9/twitter.com/podoron/status…

Podoro @podoron

TED：アルゴリズムとは、コードに埋め込まれた「意見」。客観的でも、真実でも、科学的でも、ない。 アルゴリズムを通しても”公平”にはならず、「意見」が”自動化”されて出てくるだけ。入れるデータ、目標設定、によって必ずバイアスがかかる。ted.com/talks/cathy_o_…

2017-09-21 20:15:07

Ai Kawazoe / 川添愛 @zoeai

ありがとうございます！　『働きたくないイタチ～』を書いた動機の一つに、「言語学畑の方に、いま機械で言語がどのように扱われているかを紹介したい」という思いがありましたので、お読みいただけて、またご感想＆補足情報をいただけて本当に嬉しいです。 twitter.com/podoron/status…

Podoro @podoron

自然言語処理の話は工学的にどう処理するかに偏りがちでモヤモヤするのですが、言語学的に「”言語が理解できる”とはどういう事か」がきちんと定義されそれに沿っている事で、処理方法・課題の話も腹落ちし易かったです。（タヌキさんに肩入れしてしまうのは言語屋の性ですねw）twitter.com/zoeai/status/9…

Podoro @podoron

「なぜ人間は言語を習得できるのか？」言語習得理論の変遷 ・パターンを覚える説（構造主義） パブロフの犬の様に、同じ刺激が繰り返される事で覚える。“This is a pen” “This is a dog”などの文章を繰り返し聞くことで、それが習慣化して身に付くという説。1/

Podoro @podoron

・生成文法理論 人間は一度も聞いたことのない文章を理解／発せられる。インプットを覚えるだけではこれは不可能なはず（プラトンの問題）。 ⇒生得的に言語獲得装置〈普遍文法〉を持っている。インプットを入力していくと、その言語が習得できる、基本の文法ソフトがデフで脳に入っている説。2/

Podoro @podoron

ちなみに、構造主義 ⇒ 普遍文法（byチョムスキー）の変化は、外から観察できるもの（話す書く言語）だけでなく、人間の中身に目を向けた、というのが学問的に大きな革命だった。3/

Podoro @podoron

・認知主義 脳に言語習得専用の機能（普遍文法）があるのではなく、様々な認知機能を組み合わせて、インプットを解析していくことで言語を身に付ける説。 生成文法理論では、文法を学習して、語彙を追加。認知主義は、文の用法を塊で覚えていき、文法は帰納的に身に付く。と考える。4/

Podoro @podoron

現在は、認知主義が優勢気味だが決着つかずといった所。 普遍文法は欧州言語の解析から生まれたが、世界各地の様々な言語が研究されるにつれ、理論に合わない事例（反証）が発見されてきた。しかし、認知主義も言語習得をきっちり説明出来る理論完全に確立できていない。5/

Podoro @podoron

以上は、第一言語（母語）習得の理論の話。で、第二言語習得になると更に複雑になる。 第二言語は、第一言語と違って完全には習得出来ない事が多い。しかも、年齢が上がるにつれ習得が難しくなるっぽい（到達レベル差の原因が“年齢”なのかはまだ結論出ず）。 何故なのか？6/

Podoro @podoron

・普遍文法派 普遍文法は第二言語習得に使用出来るor出来ない？使えるなら何歳まで？使えないなら、どう習得する？なぜ完璧にならない？なぜ年齢で変化？ ・認知主義 認知機能の組み合わせなら、使う機能は第一／第二言語で同じor違う？どんな機能？なぜ完璧にならない？なぜ年齢で変化？7/

Podoro @podoron

更に、「幼児は、人と直接対話すると言語を習得出来るが、TVやテープ音声からでは習得できなかった」などの研究結果が出て来ているので、「言語習得には言語インプット以外に何が必要か？何歳までそれが必要？」って問題で一層ややこしく…8/ 論文ncbi.nlm.nih.gov/pubmed/1286107…

Podoro @podoron

「Science誌が選ぶ2016年の10大科学ニュース "Breakthrough of the Year"」 その研究成果やテクノロジーの一般向けの簡単な解説記事。重力波、AIから人類の起源まで色々あり面白いので読んでみては？（続meridia.tech/science-breakt…

Podoro @podoron

誤信念課題の一つですが、人間も一般的に4歳にならないと正しく答えられず、それまではついつい自分の知っていることを答えてしまいます。 誤信念課題に正解するのに必要な能力は、他者の考えていることが分かることと、実際に他者の考えを自分の知っている事実により優先させて応える能力です。→

ゆっきー @yukkie_m

@podoron 面白いですね。心の理論と言語能力に相関関係がある、一部の動物は心の理論を習得している、ということは一部の動物にも言語能力がある、ということでしょうか？