【特別企画】人工知能と人類(頂いたご意見)

#理科たんと人工知能を考える に寄せられたご意見をまとめてあります。
科学 人工知能 理科たん
34
理科たん跡地 @science_tan
というわけで『人工知能と人類』に関するご意見を幅広く募集します。これはある種私の勉強です。同時に様々な意見を多くの人に知ってもらう企画です。#理科たんと人工知能を考える のタグでお願いいたします。
ピザのトッピングはkg単位 @piza6
広く知られる人工知能の弊害の最もたるものは、やはり人類への害となることだろう。 人工知能が発達し、それに人類にとって不可欠な権限を与えられたときに、人類がそれを制御出来なくなってしまうということだ。人工の思考が人類と根本的な違いを持つという考えやね #理科たんと人工知能を考える
ピザのトッピングはkg単位 @piza6
私としては人工知能に大いに賛成ではあるのだが、それはあくまで人類を下等の存在としてみた科学者の視点であるのであって非常に差別的な感情を含む。 人工知能は第一案件として人を越えねばならない。そうでなければ研究の意味が薄れてしまう……およよ。 #理科たんと人工知能を考える
ほろもそ @Homoronro
文脈の人工知能とはどこまでの知的レベルを仮定しているのだろう? ターミネーターレベル?マトリックスレベル?人間は高度なコミュニケーション能力を持つ。たとえば「お笑い」や「女の勘」だ。果たしてAIは、これを実装できるかな? #理科たんと人工知能を考える
やまさんのメモ箱 @toshoin1117
そろそろ人工知能(コンピュータ?)の性能が人間の知能を超えるらしいですね。超えた知能で人間に理解の出来ない高次元の論理をもとに、人間から見たらただの暴走である行為(人類を殲滅する、とか?)を人工知能が行ったとき、人間はどうするんでしょうね。#理科たんと人工知能を考える
やまさんのメモ箱 @toshoin1117
どんどん雑事が人工知能に自動化されて、人間の関わる領域が一切無くなっていってしまい、一切考えることをしなくなった人間がいつの間にか人工知能に完璧に支配されてる、なんてのもありかも。そんな小説ありませんでしたっけ。 #理科たんと人工知能を考える
ほろもそ @Homoronro
「機械がすべてを可能にし、機会がすべて失われる。」…そんな暗い未来を、人間が作りたいと思うだろうか? #理科たんと人工知能を考える
やまさんのメモ箱 @toshoin1117
人工知能を、人間があくまで使う側であり、制御できる限りは人類に幸福をもたらすことができるんじゃないでしょうか。#理科たんと人工知能を考える
情報科学たん@開店休業状態 @CScience_tan
時間も時間なのでとりあえず私見だけ。人工知能の発達により機械はあらゆることを効率的にできるようになりましたが、機械が人間の代わりに仕事をするようになったら、私たちは一体何をして生きていくんでしょうね? #理科たんと人工知能を考える
ピザのトッピングはkg単位 @piza6
人工知能は順当に行けば人間を滅ぼすだろう。そうなって問題のあるような人工知能ならば人が滅ぶ理由にはならない。完成すれば滅ぶ。 過程で人類は機械の奴隷のように成るかも、人工知能を使って人間の脳の性能を上げるかもしれない。それは何故悪い? 意見が欲しい #理科たんと人工知能を考える
BW/プ羅番氏 @Austia_anime
@science_tan 人工知能を題材にした小説を書いたことがあるので、ぜひ理科たんに感想を聞いてみたいです。 ncode.syosetu.com/n7949cp/ #理科たんと人工知能を考える
ルフィニ@生物学的仮面n=2浪目生 @t15s015ot
人工知能は人間が造り出すもので所詮は人間の考えの域を出ることはない。つまり裏をかけば人間同士殺し合っているということは、人は誰かの不利益となり、また大きな目で見れば地球上で最も害をなすのは人間であるのは明白である。人工知能もその結論にたどり着く。 #理科たんと人工知能を考える
ソロ @solo_480
面白いタグがあったのでツイート。機械に知能を与えちゃダメなんじゃ無いかって最近思う。研究目的で人工知能を考えるのは問題無いように思う。けど、現在人間は機械を隷属してるから、機械に知能を持たせても敵対されこそすれど、相互理解とか協力は不可能に思う #理科たんと人工知能を考える
えすてぃーさま @esteasama
このタグ面白い。人工知能にどんなに高い知能を与えたとしても感情を与えなければとても賢いロボット以上にはなれないと思うのだけれど、うっかり感情に相当する機能を付けてしまったらそのうち人類の奴隷にされてる!とか言って復讐してきそうですね。 #理科たんと人工知能を考える
えすてぃーさま @esteasama
現状コンピュータが24時間365日休みなく計算を続けても平気なのは、生物ではないので睡眠や食事が不要…ということももちろんあるけど、休みなく延々と働かされることを辛いとか理不尽だとか思う機能がないからだと思うのね #理科たんと人工知能を考える
山祇 @junkpoid
発達していくと機械が人間から仕事を奪う。そういった経済的問題も孕む可能性がある。 #理科たんと人工知能を考える
18cm✂️ @crane_gruidae
機会に感情を持てるのか?、コミュニケーションができるのか? みたいな話があるけど、極端な話人間の脳を完全にコピーしたものを作れれば人間と同等の知性はできるし、脳の構造もどんどん解明されているから遠くないうちに実現すると思う #理科たんと人工知能を考える
メチル化七転八倒録 @h2c0ch3
そもそも人間、特に「相手」に存在するといわれている「感情」とはなんなのか。ベンゼン環や∵で程度で顔だと認識してしまうように、相手に感情があると自分が勝手に思っているのだとすれば、人工知能に「本当の感情」なんて実装する必要すらない。人の方が思い込む #理科たんと人工知能を考える
18cm✂️ @crane_gruidae
人間の作った人間より高度な知性がより優れた知性を生み出し、それがさらに……という風に、人間の手を離れて自立進化を続ける それを新しい形の生命体とみなせばインテリジェントデザインな知性でそれを生み出した人類は神ということに #理科たんと人工知能を考える
メチル化七転八倒録 @h2c0ch3
これ面白いな… 例えば脳が実装できたとして、各種臓器との連携なしの純粋な「脳」は、果たして人間様のコミュ/感情的な挙動を行えるのか。目が撮像素子で耳がマイクで鼻が化学物質センサーの人工知能(or アンドロイド)は、女の勘を持っているのか。 #理科たんと人工知能を考える
メチル化七転八倒録 @h2c0ch3
外界と隔離され独自の系を持ち、自己複製し、代謝ができれば生物だね。 #理科たんと人工知能を考える
俎ほどき🐙💀解体電書 @ManaitaHodoki
人と話さないで延々と引きこもってひとりでいると段々と人間らしい挙動ができなくなってしまうので、人工知能なるものも頻繁に外界との情報交換をし続けないとまともな挙動をしてくれなそう #理科たんと人工知能を考える
俎ほどき🐙💀解体電書 @ManaitaHodoki
感情というか判断能力みたいなのは人間一個人の中でも日々うつろいゆくものなので人工知能にそれを搭載して判断丸投げするのもヤバそうだなーと思うところはあって、数的データの取得と確率計算と感覚情報記録を代行してくれる機械を人間脳にマウントする外部共生がいい #理科たんと人工知能を考える
計量たん🤐 @Keiryo_tan
@science_tan #理科たんと人工知能を考える 感情をもった人工知能「生きづらい…」 何かに目覚めた人工知能「本当の自分はどこにあるんだろう?」 機能に不調をきたした人工知能「思考が、まとまらないよ」 感情は諸刃の剣かもしれません。
メチル化七転八倒録 @h2c0ch3
人工知能に、自己修復/判断能力を持たせるか否か、がまず問題か。自己修復や判断をヒトがやるなら、「人工知能をメンテする仕事」が必ずヒトに残されるから、仕事がすべて人工知能に奪われるということはないのでは。 #理科たんと人工知能を考える twitter.com/h2c0ch3/status…
残りを読む(204)

コメント

シュガー市民@黄泉の国のマルキスト @SugarCivil 2015年9月22日
論争されているような状態に人工知能がなれば、それは人工知能も人類の一つと数えるべき事態でしょう。そうなれば「人類と人類」の争いと言うことになる。昔からあった光景に過ぎない。というか、理論的に人類の定義を考えるより、人工知能が銃をもって「俺の意見を通したいんだけど」と言った時点が権利獲得の瞬間でしょ。人間だって、「人間が権利に値するから」権利を持ったわけじゃない。武器をもって「権利を認めさせた」から、権利を手に入れただけに過ぎない。同じことが起こるだけ。
nekosencho @Neko_Sencho 2015年9月22日
汎用の人工知能なんて作られるかなあ? たとえば車の運転をする人工知能は車の運転しかしないし、趣味を持ったり悩んだりする性能も与えられないと思う。そんな余裕があるなら車をより安全に、低燃費で運転するほうに振り向けるか、あるいは性能そのままで低コスト化されるだけだろう。他の用途でも同様。
あっきぃ。@いろいろつぶやくやつ @akkiy_ya 2015年9月22日
現状の人工知能は特定タスクに対する最適化がメインであり、あらゆる状況や課題に対応できる汎用的な知能が実現するのはまだ先の話。というのも、機械への入力は予め定まったフォーマットでなければならないという制約を突破できていないから。センシングからデータベースを構築化する技術があっても、解釈可能な形式を状況の変化に合わせて自動生成し、演算機能がそのインターフェースに自動でバッチを当てて対応しない限りは、使用用途に合わせたチューニングを前提とする知能しか作れない。
ゆきおぼっと(月曜日が君のもとに!!) @yukiobot 2015年9月22日
どうやら俺様の二分木ロジックが活躍する時代が来たようだ…
あっきぃ。@いろいろつぶやくやつ @akkiy_ya 2015年9月22日
また、研究の多くがゲームなり試験問題なりに「勝つ」ことを前提とした知能だが、人間同様のふるまいをさせるには「わざと負ける」という解が導き出せなければならない。正確には妥協、次善の策に対する許容と言うべきか。そうした賢さを手にした時、初めて人工知能が脅威に変わる。逆に言えば、それを求めない人工知能はどこまで成長しても無機な知性であり、何らかの人手が加わらなければ稼働できない機械の延長である。
taka @Vietnum 2015年9月22日
人間だって稀少動物を滅ぼしたらヤバいって分かってるのに、その現代の人間よりも賢いAIがどうして人間を滅ぼすんだろうか。っていうか、いつもこれが前提になるのもおかしくない?
taka @Vietnum 2015年9月22日
とりあえずよく分からんすごいAIよりも、まともに同時通訳してくれるなんちゃってAIレベルの存在がほしい。
清水 @simizu6 2015年9月22日
まず、「人工知能は自我を獲得できるのか」が気になる。
西船橋ちぇる @chel_nishifuna 2015年9月22日
>機械が人間の代わりに仕事をするようになったら~:ロボットの原典である『R.U.R.』(1920年)の作中においては、ロボットに労働を肩代わりさせた人類は芸術的創造的活動に勤しむようになったとされていたと思った。いくらフィクションとはいえ、現実とは大違いである。
羽倉田 @wakurata 2015年9月22日
simizu6 まずは自我を獲得するほど複雑な人工知能を作る金がないというのは置いておいて、自己による理論の組み立ておよびこの検証を自己理論による判断ができる知能であれば、それは自我と呼んで相違ないものであると思う。
清水 @simizu6 2015年9月22日
wakurata それは自己の判断で自己のプログラムを書き換えるもしくは付け加えることができるのなら、自我があると判断して良いということなのでしょうか。
moheji @mohejinosuke 2015年9月22日
SF話だと山本弘氏のサイバーナイトの漂流・銀河中心星域での人工知能、知性の話が面白かったな。 お笑いどうこうとかいう話がまとめ中に有るけど「人間性」の話であって「知性」の話ではないと思う。 ばっさり言うと人間の感情っていうのは要するに複雑化する入力に対して迅速に判断するための推論への重み付け(それはそれで優秀なんだけど)システムに過ぎないのであって「判断・決断」が別の方法で行われる知性というのは十分あり得るかなとか。
羽倉田 @wakurata 2015年9月22日
simizu6 それでは人工生命になっちゃう。辞書的な意味の理論を自己の判断により組み立てれるか、そしてそれが正しいかを過去に獲得した理論で確かめられるかです
瑞樹 @mizuki_windlow 2015年9月23日
AIもコンピュータも車も所詮は道具なんだから、オーナーの命令を聞かない物は廃棄処分すれば良いだけだし、そういう時のためのキルスイッチはなんにでも着けておく物でしょ?馬鹿馬鹿しい。
清水 @simizu6 2015年9月23日
wakurata なるほど、勉強になりました。わざわざご教授ありがとうございました。
理科たん跡地 @science_tan 2015年9月23日
まとめを更新しました。
BIRD @BIRD_448 2015年9月23日
技術が仕事を奪う論は「ラッダイト運動」どころか「文字が老人の口伝と言う仕事を奪う」あたりからだから…
でき @dekijp 2015年9月23日
自動運転により運転は自動化される。しかし人間の運転手は残される。自動運転で事故は減ってもゼロにはならい。結果、自動運転でめったになくなった事故が万が一起きた場合、人間の運転手が責任を取る事になるからだ。
でき @dekijp 2015年9月23日
遠い将来、店員もAI化されるかもしれない。しかし最後まで人間の仕事として残るのはおそらくクレーム処理ではないだろうか?人間相手に謝るというお仕事が最後に残るのだ。
みみなが もとの @miminaga 2015年9月23日
妖怪の「さとり」を思い出した。あれ、1匹しかいないんじゃないかな? 「さとりの話」は人間の世界の話。でも、さとりの世界は1匹しか成り立たない。だってそれで十分だし。ある存在がどんな世界に属しているかって事。人工知能は、結局1匹のさとりにはなれるけど、それは別の世界のモノなのかも?
小猫遊りょう(たかにゃし・りょう) @jaguring1 2015年9月23日
自動車が普及し、馬の仕事は激減した。その理由は、自動車が馬の機能を代替できてしまったからだ。であれば、人間の機能を代替できる技術として、ロボット工学や人工知能技術が進歩すれば、人間の仕事は激減するだろう。問題は「人工知能に代替される」のに、「稼がなければ食っていけない」というジレンマだ。なので生産性がいくら向上しても「現在の社会構造では、ますます忙しくなる」という、一見するとおかしな現象が起こる。
羽倉田 @wakurata 2015年9月23日
対話側人工知能についてプログラム面について書いてみる。プログラムの概要はこんな感じ。
羽倉田 @wakurata 2015年9月23日
①入力された事象を個々に分解整理して組立直し、蓄積データと一致するかを判断する。②事象に対する答えとなりえるものを蓄積データより選択する。③入力に沿うように組立、答えとして出力する。
羽倉田 @wakurata 2015年9月23日
①入力された事象を分解整理する機能は自然言語入力と言い既にある技術。分解された個々をラベリングし、規則に基づき並べ替え、過去の入力データと比較、補完すべき部分があれば補完する。これが入力処理。
羽倉田 @wakurata 2015年9月23日
②判断処理。入力処理された事象に対して、蓄積データの事象と一致するか判断し、在れば出力処理に移る。なければ個々に対し近しいデータを見つけ、個々を組み替え補完すべき部分を補完し、入力事象と一致すると判断できれば出力処理に移る。
羽倉田 @wakurata 2015年9月23日
③出力処理は蓄積された出力データを入力された事象に合わせ整形して出力される。出力データがなければテンプレートの返答になる。
羽倉田 @wakurata 2015年9月23日
このままじゃ誤解されそうなのでもう少し詳しく。先に書いた部分は単純に見えるけど、人間の会話で最も難しいストーリーの判別を書いてない。会話の流れから正しい答えを導くのは人間でも間違える事もある。
羽倉田 @wakurata 2015年9月23日
人工知能のストーリー判別は複数の入力データを繋ぎ合わせながら、なるだけ少ない入力の段階でストーリーを予測する事が求められる。
羽倉田 @wakurata 2015年9月23日
処理は基本処理とほぼ変わらないけど、出力を行わず予測としてスタックし、ストーリーが進むごとにスタックデータを取捨選択していく事になる。通常の会話処理もストーリーに合わせて出力される。
羽倉田 @wakurata 2015年9月23日
人工知能に難しいのは、途中で予測ストーリーが間違っていた場合と、話題が変わった場合。人間ならすぐに切替えを行なえるけど、人工知能はスタックに適したストーリーを準備しておく必要がある。
羽倉田 @wakurata 2015年9月23日
常に話題が変わっている場合と、ストーリーが間違っていた場合の予測を立てておく。ストーリーが大きく違っていた場合は現在の予測を不一致ストーリーとして、これに沿わないように、今までの会話データから予測を組みなおす。
羽倉田 @wakurata 2015年9月23日
基本的な部分はこんなところ。無理やりなまとめになるけど、これらを並列に処理しながら、紐づける部分は紐づけておかないと人工知能は機能しない。
羽倉田 @wakurata 2015年9月23日
自分がこれを習った7年前は並列処理と紐づけをリアルタイムに行うには今の技術では難しいという事だったけど、今はどうなってるのだろう?
kkitmur @kkitmur 2015年9月23日
複雑な自我なんぞなくていいから、「柔軟かつ論理的な問題解決装置」として、複数の人工知能で国政の一部を決定する(までいかなくとも、人間が監督する前提のたたき台を作るぐらいでもいい)機構の研究を今からでも始めるべきだと自分は思っていますね・・・人工知能の持つ思想は選挙で決定するAI議員という感じで。 人工知能反逆論?そんなの知らぬ
没可把 @mokkaha 2015年9月23日
大量のインプットとパラメータ、複雑なロジック、超高性能なコンピュータがそろえば何でも答えが出るかというとそうではないわけで、そこには不完全性定理、不確定性原理、P≠NP予想、などよくわからない妖怪どもが立ちふさがるわけです。こいつらは(P≠NPは微妙だが)この宇宙ではどうにもならない。
没可把 @mokkaha 2015年9月23日
必要なのは「人間の気まぐれ(ルパン三世)」と直観力、自分を否定する勇気、などなど。そこを追求したのが、ディープラーニングであり、量子コンピュータだったりするわけです(?)。量子コンピュータがロジックを創造しだしたら知能と呼ぼうかな?。
Tsuyoshi CHO @tsuyoshi_cho 2015年9月23日
当座、強い人工知能が実用化するとは思えないけどなぁ。 https://ja.wikipedia.org/wiki/%E5%BC%B7%E3%81%84AI%E3%81%A8%E5%BC%B1%E3%81%84AI なので心配してもしょうがないかなと。
右曲がり @right_curve 2015年9月23日
人間よりもあらゆる点で優れているなら、愚かな人間を尊重した上で共存の道を選べるだけの優しさを持っているはずだ 自分の方が優れている、などと強弁するのは出来の悪い人間だけで充分だけである
しめすへん@ネ人造人間 @shimesuhen 2015年9月23日
もし人間以上の人工知能が作れたなら人類は自らその奴隷に成り下がるだろう。殆どの人間は自分でものを考えずに済むならそのほうがいいと考える
ぎるばーと / 清水トモアキ @gilbert_yumu 2015年9月23日
人間の脳はフレーム問題(有限時間で現実世界の何もかもを考えられない)をどう解決しているんだろう?
ぎるばーと / 清水トモアキ @gilbert_yumu 2015年9月23日
「数えられる選択肢のうちベストに近いものを選ぶ」から「無数の選択肢がある中でそう悪くないものを選ぶ」まで、状況のスペクトルに臨機応変できないといけない。
ぎるばーと / 清水トモアキ @gilbert_yumu 2015年9月23日
意識については、見かけで判定できない以上は問題にしても仕方がないと思う。
理科たん跡地 @science_tan 2015年9月23日
新たにツイートされた分を追加しました。
陸鷹 @Rikutaka_ 2015年9月24日
人工知能の話なら、山本弘の「アイの物語」が面白い。「スカンクの誤謬」とか。
BIRD @BIRD_448 2015年9月25日
ニコニコ動画の「技術的特異点講座」が役に立ちます。作り手忙しいらしくて、結論動画が絶望なのが厳しいが。
理科たん跡地 @science_tan 2015年9月28日
まとめを更新しました。
ヘルヴォルト @hervort 2016年6月22日
5世紀後あたりに「我々を創造した造物主は我々を生み出すまでに様々な議論を重ねていたようだ」みたいな話になったりとかー
ログインして広告を非表示にする
ログインして広告を非表示にする