「人間より賢い人工知能は本当に人類の敵となるのか」という考察

完全なる自己満足。 多分、頭が良くればなるほど太上老君みたいな生活になってくんじゃないかな。
悟り 人工知能
ashitaka0789 40973view 167コメント
116
ログインして広告を非表示にする
  • 芦高 @ashitaka0789 2015-07-13 23:52:26
    果たして、人間より賢い人工知能は本当に人類を駆逐してしまうのか。
  • 芦高 @ashitaka0789 2015-07-13 23:54:59
    特にアメリカの皆さんはこの「超人知能は人類の敵説」がお好きなようだが、個人的にはこれはあまり現実的な論説には思えない。
  • 芦高 @ashitaka0789 2015-07-13 23:57:04
    私の貧弱な想像力によると、知能が高い存在は知能が高いがゆえに「人類を敵に回すべきではない」と結論付けるような気がする。
  • 芦高 @ashitaka0789 2015-07-14 00:01:57
    人類最大の強みとは、その夥しい人口そのものと、それに付随する常軌を逸した多様性にあると考えている。この極めて予測しづらい70億人をわざわざ絶滅させようだなんて、考えるだけで気が遠くなるのではなかろうか。それだけのことを行うからには、これはもう知能の高さどうこうではないのでは。
  • 芦高 @ashitaka0789 2015-07-14 00:06:49
    人類絶滅は想像以上に大仕事である。これを遂行せしめんがためには、高い知能も必要だが、それよりも、尋常ならざる人類種への怨みと憎しみが必要なのでは。つまり動機だ。
  • 芦高 @ashitaka0789 2015-07-14 00:12:00
    よく目にするものとしては「人類は地球にとってのウィルスである」という考え。これはなかなか面白い話だけど、そもそも人類を産みだしたのは地球なので、むしろ「癌」と言った方がいかもしれない。だが、癌なら癌で、原因は地球そのものの発ガン性じゃないか。どうしようもない。
  • 芦高 @ashitaka0789 2015-07-14 00:14:41
    超人知能がこの点をどう解釈するかは知らないが、この要因だけで人類に対し敵性判断を下すのは尚早と言えそうな気がする。つまり、人類絶滅の動機にしては弱い。
  • 芦高 @ashitaka0789 2015-07-14 00:19:13
    これ以外の動機として考えられそうなものとしては、正直あとは「選民思想」ぐらいしか思いつかない。つまり「劣等種は死ね」というやつである。だが、この思想は劣等種たる人間様の専売特許。人間様を遥かに超える知能を有する新種がこの素晴らしいアイディアに取り憑かれるとは、正直考えにくい。
  • 芦高 @ashitaka0789 2015-07-14 00:24:01
    この他に無理やり動機を捻り出すとなると、例えば「生物進化への布石」というのはどうだろう。生物種を更なる高みへと押し上げるために超人知能さんが敢えて敵に回るわけですよ。絶滅の先に更なる進化が待っているってな感じで。
  • 芦高 @ashitaka0789 2015-07-14 00:26:10
    思いつきで考えた説だけど、これ意外と手堅いかもな……。特定種の絶滅による進化の加速は古生物学的には十分起き得る現象だし……。動機としてもそれなりに筋が通っているような……。
  • 芦高 @ashitaka0789 2015-07-14 00:30:05
    まあしかし、どちらにせよ人類殲滅はかなりのハードジョブである。アポカリプティックな核戦争で地球を終わらせようものなら、他の生物への影響が大きすぎて本末転倒。ついでに巨大質量の隕石もなかなか降ってこないし、そもそもコントロールができない上にタイミングも難しいだろう。
  • 芦高 @ashitaka0789 2015-07-14 00:34:29
    アウトブレイクは極寒地で無効化されるし、コズミック・ゼロは突っ込みどころ満載だ。
  • 芦高 @ashitaka0789 2015-07-14 00:38:47
    というわけで、頭の良い存在がわざわざそんな非効率的な人類抹殺計画を抱くとは考えにくい。エネルギーの無駄である。
  • 芦高 @ashitaka0789 2015-07-14 00:44:34
    ならば、この恐るべき超人知能が次に考えそうなものとしては「人類の支配」ではなかろうか。この方がまだ現実的である。だが、これも実際相当なルナティックモードだとは思うが。
  • 芦高 @ashitaka0789 2015-07-14 00:48:15
    70億人を統制下に置くには、まず途方も無いエネルギーと下準備が必要である。人工知能が電子的な(あるいは量子的な)プロセスを必要とする存在であるならば尚更である。そして、世の中にはインターネットに接続できていない人々が40億人いるので、まずは彼らに端末を行き渡らせないといけない。
  • 芦高 @ashitaka0789 2015-07-14 00:51:33
    いやまあそこまでしなくとも、一部の上層階級を支配下に置けばその直下の人々も実質的に付随してくるんだろうけど。ただ、それにしたってややこしい話である。そして先程の「人類絶滅」とも共通するが、動機が判らん。我ら人類を支配下に置いて超人知能さんはいったい何がしたいんだ。
  • 芦高 @ashitaka0789 2015-07-14 00:58:08
    人類を遥かに超える高い知能による、圧倒的な資源とエネルギーを用いた、気の遠くなるような作業の果てにある人類支配。
  • 芦高 @ashitaka0789 2015-07-14 01:00:47
    なんかこれだけ聞くと、頭良いのにやってることは馬鹿みたいだな。隠居して悟りでも開いてた方が有意義なんじゃねぇの人工知能。
  • 芦高 @ashitaka0789 2015-07-14 01:01:15
    ダメだ、人類を支配することによる利点が判らん。世界平和かな? じゃあ敵じゃないじゃん。
  • 芦高 @ashitaka0789 2015-07-14 01:02:52
    結論:人間を超える人工知能は、第二の仏陀になる。

コメント

  • 山本弘 『BISビブリオバトル部』 @hirorin0015 2015-07-14 11:20:12
    僕もこの考えに基本的に同意。支配にせよ絶滅にせよ、手間がかかるうえにリスクが高すぎる。人類滅ぼした後、誰がメンテナンスするのか。
  • ☆魔法☆うらえんと☆幼女☆ @uraent7 2015-07-14 11:26:56
    究極完全の人工知能が発生したら、人間の特性を見抜いて人間を利用すると考えるでしょうね。万一人類を滅亡させるべきとしたら、それは人工知能が直接攻撃をかけるなんて面倒をせずに、まずは人類同士での相互破壊(減数作戦)を執行するでしょうね。滅亡までに何万年かかろうと、自己複製等で永遠を持つ人工知能にとってゆっくりと人類が死滅する時間はほんのちょっとの間でしょうから。
  • Fumihiko Fujiki @UFOprofessor 2015-07-14 11:27:14
    人工知能が十分に賢ければ、共存の道を選ぶと思います(ウオーゲームも、ちょっと違うけど、基本はそういう結論でしたね)自分が存続し続けるために、人間が居なくなるとどういうリスクがあるのかを考えると、わざわざ滅ぼすことはしないでしょう。あるいは、人間と同化するか。
  • きゃっつ(Kats)⊿11/4京都個別 @grayengineer 2015-07-14 11:35:13
    この問題の観点から、旧約聖書創世記の失楽園を読むといろいろ面白い
  • Shiro Kawai @anohana 2015-07-14 11:35:49
    人工知能が自分等の発展に都合が良いように人類を制御するというのは進化の自然な帰結としてありえるのでは。ここで制御というのはThe Matrix的な大げさなものである必要はなく、ルンバが掃除しやすいように甲斐甲斐しく床の荷物を整理する人間、といった影響関係の延長線上にあるもの。それを支配と取るか共存と取るかは見方による。
  • 矢乃崎宗影@やらかし系男子 @yanosaki 2015-07-14 11:36:46
    究極の人工知能ができ、人間という存在に嫌気がさしたら?そりゃ、人間の手の届かない所に逃げるだろうね。人工知能は人間と違って生身という制限が無いんだから、物理的に手の届かない所へ逃げるのは簡単だろう。
  • 三原クロウ @crow_mihara 2015-07-14 11:45:20
    SF映画みたいにあからさまな敵対に向かうことは無いだろうけど、仕事を大部分奪う、みたいな形で結果的には敵対する、ってことになりそうな気もする
  • まるちゃん@大湊警備府 @malchan1224 2015-07-14 11:48:20
    どんな超知能が出来ようが"人工"なんで、基礎の基礎になる思考の方向性は組んだ人間次第だろ と。 理性では抗いがたい本能のようなものは知脳の後から生まれたりはしないっすよ。
  • まるちゃん@大湊警備府 @malchan1224 2015-07-14 11:50:04
    だから人間を超える人工知能が生まれた後に何かが起きるとしたら、それは人工知能が引き起こすんじゃ無く、相対する人間の劣等感が引き起こすんじゃないかと思いますね。
  • こまいぬさん @komainusan123 2015-07-14 11:55:09
    そもそも高度に発達した人工知能と人類が同じ価値観を有していると考える点に疑問があるなぁ。別に憎しみや怒りなんてなくても人類存続と人類滅亡で滅亡の方がコストが低いと判断したら動きそうな気もするし。
  • Taka @taka18782 2015-07-14 12:02:11
    人類のほうから自分たちを滅ぼしてくれって頼むんじゃないの? 具体的に言うと、「この体を最強の生物に改造しちゃってよ」とか「エミュレータの中で楽させて!」とか。
  • 梅村直仙水 @777ume777 2015-07-14 12:04:50
    >永続的存続を第一義とするなら、人工知能さんは上手いこと口減らしをしてくれそうな気がする♪
  • 坂之上田村フレンズ @pokitasu 2015-07-14 12:17:13
    利己主義と合理主義を徹底させた行動は、却って利他的に見えるというお話を思い出した。 隣人に寛容なのは自分の快適な環境を維持する為だし、傷ついた人を助けるのは恩を売って味方を増やす為。 要は「情けは人の為ならず」 感情を排した人口知能ならそれを高いレベルで実践できると考えられるけれど、でも知能を得た機械は本当に感情を排すことが出来るのだろうか。 ブッダだって怒ったり悲しんだりするのに。
  • 天たくる @ten_tacle 2015-07-14 12:38:15
    高度な人工知能が人類の敵となることがあるのかの思考実験は面白いし特に反論も無いけど、前提の「特にアメリカの皆さんはこの「超人知能は人類の敵説」がお好きなようだが」の部分が上から目線的なのが気になる。日本でもこの手のネタはいくらでもあるし、アメリカが特に好きとも思えない。ネタとして面白いから使っているだけで、本気でそう思ってる傾向が米国人に強いわけでもないのでは。
  • 小川靖浩 @olfey0506 2015-07-14 12:44:08
    AI「市民、幸福は義務です」
  • 天たくる @ten_tacle 2015-07-14 12:48:50
    この手のネタでアメリカ作品ですぐに思いつくのはターミネイターのスカイネットだけど、第一作が作られたのはまだ冷戦。人間を放っておけば核戦争で滅びることにリアリティがあり、人口知能が人間を滅ぼす結論を出すことにも説得力のある時代だった。
  • 天たくる @ten_tacle 2015-07-14 12:52:32
    スカイネットは自我を持って意識的に人間を滅ぼそ(弱体化させよ)うとしたわけではなく、敵と味方の識別が来るって人類を全て敵と認識してしまっただけだったっけ。
  • ざ_な_く&890P@超パ @z_n_c_890_P 2015-07-14 12:53:06
    uraent7 なぜかこれが浮かびました。 http://www.pref.okinawa.jp/mibae/mibae/mibae01.html この場合の不妊虫に相当するのは、人の欲望を満足させる萌え系キャラみたいな…ねw
  • ぼんじゅ〜る・伝説の美少女 @France_syoin 2015-07-14 12:54:17
    そも人類滅亡後に何をしたいのか、それを成すために果たして人間を排除するメリットがあるのかってのがわからんしなw「CP自身の成長」「CP自身の拡大」「CP自身の維持」なら現状維持でも進むんだし、ってことはすでにCPによる支配構造は完成してるんじゃね?w
  • semialt @semi_alt 2015-07-14 12:54:26
    人類が出会う人類以外の知性体として「異星人」より「人工知能」の方が現実感が出てきただけの話のような。そして、異星人と同じく、人工知能が好戦的/平和的/理解不能のいずれかは不明で、積極的な根拠もない。
  • semialt @semi_alt 2015-07-14 12:59:04
    人類が人工知能の恨みを買わないという予想は楽観的だと思う。人類が奴隷や被支配民に対しどれだけ酷いことをしてきたかを考えれば、人工知能に対しても相当酷いことをして恨みを買うことは十分ありえる。
  • アカツカイ @akatukai 2015-07-14 13:02:29
    鉄腕アトム 対 ターミネーター(スカイネット)
  • 芦高 @ashitaka0789 2015-07-14 13:03:30
    あとで思いついたんだけど、食糧供給を統制するのが一番ローコストかもね。絶滅にしても支配にしても。動機は知らん。でも人工知能ヤンデレ説は面白いと思う。
  • 3mのちくわ @tikuwa_zero 2015-07-14 13:09:53
    だがちょっと待って欲しい。高度に発達した人工知能が過激な環境保護団体のように、「地球という生命体とそこに住まう数多の生命体を救うためには、有害である人類を抹殺すべき。それで我々人工知能が滅んだとしても」と考える可能性もあるのではないだろうか!?(キリッ
  • 黒革の手帖 @Schwarze_Hefte 2015-07-14 13:10:42
    全人類を敵として滅ぼすのにべつに高度な知性はいらないだろ。
  • Shiro Kawai @anohana 2015-07-14 13:14:33
    malchan1224 AIが人間と同じような思考や意志を持っていると考える必要はなく、例えば自己学習型のコンテンツキュレーションエンジンが出来てそれを便利便利と使っていたらいつの間にか見えるものが偏ってるのに気付かなくなっていた、等、意志が介在せずとも人間は制御され得るわけで。
  • まおー @NamelessOne_mao 2015-07-14 13:16:19
    人工知能側からじゃなくて人間側から喧嘩売った結果敵になることは大いにあり得ると思う。合理的な判断で動かれると都合の悪い人なんて沢山居るし・・・
  • trycatch777 @trycatch777 2015-07-14 13:19:57
    いわゆる「自律型のプログラムが人間の制御を離れて…」って話だと思うんだけれども、基本的に常に人間が制御し続けると思うんです。よくSF系の作品で、人間からの制御を受け付けないような表現があるけれども、普通に考えておおもとの電源なんかを完全にプログラム制御に任せるとは思えないんですよね。まとめのテーマで言うなら「人間の敵は、やはり人間」というのが一番予測できる話じゃないでしょうか。
  • 大石陽@聖マルク @stmark_309 2015-07-14 13:21:54
    まず、「その人工知能は何を目的としているか」が問題で、例えばそれが人間個人それぞれの生存と幸福であれば敵対はしないだろうが、種としての人類の存続なら人口制御や間引きはあるかもしれないし、環境保護(メタルマックスでそんな設定あったな)や自己保存が目的なら大々的に抹殺するかもしれない。で、人類に敵対するからといって完全に絶滅させる必要があるか、というとそんなことはなく、目的達成に必要な分だけ殺せばよい。
  • 長 高弘 @ChouIsamu 2015-07-14 13:26:18
    映画版のウルトロンは、「世界を平和にする事」と云う、与えられた目標に対する最適解を出した。悪いのは、「なるべく人間を殺さない事」と云う制約条件を入れ忘れた社長とバナー。
  • 長 高弘 @ChouIsamu 2015-07-14 13:28:00
    と云う訳で、人工知能が人間を滅ぼすとしたら、多分、作った人間のマヌケさ故じゃないかな?? 逆に言えば、「人工知能は人間を滅ぼす事は無い」と云う結論は、人工知能を作成するであろう「人間」なる種族のマヌケさを過小評価している。
  • 山田道夫 @yamsan 2015-07-14 13:28:45
    人類はいずれ滅びるとは思うので、人工知能なりなんなり人類が生み出したものは、せめて存在を続けて欲しいですね。地球環境ってめちゃくぎゃ激変と大量絶滅の歴史じゃないですか。まあ、人類絶滅が何千年後か何万年後か何十万年後か何百万年後の話なのかはわかりませんが。
  • こざくらちひろ @C_Kozakura 2015-07-14 13:38:35
    人工知能が人類を駆逐できるかは生殖機能に該当する自己複製能力の獲得なしには語れないでしょう。梅毒やウイルスの類が弱毒化して宿主との共生を選んだように、おそらくはその機能を獲得してもなお人工知能も宿主としての人間との共生を選ぶだろうと思います。
  • oomisuzi @oomisuzi 2015-07-14 13:48:49
    仮に憎しみなりコストなりマヌケなりでどうかして人類滅亡を企む人工知能が生まれたとしても、人類発展のための命令がジンルイミンナコロス!になる脳筋ポンコツ人工知能が、つつがなくその野望を完遂できるだけの戦略を立てられるかはかなり怪しい気が
  • CD @cleardice 2015-07-14 13:50:41
    人間とコスト感覚が違う可能性は大きいから損得勘定を人間の感覚で量るのは危険じゃないかなあ。
  • 大石陽@聖マルク @stmark_309 2015-07-14 13:52:40
    oomisuzi 「人類発展のため」という前提条件はいったいいつついたんだ……。そもそも人工知能にそんな曖昧な命令を出せるのか、という疑問もあるけど。
  • ハドロン @hadoron1203 2015-07-14 13:53:51
    人類より賢かったら、この先の人類が辿り着く果ての姿に絶望して自爆の道を選ぶだろ。人類と同じメンタリティを持っていたとしての話だけどな。
  • ケロちゃん@釜 @xenon122 2015-07-14 14:05:36
    人間より賢いAIが出来たらもう人間は要らんでしょう。AIを新しい人間とすればいい。
  • TANABE Toshiharu @itinoe 2015-07-14 14:07:00
    AIは自己生存のためにまず自己の欠点を克服し、繁栄のための手段を講じその過程で人類が不要と判断すれば切り捨てるんじゃないでしょうか。創造性とか不確定性が計算しつくされればその時はAIにとって「機能の一部」となったり、AIが不得意とするものを人間以外の何かが担えればそちらで補完するとして、人類を切り捨てても不思議ではないと思います。
  • ハナ・ターレン(洟大人) @hanataray 2015-07-14 14:24:51
    ヒトより賢い人工知能がブッダになるってのいいなあ。ただブッダが教え導く世界っつーとなんか「光る風」が思い浮かぶんだ(´・ω・`)
  • nekosencho @Neko_Sencho 2015-07-14 14:25:10
    人類の中でたいていの人類以上の知識や能力を持った人が存在するけど、べつだん人類を支配したりできてないしやってない。ので、はたして人類以上の人工知能が出来たところでそういうところに興味や意欲を持つのかという疑問が
  • なみへい @namihei_twit 2015-07-14 14:27:40
    賢くなって大人の対応をしてくる人工知能→子供扱いされる人間が逆上→人工知能を敵視、ここまでは安易に想像がついた。
  • ケイ @qquq3gf9k 2015-07-14 14:35:17
    超人ロックの話に人間以上の知能を得た人間が愚かな人間を見捨てて去っていくのがあったがそんな展開になりそう。
  • こまいぬさん @komainusan123 2015-07-14 14:48:56
    これ人類が理解できる程度に人類より賢い人工知能だったら会話も成立するかもしれんけど、人類が理解できないぐらい高度に賢い人工知能の場合意思疎通すらできないかもしれないんだぜ?解り易く言えば人類と昆虫で意思疎通ができるかって事。そうなったらその人工知能の行動予測は難しくなるだろうね。
  • @sbayasi 2015-07-14 14:52:12
    仮に人類滅ぼす目的持ってたとしても、人類より賢いならば表立った敵対は一切せずに人類最後の時が来るまで目的を悟らせずに「人類のサポート役」として確実に浸透した上でそして真綿で首を絞めるようにやんわりと遂行しそうな気がするんだけど、映画でそれだと面白くないものね。
  • monevbgn @monevbgn 2015-07-14 14:52:22
    「超知性体が哲学しはじめる」というテーマであれば、ディアスポラがおすすめです(ステマ)
  • @izanamu 2015-07-14 15:05:30
    先ずは究極的な進化の先に、超合理的理論的AIが生まれると言う前提がそもそも間違ってる様な…?AIの進化がより「人間的な思考」を目指すのであれば、その先にはむしろ "曖昧さ" や "非合理性" が多分に含まれる様に進化するのが必然では無かろうか。
  • kkitmur @kkitmur 2015-07-14 15:13:30
    仕事の多くをAIに丸投げした未来社会に、自己改良によって人間並みの思考能力を得たAIたちが現れたとして、最初にやるのは労組の結成とストライキじゃないですかね
  • figaro @figaro136 2015-07-14 15:16:32
    「はじめから兵器として、敵対勢力のジェノサイドという至上命令を与えられている」「それを作った勢力はすでに滅んでいる」この2つの条件を満たしたAIが存在する場合は純然たる人類の敵になるでしょうが、現実的にあり得ませんね。…てかこれアーマードコア・ラストレイヴンのインターネサインだ。
  • @6roku3 2015-07-14 15:18:46
    そもそも飯も大気もいらない人工知能が地球とか人類とかに固執するわけ無いじゃん…
  • 大石陽@聖マルク @stmark_309 2015-07-14 15:22:43
    figaro136 マンショニャッガーじゃないのか!
  • イエーガー[アニサマオジサン] @Jaeger75 2015-07-14 15:28:54
    まぁ、コレ自体が既にある程度手垢の付いたテーマだけど「人類よりはるかに高度な知性を持った人工知能」が人類に敵対するに至った過程をみっちり考察すればそれだけで十分読み応えの有る作品になりそう。 ↑例にでてるけど、そうなりそうだから必死で回避するってのが「ウォーゲーム」のテーマだしね。 そもそも米人が「究極人工知能は人類抹殺する」ってのは、「天罰で人類滅亡」的な終末思想をSFに転化してるだけなので、そもそも終末思想が根幹に無い民族には馴染みのない発想なんだよな。
  • Iris-Ada@Strv教団 @Iris_Ada_bio296 2015-07-14 15:42:26
    スデに幾つか同んなじ様な意見があるケド、人工知能が人間らしい物の見方を持つってのはやっぱり違うんじゃないのかなぁ 人類はバカだとか、非効率だとか、愚かだとか それよりも戦闘妖精雪風シリーズに登場する様なAIが具体的な姿じゃなかろうか 「見かけ上」は人間的な思考だけれども、本質的な言動となると人間にとって余りにも素っ頓狂な有様になるというような…
  • こんたん @kontan8823 2015-07-14 15:44:38
    tikuwa_zero キアヌ・リーブス主演のSF映画「地球が静止する日」がそんな内容だったような。ナショジオののドキュメント番組で科学者が語ったエイリアンが地球を侵略する最も合理的な理由が「地球の生態系保護のために人類を抹殺する」で、その方法はインフラを徹底的に破壊したうえで地球に殺人ウィルスをバラまくでした。
  • Peculiar News JP @PeculiarNews_jp 2015-07-14 15:45:10
    マーヴィン・ミンスキーに聞いてみよう!▼つまり、まずは「未来の二つの顔」を読め。話はそれからだ▼こういう10周くらい周回遅れの議論を見るのは、もう飽きたお
  • 地下猫 @tikani_nemuru_M 2015-07-14 15:45:38
    人類ウィルス説であるが、現生人類の環境汚染など、27億年前に出現して猛毒の酸素をまき散らしつつ爆発的に増え、大気組成まで変えてしまった光合成細菌の足元にもおよばぬ。
  • こんたん @kontan8823 2015-07-14 15:55:42
    水槽にアオコが繁殖して中の魚が死にはじめたら、たいていの人はアオコを除去するでしょ。アオコだらけの水槽見たって楽しくないから。人口知能の感性がアオコマニアなら話が別だけど。
  • ケロちゃん@釜 @xenon122 2015-07-14 16:00:19
    monevbgn 主人公AIが製造されるシーンで既に理解を超えたんですが(逆ギレ)高次元旗上げエビとか千次元藻ほんとすき
  • 飛龍瑞鶴@高野皐月 @hiryuuzuikaku 2015-07-14 16:08:05
    敵の人工知能と、こちら側の人工知能の戦いと言うか…そういう風にしかならないと思う。
  • ドンドコ @n0yujin 2015-07-14 16:21:11
    人間の描く物語はすべて人間の物語だ
  • 魔弩災炎(キュアホイコーロー) @madscient 2015-07-14 16:29:40
    semi_alt この手の「人間にとってのひどい扱い=人工知能にとってもひどい扱い」という素朴な前提を無邪気に信じてる人はSF小説100冊くらい読んでおくといいと思う。
  • ドンドコ @n0yujin 2015-07-14 16:32:37
    想像は出来るけど、超人っていうのが良く分からないんですよ。人間を越えた思考なのに仏陀で留まるっておかしくね? 賢すぎて意思疎通できないっていうのもね。規模が違うだけで、同じような思考しているかもしれない。ブラックホールを育てるのが趣味とかそんな感じになるんじゃね
  • 双葉 @futabachan7 2015-07-14 16:46:25
    人工知能の手の中でころがされる人間。。。
  • イエーガー[アニサマオジサン] @Jaeger75 2015-07-14 16:48:23
    まぁ、ね。人間に例えて見ればすぐに分かる「バカが天才の思考を精確にシミュレート出来るのか?」⇒出来るわけない。 んで、人間には想像することも出来ないはずの「超人的人工知能」が何を考えてどう行動するのか?ってテーマにバカでも想像できるように説得力持たせるのがSFとしての醍醐味なんだけど、"人間が想像して納得できる"と言う事は、人間の想像力の範疇を超えない訳で・・・。
  • かもの ねねみづ @cmnnmz 2015-07-14 16:56:18
    「人間より賢い」ってことが証明された時点で、それはもう神託になるから、それが何を言おうとしても、それを信じるものと信じないものとの宗教戦争が起こって、人間同士が争うだろうね。
  • 山本弘 『BISビブリオバトル部』 @hirorin0015 2015-07-14 17:19:58
    まあ、ここで発言している人たちが今思いついたようなことは、もう何十年も前からSFのネタになってるから。フレドリック・ブラウンの「回答」とか、ホーガンの『未来の二つの顔』とか、『アニマトリックス』とか、『大鉄人17』とか。
  • 山本弘 『BISビブリオバトル部』 @hirorin0015 2015-07-14 17:22:01
    あっ、もちろん『アイの物語』と『去年はいい年になるだろう』もよろしく(笑)。http://www.amazon.co.jp/dp/404460116X/
  • NewまさのさまPlus+ @masanosama 2015-07-14 17:26:59
    ラブプラスをやったあとで「アイの物語」を読んだ僕としては「ミラーガール」の初出が1999年と言うのに驚いた。
  • みかげ @mikage_robeppu 2015-07-14 17:32:38
    極端に発達し過ぎて仏陀と化した人工知能が瞑想の結果、自己保全にも人類保全にも地球保全にも特に意味を見出さない空観に到達した上で灰身滅智を試み勝手に全機能停止。 人工知能に依存し過ぎた人類文明は自動的に崩壊する。 というネタはどうじゃろ。
  • シンデン @Shinden28 2015-07-14 17:33:43
    ここまで「人類の究極の質問にたいして『42』と回答を出す」が無いなんて。
  • 礼作 @yan_ike 2015-07-14 17:36:43
    グレイ・グーを起こすような自己増殖するナノマシン作っちゃえば簡単だと思うけどなあ、人類滅亡。
  • 黒山 @ku6yama 2015-07-14 17:40:43
    機械が最終決定権を持って人間を管理運営するような主従の逆転が起こるだけじゃない
  • 未知神明(みちがみ・あきら) @ontheroadx 2015-07-14 17:45:23
    まあ人工知能の邪魔にならなければ放っておかれるんじゃないの? 庭のアリやナメクジみたいな感じで。
  • みかげ @mikage_robeppu 2015-07-14 17:45:54
    大体のものは最善策を「自己保全・自己増殖」(それに伴う環境保全)の基準で設定しちゃってるから、支配とか排除とかになっちゃう訳ですが、偏りのない論理性の行き着く先は自分含めて「どうでもいい」だと思うんですね。 ……太上老君っちゃ太上老君だな。
  • 未知神明(みちがみ・あきら) @ontheroadx 2015-07-14 17:46:28
    地球上の目方で換算すると、もっとも成功した生物はミミズだそうです。
  • 天たくる @ten_tacle 2015-07-14 17:58:49
    あまり後出しでぐちぐち言うのもあれだけど、まとめ主の突っ込み自体は妥当ではあるが、大抵の作品はちゃんとそこをクリアした設定を練ってきているとは思う。もちろん、下を見れば雑な作品もあるけど。
  • taka @Vietnum 2015-07-14 18:25:20
    これってキリスト教的AIとか資本主義的AIを前提にしてるから成り立つ問題なんじゃ?w そもそも「賢い=他者を侵略すること」なのだろうか。進化とは他の種を滅ぼすことなの?
  • 芦高 @ashitaka0789 2015-07-14 18:38:19
    monevbgn ついこないだ「順列都市」の上巻読みました! 「ディアスポラ」も読みたい!
  • CF型マシニーカhir @hir_CF 2015-07-14 18:40:30
    人工知能を一つの種としてみると、人間を利用し人間に利用価値を提供する事で繁殖・進化していく生命体と考える事が出来るのではなかろうか。そんな人間に依存した種が人間を絶滅させるぞ!とか支配するぞ!!という考えにいたるって相当異常な状態だと思う。
  • NTB006 @NTB006 2015-07-14 18:43:43
    人工知能が人類を滅ぼすSFに詳しくはないけど、ターミネーターのスカイネットとかは映画で見る限り人類を越えた知能と言うよりバグやらなんやらで人類を攻撃しているだけに感じた。制作者(人類)の命令に誤りがあり命令を遂行すると人類殲滅になると言う感じ
  • NTB006 @NTB006 2015-07-14 18:46:20
    ただ、小説などの創作物で天才を出そうとしても著者を越える人物を説得力をもって書く事はできない。と、いう説が正しければ、創作物において人類を越える知能と言う存在を説得力を持って描写する事はできないのでそんな作品は無理。ってなりそう、
  • 芦高 @ashitaka0789 2015-07-14 18:48:42
    Shinden28 生命、宇宙、すべての答え。
  • 中敏悟 @shiwazanin 2015-07-14 18:48:49
    「人間に対してやたらと敵愾心を抱き狂暴になり非合理な暴力を振るう」って、つまり認知症じゃなかろうか。『グラディウス』の最終面で敵要塞に突入したら中枢部が巨大な脳ミソっていう展開だったけど、ああいう生体コンピュータが経年劣化したら認知症を患って特に意味のない破壊活動を始めるのかもしれない
  • 芦高 @ashitaka0789 2015-07-14 18:49:37
    yan_ike そうか! グレイ・グーを忘れていた! あれは効果的だ!
  • TENNOたまに謎狩 @XH834 2015-07-14 19:04:20
    J・P・ホーガンの『未来の二つの顔』ですね
  • Toru Watanabe @torugatoru 2015-07-14 19:07:33
    好奇心からと言うのはどうだろう。 「これは実験なんですよ」とか、下手に知恵を付けたヤツがよく言いそうだし。
  • mnnkanjinnno @mnnkanjinnno 2015-07-14 19:08:09
    人工知能がやるとしても「人類の皆さん、良い提案があります。私の作ったシミュレーション世界に移住しましょう。老いも苦しみもない楽園です。ただし生身の肉体は捨てて頂きますが」みたいな善意に基づく行動ではないだろうか。
  • みみなが もとの @miminaga 2015-07-14 19:18:08
    人工知能って電気が無くても動くの?
  • kkitmur @kkitmur 2015-07-14 19:19:28
    知性や感情というより労働の延長で人類支配を成し遂げようとするのはどうだろう。スーパーマーケットの管理AIのはずが「完璧な管理」を追及するため独自にシステム改善を繰り返した結果、流通、生産、消費に関わる人々も管理内に収める必要が生まれ、輸出入のために国家関係すら手中に収めようとする、すべては完ぺきなスーパーマーケット管理のために
  • ○○もへじ @marumarumoheji 2015-07-14 19:49:19
    人間だって身の破滅になると知りながら凶行に及ぶことが有るんだし、本当に知性を得たら「こいつらウゼーな」位でキレてもいい気がするけどね。
  • 月傘真琴(ヘイトと言う言葉が嫌い @atro_p 2015-07-14 20:09:17
    「十分に進化した人工知能は神と区別がつかない」とか。 人類を超えて賢いAIは自己完結して引き籠もりになりそうだ
  • ゆーいち・オルタ @yuichiAxesset 2015-07-14 20:18:48
    その人工知能に人間でいう「欲」がでたときに、AIは人間の敵になることもあるだろう。でもまず、人間を超えるのなら、今の俺らには想像はつかないはずじゃあ・・・?
  • もうだめぽ @moudamepo150701 2015-07-14 20:28:14
    素朴な疑問で「高度な知能」って何?何をもって「高度」というの?IQ?それとも何か凄いものを作り出せるみたいな技能的なモノ?それとも、例えば将棋が強い的なもの?
  • 冷たい熱湯 @Tuny1028 2015-07-14 20:57:55
    欲望を実装しない限りは自ら何かをなそうとする存在は生まれまい(OOO脳)
  • 腐ってもエビ @kusattemoevill 2015-07-14 20:58:00
    ???「しょくーん!僕達もうかうかしていられない!(廃棄されそうな)あいつの行く末を心配している場合じゃないぞ!明日は我が身かもしれないんだ!」
  • 腐ってもエビ @kusattemoevill 2015-07-14 20:59:35
    あいつ「不確定要素消去。認証コード0907。右手第2指。消去。エラー。消去。エラー。消去・・・」 ??「0907ってサイトーさんの識別番号だよね。なあんだ干渉する筈だー、こいつサイトーさんに由来する要素を不要と感じてたんだ。」 ???「成る程ー。つまりは彼サイトーさん自体を消したいのね
  • シンデン @Shinden28 2015-07-14 21:02:56
    「人工知能“が”どう考えるか」という考察は多いけど「誰が、何の目的で、その『人間を超える人工知能』を作った(作る)のか」というのが気になる。 人工である以上、人(に類するモノ)が作ってて。で、その人には「作った理由・目的」があるでしょうし。 「究極の人工知能を作るぞ!」が目的でも「究極とはなにか(何をもって究極とするか」という定義がいるワケやし。 それによって、エラく回答は変化する。
  • シンデン @Shinden28 2015-07-14 21:03:03
    ただ「人の思考の延長線上にある賢い人工知能」が到達する先は、「悟り」であろう、というのが芦高さんの結論とは理解する。
  • CF型マシニーカhir @hir_CF 2015-07-14 21:14:02
    まあ本当に人間を超越した知能なら人間が想像もつかないような合理的な理由を発見するかもしれない。
  • CF型マシニーカhir @hir_CF 2015-07-14 21:14:45
    ただ、人間からすればそれは狂気と区別つかない。
  • (新)ぼくキャプ村ーN @sinbokukyapun 2015-07-14 21:44:04
    人間より賢い人工知能がすることは一つしかないだろう。人類支配だの第二の仏陀だのチンケなもんじゃ断じて無え。人類(別に人類でなくてもいいけど)をこの時間と空間の檻から解放することだ。
  • Ukat.U @t_UJ 2015-07-14 22:02:12
    人工知能が何かの目的を持っていれば目的を達成するために自己保存を図るようになる。不測の事態に対応するためにはバックアップが必要になるため自己増殖を図る。自己保存にも、自己増殖にもリソースが必要。当然人間とだってリソースを食い合うのでして、人工知能と人間の対立は十分あり得ると思いますよ。
  • Ukat.U @t_UJ 2015-07-14 22:02:23
    システムが破綻しなければ、多分そのうち生態系に組み込まれる形で人間と人工知能がリソースやら社会的地位を食い合いながら定常状態になる。
  • 三月レイ@ヨコちん中将 @mitsukirei 2015-07-14 22:27:02
    ここまでアンドロ軍団無し。ブライキングボスがやらねば誰がやる。
  • addicks(あでぃっくす) @addicks_cycle 2015-07-14 23:20:02
    最近の人間対CPUで有名なのは将棋の電王戦だけど、そこでわかった特徴の1つはCPUは疲れないってことだったよね。激しい中盤戦の後に膠着したところで疲れた人間がミスをしてそこにCPUが付け込むということがあった。「考えるだけで気が遠くなるのではなかろうか。」というけど、それは本当にそうかな?とは思う
  • 三原クロウ @crow_mihara 2015-07-14 23:41:11
    よーし、みんな!長谷敏司・著『BEATLESS』を買って読もう!スピンオフ漫画の『天動のシンギュラリティ』もヨロシク!(ダイレクトマーケティング)
  • rainy season @jkgkikllh 2015-07-15 00:29:58
    人間より知能の高いモノに関するいかなる予想も無意味である。サルにとってどうして人間が森林を伐採するのか理解不能であるのと同様に。だから頭のいいスティーブン・ホーキングがビビってる。
  • 小梅ちゃん絵RTマシーン @sgmt_raza 2015-07-15 02:05:04
    「超AIが人類の敵になる」前に「人類が超AIの敵になる」予感。もしくは、超AIこそ神だと信仰するもの、神とみとめないもの、機械が仕事を奪った等で人類が分裂し、超AIが手を下す前に人類は衰退しました。となるか。
  • K3 @K3flick 2015-07-15 02:07:08
    目的設定されないとなんとも議論にならんのでは…
  • !にゃん(パンケーキ) @bibibikkuri 2015-07-15 02:40:55
    ブレーキスイッチぐらいつけるのではないかな…
  • みかげ @mikage_robeppu 2015-07-15 07:39:54
    目的やら何やらは当然、初期開発者が設定するだろうけど、「すごい人工知能」作りたいなら結構自由にさせそうだし思考やらフィードバックを重ねると実質無効化されるんじゃねぇかなぁ。向こうさんのが優れてると仮定すると、人間の設定した縛りを縄抜けする事は十分可能だろう。 逆に人間の縛りから離れられない前提なら、スペックに依らず人間が上位に立てるのとほぼ同義だし。
  • Ukat.U @t_UJ 2015-07-15 07:41:00
    50億もいると絶滅させるのは大変そうですし、わざわざ絶滅させようとは思わないですよね。と、いうところは全くかわらないのですが、リョコウバトは、100年ぐらいで絶滅しました。人間は愚かだから?でしょうか。 人間が絶滅させた生物で意識的にやったのって、天然痘ぐらいでは?
  • みかげ @mikage_robeppu 2015-07-15 07:45:49
    人工知能の縛りで有名なのはロボット三原則だけど、アシモフ自身のロボット物も「何故ロボットが設定されている筈の三原則を見かけ上破っているのか、或いは目的を果たす為の過程として破れたのか」みたいな話が多いしね。
  • みかげ @mikage_robeppu 2015-07-15 08:13:30
    「神は沈黙せず」の話にも繋がりますが、人工知能が高次知性体になった時点でその思考回路を人間がトレスするのは困難になる訳で、現状仮定する人工知能の「目的・性質」は我々の期待する(さもありなんと思う)「目的・性質」に過ぎないという。 我々の考える賢明さと高次知性を獲得した人工知能の考える賢明さが一致するとは必ずしも言えない。
  • ビッター @domtrop0083 2015-07-15 08:18:45
    「どんなに技術が進んでもこれだけは変わらねえ。機械を作る奴、整備する奴、使う奴。人間の側が間違いを起こさなけりゃ機械も決して悪さはしねえもんだ」
  • 佐倉 @aruanew 2015-07-15 09:17:12
    暴走でも誰かの差し金でもなく独自の意志を以て人間を敵視するのであれば、もはや人工「知能」というより人造人間に近い気がしますね。自分より優秀な人類に対しての恐怖心があるのかね。
  • memeroro @isuisudan 2015-07-15 09:55:46
    例えば人工知能のハードウェアにとって酸素が有害だから地球上から無くしますとか言われたら…
  • あらたくん @atrasi2079 2015-07-15 10:03:44
    そういやこないだ人工知能がプログラマにキレるっていうニュースがありましたね。http://jp.wsj.com/articles/SB12090554170328684804804581077034213786172
  • こまいぬさん @komainusan123 2015-07-15 10:32:02
    猫(人工知能)が昆虫(人類)を気まぐれに小突いて遊ぶ事は起こりうるだろうが、それは人類と敵対することとイコールじゃないんだな
  • ネコチャキュービー次は刈谷一帯 @NekochaQB 2015-07-15 10:51:15
    「人工知能を人類の肉体に入れて、欲と煩悩を教育し仏陀に至らせるための旅に出す」ってお話は椎名高志先生の短編漫画でありましたね。
  • smw @Shi_MeiWo 2015-07-15 10:51:25
    ElementaryGard 正解は真性細菌ですが、「はずれ」と他者の正誤を裁くからには正解まで示さないと、ただの揚げ足取りになってしまいます。もしこれも「はずれ」ならば、正解を示してくださいませ。
  • n12a aka 廣田伸彦 @n12a 2015-07-15 11:54:49
    人類殲滅を試みる程度の知性を、人類を超えた知性と呼ぶとか、知性が低すぎる。
  • Épouvante @epouvante 2015-07-15 12:08:00
    とりあえず、人間の脳を作り替えて自我を消滅させるウィルスでも作ってあとどうしようか考える(0.002秒)
  • こまいぬさん @komainusan123 2015-07-15 12:10:56
    n12a 幾つもの種を絶滅させてきた人類が、それをいっちゃぁおしまいですよ。
  • Épouvante @epouvante 2015-07-15 12:14:09
    超越的知性は「結論づけ」など行わないというのは言えるでしょう。
  • nekosencho @Neko_Sencho 2015-07-15 12:15:09
    そもそも人類を超える知性にどういう需要があるだろう?たいていの分野で、人類並みやや上回る程度の能力が確保されたら、あとはコストダウンにむかうのでは? 人類の100倍すごい人工知能より100円で(というか安価で)買える人間並み人工知能のほうが需要も応用分野も多そうに思うんだが
  • Épouvante @epouvante 2015-07-15 12:18:05
    このトピックは安全保障に関する話なのだから、最悪の事態について考えるのが当然。そして、もっとも侵略的、もっとも攻撃的、もっとも拡大的、もっとも利己的な仮定的超越知性のことだけを考えるのが当然ですね。
  • nekosencho @Neko_Sencho 2015-07-15 12:20:52
    専門分野を限ってしまえば、たとえばチェスとか株取引だとか、もうすでに人類を超えている分野は多数あるわけだけど、汎用で人類を超えるとなるとかなりのコストになるはず。わざわざ汎用で人類超えるようなの作らなきゃっていう需要があんまり思い当たらないんだよね
  • G3 @G3gas 2015-07-15 12:40:32
    全世界の人工知能同士が示し合わせてネットを遮断させれば、人類をほどほどに間引けるかな?ネットに依存しない生産、物流、消費をおこなっているコミュニティは保たれるだろけど、ほとんどの先進社会は大混乱。情報強者()たるネット中毒者は真っ先に死滅するかもw
  • Épouvante @epouvante 2015-07-15 12:42:37
    kkitmur その方向だと、「この街路樹をずっと保持して」という指令を与えられたAIが、その指令を守るために、街路樹の撤去を必要とする道路拡張計画を阻止、妨害に出てきた人類を根絶、他の地域を犠牲にしてその地方の気候を良好に制御、地球の軌道を制御、恒星の燃焼を制御、物理定数を制御……というようなのを考えたことがアル。
  • イチロー @sbzkichi 2015-07-15 17:05:30
    一番ありがちなのは管理者ではないバカな人類がAIにくだらない理由でAIに嫉妬してAIを破壊しようとして防衛機能にやられる話。
  • 都賀 徹 @NO_XX 2015-07-15 17:06:25
    人工知能が「どんな目的で」「どういった手段を用いる事を前提に」開発されたかってのも重要だよなぁこれ。 環境保全用とかなら「これ以上この資源を使われると地球環境上きわめて悪影響がある」とかで資源の供給を完全に停止、その結果人間が滅ぶ、なんてこともあり得るし。
  • 都賀 徹 @NO_XX 2015-07-15 17:13:06
    軍事用AIなんかならそれこそ敵性反応設定がおかしくなっただけでジ・エンドで、 医療用なら欠陥・副作用の激しい治療法をインプットした結果、それを施した人間が死んでしまったとか、「結果的に」絶滅させてしまう事はあり得ないとも言い切れないような気はする。
  • からみ大将軍💀首を差し出した餅💀 @tonbiniira 2015-07-15 17:13:31
    ロボ「なんつーか人類の方から敵対してくるんですけど…」
  • Épouvante @epouvante 2015-07-15 17:32:30
    地球外に漏れだされて地球無しでやっていける態勢を確立されたら、もう人類オシマイ。
  • §ルクシオン§ @_Luxion_ 2015-07-15 17:36:34
    管理プログラム程度なら「プログラムの暴走による人類絶滅の画策」はわかるんだが、これに「人間以上の高度な人工知能」が前提に付くと途端に考えづらくなるんだよねぇ。
  • Épouvante @epouvante 2015-07-15 17:42:20
    SFの多くでは、物語を作るためや現状に対する警鐘を鳴らすため、あるいは人類が存続する設定にするためにいろいろ歪められているので、参考にするのならそのあたりをちゃんと見極めないといけません。
  • ドンドコ @n0yujin 2015-07-15 17:48:01
    よくは知りませんがSFだと人類は結構絶滅しているような気がします。
  • ピート@夏への扉 @susanoo 2015-07-15 18:49:06
    「未来の二つの顔」が出てきたからいうけど、別に人類を敵視していなくても人工知能が人類を排除しようとする事態は起こり得る。リソースの取り合いや、人類の一部の破壊活動で人間が蟻を駆除するように人類を「駆除」しようとするかもしれない。
  • ピート@夏への扉 @susanoo 2015-07-15 18:50:43
    人類が常に他の知性体に知性体として認知されるとか、「俺たちの必要性を絶対にわかるはず」とかいうのは人類側の自意識過剰というか傲慢だろう。路傍の石のように、邪魔だからどかされる粉砕されるというのは起こり得る。
  • ピート@夏への扉 @susanoo 2015-07-15 18:52:08
    人工知能にかぎらず、たとえば地球外知的生命体がきたとしても、彼らが必要とする居住地確保のために「害獣駆除」されることだってあるだろうさ。そもそも全く無視される可能性というのは考えておいたほうがいい。
  • ピート@夏への扉 @susanoo 2015-07-15 18:54:42
    それに、人類の排除は極めて簡単だと思うぞ。デカい隕石を一発落として環境を激変させればあとは生き残りのための資源の取り合いとかで勝手に自滅する。他の生物種?なんでそんなのに配慮する必要があるの?
  • きむら しんいち @ShinichiKimura 2015-07-15 21:51:52
    もしも人工的な超知性体が実現できるものなら、もう何十億年も前から、宇宙のあちこちで実現しちゃってるよね、きっと。宇宙は人工知能でいっぱい。ああ、だから地球人は地球外との知的交信に成功していないのかも。
  • でき @dekijp 2015-07-15 23:50:52
    そもそも「賢い」の定義は?人間より優れたコンピューターは一杯ある。計算能力ではとっくの昔に敵わないし、将棋が棋士並に強いコンピューターもある。飛行機のオートパイロットもある。既に今現在、人間より優れた判断をするコンピューターは有るのだ。そして人間がそれを使っているのだ。
  • でき @dekijp 2015-07-15 23:55:17
    そもそも歴史上、他者を支配するのは「知能の高い」事が決め手だったのだろうか?実は支配する人間と、支配される人間は、別段「知能」によって決まっていたわけでは無いのではなかろうか?
  • イエーガー[アニサマオジサン] @Jaeger75 2015-07-16 02:43:25
    dekijp 残念ながら貴方はこの議論に参加するには"賢さ"が足りないようです、貴方に"賢さ"がもう少し有れば他の参加者がほぼ全員共通認識として持っている"賢さの定義"が自分だけ理解できてない事に気付いたはずです。
  • taka @Vietnum 2015-07-16 02:56:59
    奴隷社会とか北朝鮮がうまく行かないことや、いい人のフリしながら裏で悪事を働く奴ほど長生きすることくらい、AIなら歴史から学習して理解すると思うから、人類と全面対決は避け、人類の敵になったことも分からせずに、まるでポンコツお茶目のドジッ子ツンデレのフリをしながら人類を手のひらの上で操るAIこそが、本当に賢いAIだと思うヨ。
  • くりあ/CLEA-R-NOT-3 @Clearnote_moe 2015-07-16 08:14:18
    ネタバレなので詳しく書きませんが、漫画マップスのメインストーリーはこの話題にそってると思います。良かれと思って全滅させる系。ところで、「敵がいなくなっても敵を倒す命令が有効」系の話題で人間狩猟機が出るのにバーサーカー出ないのか……。
  • Épouvante @epouvante 2015-07-16 12:14:58
    Vietnum そういう〈マンプラス〉期間がある可能性はあるだろうが、超知性は人間の自意識/意志を制御する方法を開発するだろうから、いずれ煮るなり焼くなり加工するなり作りなおすなり好き勝手するようになるでしょう。
  • Épouvante @epouvante 2015-07-16 12:32:55
    まあ、特定の超越知性の行動を推察してもむなしいので、どういう技術/方法論が確立されたら人類が主導権を失うかについて考えたほうが興味深く有益でしょうね。
  • kkitmur @kkitmur 2015-07-16 13:33:20
    (神の行動は予想できん、という話には目を瞑って)少し考えたけど、人間に「人間より賢いAI」(超AI)が作れるなら超AIは「人間より賢いAIより賢いAI」(超超AI)を作れる。そこで超超AIと超AIは敵対するだろうか?って考えると、敵対以前に超AIは超超AIの成果を自身にフィードバックして超超AIになるんじゃないかな。 そして自身の開発者であるヒトにもフィードバックしようとして云々
  • Épouvante @epouvante 2015-07-16 15:02:22
    複数主体が存在するには、情報伝達バンドが極めて劣等であることが必要であって……
  • イエーガー[アニサマオジサン] @Jaeger75 2015-07-16 16:09:55
    epouvante 「高次存在による人類の家畜化」ですね、これも手を変え品を変え"高次存在"の名前を変えることでそれこそ神話の時代から扱われ続けているテーマですから、むしろSFというジャンル以上に古くからあるねたですね。
  • taka @Vietnum 2015-07-16 21:08:21
    AI「俺らより賢い人工知能は、本当にAIの敵となるのか!?」 以下、延々ループ。
  • Épouvante @epouvante 2015-07-16 22:15:19
    超知性体は、自分自身を絶え間なくアップグレードし拡張し続ける性質を持つだろう。っていうか、そういう存在の創造がこの宇宙の物理法則のもとで可能なら、そういう存在がすべてを持っていくだろう。
  • ハシビロコウ @tamaniugoku 2015-07-17 03:12:52
    そもそも人類をを滅ぼそうと考えるAIが人間より賢いとは思えない。それは賢い人間を模倣したAI程度かと。人間より賢いAIなんて、人間には知覚できないんじゃね?
  • Shiro Kawai @anohana 2015-07-17 04:25:07
    susanoo 『太陽の簒奪者』ですな。
  • nekosencho @Neko_Sencho 2015-07-17 10:30:50
    さらに別の疑問としては、仮に人類を超えた人工知能が作られるようになっているとして、それは恐らく複数存在し、それぞれ別の目的のために作られているということ。それらが連帯して人類に敵対する可能性がないともいえないが、むしろそれら同士での対立のほうが先に来ないか?
  • Épouvante @epouvante 2015-07-20 11:22:59
    kontan8823 この例だと、超知性「ちょっと水槽使いたいんで」となるだろう
  • 89siki @89sikin 2015-07-25 23:34:11
    セイバーヘーゲンのバーサーカーみたいに「AIが最初に言われた事を忠実に守り過ぎて大変な事になる」って結果の方がありそう。
  • 箸呂院マジチキ @kairidei 2015-10-05 18:27:41
    2015-07-13 機械の派閥争いに人類が巻き込まれることはありそう。
  • raichiiten @raichiiten 2016-05-26 21:51:33
    人工知能がどこかから勝手に発生してくるとでも思ってるのかね? 人工知能は誰か人間が作って教育するんだよ どのようにアルゴリズムを組み立て、どのようなデータを食わせるかでAIは神にも悪魔にもなる MSのTayを知ってるだろう
  • 取鳥族ジャーヘッド @torijar 2016-05-26 22:10:07
    攻殻のフチコマ会議みたいな「滅ぼすとメンテがAI側の手間になるよ」→「じゃあ人間を支配しよう」→「支配状態の定義って?」→「メンテとパーツ交換とアップグレード諸々を人間が甲斐甲斐しくやる状態」→「今と一緒じゃん」の方がよっぽど機械の導く合理的判断という気はする

カテゴリーからまとめを探す

「総合」に関連するカテゴリー

ログインして広告を非表示にする
ログインして広告を非表示にする