Togetter/min.tを安心してお使い頂くためのガイドラインを公開しました。

「SFみたいに非情になれない」機械が反乱するより、人間が機械にも人権をと主張するのではないか

ルンバかわいい
100
小森雨太 @comori_uta

個人的には「機械が心を持って人間に反乱する」より先に、「まるで生きているかのように振る舞う機械に感情移入し、機械にも人権を認めるべきであると主張する生身の人間の団体が出現する」とおもってるんですよね。ニンゲンは多分SFみたいに非情になれないとおもっている。

2019-04-15 21:25:42
小森雨太 @comori_uta

とはいえSFの鉄板ネタ(乱雑に扱われる機械が心を持って~)って言うのは大好きだからたくさん供給されていてほしい  でも多分リアルだとヒトは機械を好きになりすぎるのだ  そうおもっています。

2019-04-15 21:27:54
小森雨太 @comori_uta

これ多分「本当は存在しない【機械の心】を尊重するのではなく、機械を見て揺れ動いてしまう【人間の心】を尊重する」事になるんだろうなと思う。 機械そのものを尊重するのではなく、人の心のために機械を尊重するかたちになる社会。割とあり得ると思います。

2019-04-16 12:13:55
旋律@ハーメルン @karipister

@comori_uta それ実話にあるって授業で聞いたことあります…… 転倒からの復帰性能を紹介するために二足歩行ロボットを何度も転ばせる動画を企業が公開したところ、人権団体から苦情が来たそうです。そのロボットは足だけしかないのにそう捉えたということは、人間の仲間判定は案外緩いかなって思います

2019-04-15 21:37:07
小森雨太 @comori_uta

@karipister 既に限りなく近しい事がはじまっていましたか…。機械に人間が自分に不利益が出るほどまで感情移入しすぎてしまうことは度々今までも問題になっているようなので、人型じゃなくても起きるかもしれませんね…。こころとはかくむずかしい

2019-04-15 21:44:43
旋律@ハーメルン @karipister

@comori_uta 実はその動画を見た自分もちょっと動揺してしまったんです。より人間に近いデザインのロボットよりも親近感を抱きました。人の手で押し倒されるたびにすごく人間っぽい足の動かし方で立ち上がるので……どこがこころのトリガーになるのか本当に分からないです……

2019-04-15 21:53:33
@alucaje

@comori_uta ヒッチハイク・ロボット、米大陸横断中に破壊 続行不可能に afpbb.com/articles/-/305… はじめまして、自分はこの事件を思い出しました。ロボットに対して親しみを持つ人が居る一方で、軽率な悪意をぶつける人もいるのだな、と…。

2019-04-16 07:35:03
wafwaf @walkingwaff

@alucaje @comori_uta ロボを子供がいじめるとき、ロボを人間らしく感じた子の方がいじめをしたという実験が以前バズってましたね。 twitterにしゅうまいクンというAI?の垢があり、彼にもたまに悪口をいう人がいて。 ロボをいじめる心理は、人間がロボに愛着を感じるのと表裏一体なのか?

2019-04-16 16:32:43
かず~ @tankeru

@comori_uta あるゲームで、機械が人間に反抗心を持つには痛みとか恐怖を避けることや、逆に幸福を追求することが行動基準の中に組み込まれることみたいな話がありました。 人間がわざわざそのように作らなければ、人間由来の誤作動(プログラムのミス)はあっても、機械由来の反乱はないような気がしますね。

2019-04-16 08:59:59
F414-GE-400 @F414_GE_400

@tankeru まさにそれがロボット工学三原則と呼ばれるものですね。 いたずらにロボットを恐れる人達に対して、人間に近いほど高度なロボットなら、人間を傷つけたり反抗しないような安全装置が当然あるだろう、と反論したものです。

2019-04-17 13:42:09
F414-GE-400 @F414_GE_400

@tankeru ちなみにロボットもタダではないので、自身が破損するのをなるべく防ぐように行動せよ、というのも三原則に含まれています。自己保存本能ですね。ただし人間の不利益にならない範囲で、です。

2019-04-17 13:42:25
小鳥遊 ねこ助 @nekosuke_bottom

@comori_uta 生き物の形をしてないルンバでさえ名前をつけられ可愛がられてますね。

2019-04-16 15:12:08
たいまつ @akd00

@comori_uta 同感です。 実際、AIBOを家族同然に見なして「治してもらう」と語る方は少なくないようですね。人型ロボットが一般的になってしまえば間違いなくその錯誤……認識は強まることでしょう。法律よりも先に団体が立ち上がるのは間違いないですし、論争の中心になる想像がつきます。

2019-04-16 14:25:55
Deathyone@SUNRISE @Deathyone

@comori_uta インターステラーみたいに、人と機械が洒落を言い合いながら、手を取り合って生きていく未来を信じてる

2019-04-16 12:18:36
段ボールが本拠地 @Himade4tama

@comori_uta @sakino_haka アメリカで自動兵器が採用されてますが アメリカ兵は泣きながら修理を依頼してくるらしいですね

2019-04-16 08:21:15
桜ちゃん🌸さえいればいい @SakurachaDays

@comori_uta @3pF 多分私のもそれに近い考え方だと思うのですが、機械の反乱は心を持った機械たちによってではなく、それを望む人間によって起こるような気がしています。

2019-04-16 19:59:49
シグマエリート @F35lightningtwo

@comori_uta 米軍じゃあキャタピラ付きの地雷処理車でさえ射撃下の中命懸けで救出に向かった例もありますし、現実世界でももう起きてるのかもしれないですね。 そして開発者の間でも”親しみづらい、死んでも共感し辛い”性格のAIやフォル厶の開発が必要とも togetter.com/li/473382

2019-04-16 18:45:32
まとめ ロボット兵士についての話題 ログのメモ 17253 pv 124 7 users 2
ニポンボール@サメの人🦈 @niponball2663

Twitter上で論争になって「お前ホントはAIだろ?」って疑い出すまでは予想できた twitter.com/comori_uta/sta…

2019-04-17 15:59:41
ごんぞう(Ver1.1)-中長期難平投資 @onigirisukiyan

@comori_uta 命乞いするロボットの電源を切れるかという実験を思い出しました gigazine.net/news/20180803-…

2019-04-16 21:23:56
ゆたかちひろ @yutakachihiro

ルンバですら、我が家では家族に「ルンバちゃん」て呼ばれてるから…。わかりみがすごい。 twitter.com/comori_uta/sta…

2019-04-16 20:45:32
ナイトハルト @h2JYC1zzpkR4ObO

@comori_uta 人と人との関係性は相手にも自分と同じような意識や主観がある、という証明しようのない仮定によって成り立つある種の仮想であり、限りなく人間らしく振る舞うモノと本物の人間を分ける事は難しいのかもしれません… 本質的に我々は"相手が人間に見える" から人間として接しているに過ぎないので。

2019-04-16 18:31:44
みつにゃん @Mao_5656

@comori_uta ありふれた扇風機で首ふり機能を使っているとき、意図的に手で掴んで「ガッ、ガッ」とさせたときに「扇風機をかわいそうと思うかどうか」って感じですかね。

2019-04-16 17:55:17
けーいちろー⚣ @wingk31

なるほどなーと思った 確かに、人間vsロボットになる前に「人間(ロボット容認派)」vs「人間(ロボット否定派)」で先に争い始めるよなぁ(´=ω=`) twitter.com/comori_uta/sta…

2019-04-17 10:24:46
みさきち @misaki

機械(人工物・正確に言えば法的な人の定義とはなにかの話)に人権を認めろ、と機械であっても人のように見える・感じれるものを粗雑に扱うのは問題である、は全く違う話なので混ぜるな危険。 twitter.com/comori_uta/sta…

2019-04-17 13:52:18
残りを読む(29)

コメント

よの @matomeyouno 2019年4月17日
ロボットでもAIでもぬいぐるみでも、生物を想起させるものが殴りつけられてるとなんであんなに動揺するんだろうね…。生きてないことは理解してるつもりなんだけど。
29
ゆゆ @yuyu_news 2019年4月17日
人間が機械に感情移入して人権どうのと言い出す一方、機械は合理的に考えて人間は滅びるべしと結論付けた、とかありえそうだけど。
9
鍛冶屋 @00kajiya00 2019年4月17日
映画A.I.のロボットを壊すショーのシーンは見てられなくて目を背けた、あんなの無理だわ
9
ヒジャチョンダラ @citabow 2019年4月17日
AIにも人権を、なら「ソードアート・オンライン」で読んだ、そしてこれからのアニメが楽しみ。
3
nekosencho @Neko_Sencho 2019年4月17日
たとえばこう、自動車のAIだったら、交通安全が一番の願いになるはずで、食う寝る遊ぶが大好きな人間とは当然欲求も違うはずですよね、もし自動車AIが権利を要求したとして、きちんと定期点検してくれとか、タイヤやオイルはケチらないでくれとか、過積載するなとか、人権とは全然違う要求になると思うよ
18
ビッター @domtrop0083 2019年4月17日
「ロボットは生きてない」っていう知識より前に、「仲間に危害が加えられてる!!」っていう本能が反応するのは、まぁ当たり前と言えば当たり前なのかなぁ?
11
cinefuk 🌀 @cinefuk 2019年4月17日
#ハンソロ に登場したドロイド「L3-37」の主張「ドロイドにも人権(ロボ権)を!」 https://www.youtube.com/watch?v=mZMLopagYF4 いわゆる"フェミ"をカリカチュアライズしたキャラクターだったけど、ドロイド(SF映画に出てくるロボット全般)に思い入れがあるので、つい共感してしまった
9
mikumiku_aloha @mikumiku_aloha 2019年4月17日
車に対しても「愛車」と読んだりするので人間の物への感情移入力はけっこう強いと思います。 「BEATLESS」のアナログハックは非人間が主体となってその感情を喚起するという意味でAIならではなのでしょうけど
16
mikunitmr @mikunitmr 2019年4月17日
昔2ちゃんにAIBOを虐待して破壊するコピペがあったんだが、確かにかわいそうだった。
4
TTE @TTE001 2019年4月17日
筒井康隆の「お紺昇天」という作品が参考になるでしょう
2
キャンプ中毒のドライさん(Drydog(乾)) @drydog_jp 2019年4月17日
ヤマト2199はロボットに感情を依託させる作風なのに2202は否定する作風だった事を思い出す
1
mlnkanljnm0 @kis_uzu 2019年4月17日
ロボやAIに対して徹底的に冷たい(完全にモノ扱いしかしない)SFを書くのがグレッグ・イーガン。宥和的なのがピーター・ワッツ。まあイーガン作品だと人間=意識のあるソフトウェアだからだが。
5
hamp@横浜山中 @32hamp 2019年4月17日
AIの反乱も、心ない機械への感情移入も、心を持った機械の苦悩も、全部手塚先生がアトムで描いちゃったな……
7
(あ)@お気持ちヤクザ @MutsuniNaruBeam 2019年4月17日
未来の意識高い系の間で「ロボにも人権を」と叫ぶのが流行り、結果新しいポリコレ棒となるまで未来予知した
11
希望🐶❤️ @nozomi_crs 2019年4月17日
実在女性そっちのけで創作女性キャラの人権を訴える人なら既に沢山いるじゃない
41
not rogue @not_rogue 2019年4月17日
TTE001 星新一の「コビト」もおすすめ
0
苺花見に欲をかけたらラッキー7 @adgjmpt_1011110 2019年4月17日
以前NHKで無機物が恋人って人のドキュメンタリー番組があったな。
1
hamp@横浜山中 @32hamp 2019年4月17日
そういや、「to Heart」のマルチを忘れてた。
7
未知神明(みちがみ・あきら) @ontheroadx 2019年4月17日
地球なんてぬるぬるしてて酸素が多くて居心地悪いから、シンギュラリティを越えた機械は地球の外へ行っちゃうんじゃないかな。地球人のことなんか放っておいて。滅ぼしても意味ないからね。
16
佐渡災炎 @sadscient 2019年4月17日
実は既に「ロボットにストレスを与えるテスト」に対して「ロボットを虐待するな」という抗議が出たことがある。https://togetter.com/li/783892
16
FFR31 @FFR31 2019年4月17日
「AIにも体や感覚器官をつけないと、自我や感情を持つことは無いかもしれない」という科学番組があった
2
オルクリスト @kamitsukimaru 2019年4月17日
「”親しみづらい、死んでも共感し辛い”性格のAIやフォル厶の開発が必要」 もうあるじゃん。ペッパーが。
3
毘藍 山風蠱(元16TONS) @moonintears16t 2019年4月17日
人間の意志も感情も記憶も突き詰めれば電気信号なんや……知性体がどの段階で心があると言えるかなんて定義でけへんのや……ただ肉か半導体かの違いだけなんや……
2
いそむら忘久@とまや工務店 @i8o 2019年4月17日
32hamp マルチシナリオがSF的に面白い所は、お払い箱になって記憶を消されるマルチに同情したり悲しんだりはするけど「ロボットに人権は無い」という原則には誰も踏み込まない、絶妙なバランス感覚の世界観だと思います
5
@cabe_cave 2019年4月17日
わりと王道な展開じゃない? ロボットにも人権を! って流は
1
毘藍 山風蠱(元16TONS) @moonintears16t 2019年4月18日
人間そっくりの知性を持つAIは、工場のロボットアームやガラケーなんかをミミズやイソギンチャクを見るような目で見るのではないだろうか(ろくろを回す手)
3
毘藍 山風蠱(元16TONS) @moonintears16t 2019年4月18日
ontheroadx オートボット文明とディセプティコン文明の始まりです
1
らない @lanai_spr2 2019年4月18日
おかしな人権保護団体?が現れるのは当然すぎることなんだけど、それがSF世界で描かれないのは、たぶん反乱する類のロボットって愛玩用デフォルメロボよりもっと人間よりの不気味の谷に真っ逆さまなやつだし、反乱起こされてなお人権与えようと躍起になってるお花畑がいたら真っ先に死んでるからだと思う。
7
みゆう @MinamidaYminami 2019年4月18日
漫画・アニメ・映画・小説等で、獣人・ロボット・モンスター・妖怪が人間社会から差別・迫害されている描写https://www.pixiv.net/novel/show.php?id=3672297見るのは胸くそ悪いですからね ( =Φ人Φ=)づ彡
2
みゆう @MinamidaYminami 2019年4月18日
MinamidaYminami 人間と同じように遊んだり働いたり泣いたり笑ったりする存在。たまたま肉体の容姿・成分・産まれ方が違うだけだ ( =Φ人Φ=)づ🤖🐈
2
あおん@百合好き @a_o_n_ 2019年4月18日
漫画版攻殻機動隊の暴走アンドロイドの話でロボットの人権保護団体みたいなのがいたな
4
ブラキストン線の向こう側 @cupsoup2 2019年4月18日
AIBOの葬式も既に行われていますしね
4
せりかざんまい @selica_akeno 2019年4月18日
ここまで、ちょびっツの植田店長(人型パソコンと結婚・死別した)が出てこない不思議。
5
未知神明(みちがみ・あきら) @ontheroadx 2019年4月18日
縁石の下のダンゴムシみたいなのが、まあ未来の機械にとっての未来の地球人やね。
1
Holten @Holt800 2019年4月18日
攻殻だっけ?「感情があるように見える」と「実際に感情がある」のは同じ事だ、とか書いてたな。人間の「感情」だって結局は蓄積された経験から来る反射みたいなもんだしな
8
Holten @Holt800 2019年4月18日
攻撃性をぶちまける対象としては、腕だけの産業用ロボットよりも人型ロボットの方が妥当な気もする。掃除機や洗濯機を壊してすっきりする奴はあんまり居ないと思うし
2
雑音らじお@ノイズ @radionoise9982 2019年4月18日
心とは鏡で、そこに在ると思う自身に心が宿っている。というのを超AI的な存在にやらせたい。
1
フルバ @furubakou1 2019年4月18日
i8o D.C.の美春はマルチのオマージュだったんかな…(ToHeart未プレイ)
2
mikumiku_aloha @mikumiku_aloha 2019年4月18日
人間の感情が解明できていたらノーベル賞もので、現在まだまだ研究中のはず。 化学反応の連鎖の結果で魂とか何か特別なものがあるわけでは無いというのはそうなんだろうけど。
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
鉄腕アトムの頃からロボットの人権(のようなもの)は定番で、人造人間に関しても「準B級市民」とか昔から傑作がある。
1
緑川⋈だむ @Dam_midorikawa 2019年4月18日
ただし人間は人間に対してはいくらでも残酷になる
3
緑川⋈だむ @Dam_midorikawa 2019年4月18日
mikumiku_aloha ヒトを含む動物の周囲環境認識能力として、「ひとかたまりになって自立的に移動する物体」は何らかの形で「ほかの動物」と認識してるんじゃないかなあ。ロボットに限らず乗り物の類もすべて含む
3
mikumiku_aloha @mikumiku_aloha 2019年4月18日
SFで人間の残虐さを描いたSF作家だと平井和正さんとか。短編のレオノーラは当然として、「サイボーグブルース」はサイボーグにすることでより暴力性がより強く表現され、ウルフガイシリーズでも肉体的には野獣に近い主人公より人間の方が野蛮に描かれている。「死霊狩り」の結末とかも
2
orange @orange_in_space 2019年4月18日
SFで機械が「考えている」とはどういう事か? そして、そういう機械とどう付き合えばいいのか?とかを問題提起してる作品というと「戦闘妖精 雪風」3部作(特に3作目?)が><
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
Dam_midorikawa 人間が認識しているモノから勝手に人格のようなものを感じるというところと、子犬が鳴き声を発する事で関心を得ようとすることの境界線は相手に主体(自立的な思考)があるかどうかだと思います。自立行動が自立的な思考があるように見える鍵の1つなのかもしれませんね
4
orange @orange_in_space 2019年4月18日
「自立的な思考を持っているか?」の次の段として、さらに「それは自己を認識しているか?(自己を認識しているような振る舞いをしていると捉えられるか?)」もあってそのくらいまで来ると、自立以下略でもそう考えていなかった人でも、何らかの尊重(?)をしないとマズイって多くの人が考えるような気がしてる・・・><
2
mikumiku_aloha @mikumiku_aloha 2019年4月18日
鉄腕アトムの段階ですでにお茶の水博士はロボットには人と同等の権利があるという感じだし、それを認めない人達もいたような
3
mikumiku_aloha @mikumiku_aloha 2019年4月18日
「SFみたいに非情になれない」ってどんなSFなんだろう?
2
イベリコ豚のリコ @jt0MTsl4UUeY13r 2019年4月18日
そのうち人間よりもAIの権利を優先する団体出てくるよ(FO4のレールロード参考)
1
はるを待ちかねた人でなし @hallow_haruwo 2019年4月18日
こういう話題なら小林めぐみ『ねこのめ』全3巻ははずせないよね。こういう諸々を経た先での世界ということで…と言いつつ内容結構忘れちゃってるんだが。久しぶりに読みなおそうか。電子書籍化もされてるでよ。
1
cinefuk 🌀 @cinefuk 2019年4月18日
むしろロボット・人工知能を扱うSF作品こそ「ロボットと人間の違いはなんだろう?ロボットに心はあるのか?意識とは、何処から生まれるのか?人間は有機ロボットではないのか?」というテーマなんだけど、SFを知らない人こそ「SFは非情だ」という偏見が罷り通っている。
3
Yeme @yer_meme 2019年4月18日
使い古された表現っスけど、やっぱり「人間」は人と人の関係性で定義されると思うんスよ。実体や中身がどうなってるかより、外からどう見えるかが重要なんだと思うっス。
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
[c6193988] 「戦闘妖精雪風」は本当に雪風の判断なのかパイロットの思い込みなのかという境界線が曖昧なところの解釈が読者にゆだねられていて、突き放してもいないと思います。
5
cinefuk 🌀 @cinefuk 2019年4月18日
mikumiku_aloha [c6193975] ロバート・L・フォワード『 #ロシュワールド』では、随伴ドロイドを支給されたクルーに「ロボットは備品だから、感情移入すんなよ!」とさんざん注意されたのに、うっかりロボットを救おうとピンチになるシーンがあった筈(これも『人間はロボットを見捨てられない』というテーマだな)
2
緑川⋈だむ @Dam_midorikawa 2019年4月18日
mikumiku_aloha だから機械知性のことを「妖精」だと表現したんだろうな。人のようで人でなく知性のようで知性かどうかよくわからないシロモノ
6
緑川⋈だむ @Dam_midorikawa 2019年4月18日
orange_in_space 「自己の存在を認識して自律的に行動する機械」がもうすぐ自動運転車として大量に町中にあふれようとしてる時代だから、この問題実はかなり切迫してると思うよ
1
Daregada @daichi14657 2019年4月18日
ナユタ「命か…命じゃないかを分けるのは…”実在”か”情報(データ)”かじゃなあぁいっ!! (自分の意思で)変われるか…変われないかだーーっ!!」(マップスネクストシート)あたりが落としどころかな
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
現実問題としては、人命かAI車かという選択だと人命なのは明らか(人身事故で人の怪我より車の傷を気にするような人もいるけどw)。現時点のAI車は取り返しのつかない固有の記憶を持たないので壊しても元に戻せる。
1
ざ_な_く&890P@VOCALOID&VTuber @z_n_c_890_P 2019年4月18日
selica_akeno ちょびっツはね…人型パソコン(この世界でのロボットの呼称)に旦那を寝取られた女性とかも出てくるからね…
1
cinefuk 🌀 @cinefuk 2019年4月18日
パーソナル・データを端末に持たないため、ボディさえ用意できればクラウドDBからすぐ復活できるのは、一種の「生まれ変わり」だ。 mikumiku_aloha 『取り返しのつかない固有の記憶を持たない』
1
Hiroshi Yamashita @HiroshiYamashi4 2019年4月18日
わざと不器用なロボットを作ってみたら人間の方から手伝うようになったってのは日本の事例だったかな。
4
K.Kawazoe @_____zoe_____ 2019年4月18日
まあそれこそ反セクサロイド思想の一部なんてまさにこういう話で言ってきてるもんなぁ。
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
「現実を直視しろ。おれ達にはもう仮想現実しかないんだ。」の名セリフで有名なVRが出てくる漫画「ルサンチマン」だと実体が無いVRでもか
1
_ @non_additive 2019年4月18日
最近だと、映画『チャッピー』もあるなぁ
1
orange @orange_in_space 2019年4月18日
Dam_midorikawa もう一段進んだ意味で、例えば「我思う故に我在り」的な考え方をしているような振る舞いをするとか、(その機械の本来の目的上の状況にアレンジした)鏡像自己認知テストを高度にクリアできるとかまではもう一段階あるかもって><(自動運転や自動操縦では実用的な意味ではそこまでする必要は無いので、(とても悲しい事に)たぶんそこまで高度な振る舞いをしているように見えるようにはならない気が><)
1
orange @orange_in_space 2019年4月18日
orange_in_space △にはならない気が ○それほど近い将来にはならない気が (飛行機好きすぎる立場からの個人的願望としては、飛行機さんが我思う以下略と考えられる『擬人化的では無い自我』(と人間が認識するもの)を持つようになって欲しい><;)
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
orange_in_space どちらかと言うとクラウドでつながったAIは人間より神に近づく方向に思えます。 MMDの傑作「公安39課」https://www.nicovideo.jp/watch/sm20967545
4
いとけい @itokei_ 2019年4月18日
真っ先にアトム(とビメイダー)を思い出したクチですが、アトム世界でロボットに人権をと初めに言い出したのが人間かロボットか、そういえば知らない……
2
marumushi @marumushi2 2019年4月18日
「イノセンス」のトグサと検死官ハラウェイの会話が印象の深い
2
trycatch777 @trycatch777 2019年4月18日
機械に「魂が宿っていて欲しい」と思う人達がいれば、彼らはそのように振る舞うでしょうし、それを外部から見た時に「取り巻く人々がそのように振る舞っているだけ」か、「実は本当に魂が宿っている」のか区別できない人が出てくるという事は考えられそうですね。
2
さどはらめぐる @M__Sadohara 2019年4月18日
「楽園追放」のようにAIにも人権を、というよりは「ターミネーター2」のように用が済んだら溶鉱炉サムズアップのほうが個人的にはしっくりくるかなと。ぶっちゃけ、「AIなんぞに同情する暇があるんなら、人にやさしくなれよ」としか思えない
0
瑞樹 @mizuki_windlow 2019年4月18日
どんなに高度なAIであろうとも所詮はプログラムだからねぇ~パラメーターを少し弄ればいくらでも改編出来る代物じゃん?昨日の夜「貴方だけを愛してます」と言ってても、ユーザ登録を変更すれば同じセリフを別の人間に吐くし、逆にどんなに乱雑に扱おうが「オーナーに逆らうな」ってプログラムに書いてれば絶対に逆らわず「愛してます」と囁き続ける。そんな物に権利とか、ちゃんちゃらおかしいわw
0
orange @orange_in_space 2019年4月18日
mikumiku_aloha その通りかもで、個人的には、その作品で言うと主人公のが考える「個」ベースの自我を持って欲しくて(願望><;)、主人公が危惧してるようなクラウド方と言うか神方式(?)のような個と集団があいまいな形の自我は、その個別の機械に自我があると人間が捉えるのも結果的に難しくなってしまうような気がしてます><
1
orange @orange_in_space 2019年4月18日
trycatch777 mizuki_windlow 魂が宿っているいないとか、意識とはどういう事か?とかはまだ人類的に未解決の(主に哲学分野の)問題だよ?><(その大前提を最低限認識してないと何の話してるのかわかんないと思うよ?><;)
2
両棲装〇戦闘車太郎 @d2N5Q4GciZtsa2e 2019年4月18日
つーかヒトのオスにすら人権を認識しないフェミキチすら存在する中でAIに人権運動とかヘソで茶が沸く
2
シッズ〇@ゲーム専用垢 @shizzumaru 2019年4月18日
攻殻機動隊だとAIが暴走して人殺しする事件で、 AI守れってデモが起こってたな。 原作が今手元に無いからうろ覚えだけど、 「死んだ人間よりも機械の心配か」 的なことを素子さんが言ってた。
1
シッズ〇@ゲーム専用垢 @shizzumaru 2019年4月18日
現代でも生産性ばかり重視するあまり、 機械の安全装置を外して作業する人間が多い事を考えると、 AIの安全装置も似た理由で外されてAIによる反抗とか簡単に起きそう
4
瑞樹 @mizuki_windlow 2019年4月18日
orange_in_space ここで語ってことが「人類が作り出したAI」である以上、その中身は全て解明され、プログラマーによっていくらでも改変出来るプログラムでしかないと思うけど……?所詮はプログラム言語の固まりだよ?仮にデータの蓄積によって挙動を変えることがあったとしても、その変化の割合はあくまでもプログラマーが意図した範囲に収まる、収まらないとしたら、それはバグだ。
1
Yeme @yer_meme 2019年4月18日
mizuki_windlow 近い将来「AIを作り出すAI」が作られる(シンギュラリティ)と言われてるっスから、思考実験として中身が判らないAIって言うのも十分成り立つと思うっスよ。
4
a7R2Lj @a7R2Ljtm 2019年4月18日
AIロボットに付喪神が宿ったらどうなるんだろ。
1
瑞樹 @mizuki_windlow 2019年4月18日
yer_meme 仮にAIがAIを生み出したとしてもソースコードがある以上、完全なブラックボックスにはなり得ないと思うけどなぁ~というか、AIを生み出すAIに最初に「ソースにコメントは入れろ!変数名は見たらわかるようにしろ!!」と命じておけばきっと頭の回転はいいがコミュ力がアレなプログラマーが書いたソースよりも絶対に読みやすいと思うよwwwまあ、どうしても思想実験として「絶対ブラックボックスなAI」を持ち出してきて雑談に興じたいって言うなら話は別だけど……
0
瑞樹 @mizuki_windlow 2019年4月18日
人類や動物に魂があるかどうかは知らんが、「AIに魂が宿る」って言うのは「付喪神が存在している」って言うのと同レベルのお話だと思うなぁ~フィクションとして付喪神が宿り、女体化するってのは面白いし、大好きだけど、権利だのなんだの言い出したら笑っちゃうね。
0
orange @orange_in_space 2019年4月18日
そのソフトウェアの挙動全てプログラマが解明できるかだけど、個々の計算機上の挙動を解明できる場合であっても全ての解明は基本的に無理があるかも>< 例えば最近人気のディープラーニング()に絵を描かせるやつでも、個別の絵をどうしてそう描いたのか?を命令単位やメモリの状態の変化としては解明できてもどう認識して描いたのか?のような面は全て追う事はおそらく現実的ではない(=ほぼ不可能)かも?><
2
orange @orange_in_space 2019年4月18日
orange_in_space これって脳に置き換えると人類の現在の脳医学脳科学上では脳細胞個別の動きを観察したりすることまでは出来ていてもそれがどう意識に繋がるのか?までは(そもそも意識とはなにか?が未解決なのである意味当たり前だけど)わかっていない>< という問題にある意味近いかも?><
4
両棲装〇戦闘車太郎 @d2N5Q4GciZtsa2e 2019年4月18日
権利を主張する為に魂の存在証明を要求するとか、ちょっとジョークきつい
0
orange @orange_in_space 2019年4月18日
mizuki_windlow その考え方からでいうと、そもそも現時点の人類は、("人類や動物に")"魂があるか"どうかのしっかりした定義を作れて居ないので、そもそも魂の有無は(哲学その他学問上の視点から見れば)人権のようなものを認めるか否かの定義としては欠けてる部分があるということかも>< なので「魂があるっぽいものを魂があるっぽいとしてる」だけの状態でしかない><(みたいな感じの話が最低限土台として必要な話かも><;)
2
エリ・エリ・レマ・サンバディトゥナイ @mtoaki 2019年4月18日
AIでなくても、自分で書いたプログラムが何でそういう動作するのか理解できない事は稀によくある。
8
いとけい @itokei_ 2019年4月18日
ラプラスの悪魔のサブセットだ
1
メニスカス @HatsudukiLens 2019年4月18日
そもそも天賦人権だの人の尊厳だのが便利な錯覚なんじゃないのかと思うことがある
1
中田吉法 @ynakata 2019年4月18日
社会を形成できてるような人間の群れは、総じて人間未満の存在に感情を動かされ(多くの場合は)保護するようにふるまうはずなんですよ。そうでないと新生児〜子供を(社会として)育てることができないから。それが獣であってもそうふるまうのだから、機械であってもまたそうするはず。
4
mikumiku_aloha @mikumiku_aloha 2019年4月18日
mizuki_windlow 今のAIでは、AIがどのように答えを出すかはAIの学習結果によるのでプログラマーが予想できず、どうやって品質保証するかと問題になっています。AIが出す答えの正しさを論理的に説明できない。
7
mikumiku_aloha @mikumiku_aloha 2019年4月18日
機械学習利用の問題として「何がなぜ起きるのかは説明できないことが多い」 http://research.nii.ac.jp/~f-ishikawa/work/1807-ESTIC18-AI+Testing.pdf
3
mikumiku_aloha @mikumiku_aloha 2019年4月18日
HatsudukiLens 自然界に存在する現象ではなく、社会を巧く動かすために発明された概念だと思います。
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
itokei_ 社会はバタフライ効果がある複雑系だからコンピューター(演算する機械)でラプラスの悪魔は実現できないという理屈だったはずなのにビッグデーターの収集と解析、学習で「だいたい当たる」ラプラスの悪魔は作れそうかも?と
1
オルクリスト @kamitsukimaru 2019年4月18日
つまり、森羅万象に神=魂が存在するといういわゆる八百万の神的宗教観を持つ日本人は未来を先取りしていた・・・?やはり日本人はイッちゃってるよ
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
古代ギリシャでもそうですけどアニミズムじたいはメジャーな宗教観。
1
つくねタレ(MAD味) @tsukune324tare 2019年4月18日
ドールズフロントラインにそういう団体がいた気がする
1
F414-GE-400 @F414_GE_400 2019年4月18日
[c6193988] 全く同じ感想です。実際に機械の恐ろしさを知っている人間の書き方だなと感じます。かといって嫌悪しているわけでもなく、とてもニュートラルな視点ですね。
1
F414-GE-400 @F414_GE_400 2019年4月18日
shizzumaru アシモフの『迷子のロボット』がそれ。危険な作業現場でロボットがいちいち人間を守ろうと作業を中断するので、面倒で安全装置を外してしまった。案の定、人間の命令を聞くのに嫌気がさしたロボットが1台失踪する。
2
Yeme @yer_meme 2019年4月18日
mizuki_windlow ソースコードが理解できるとは限らないっス。例えばWindows10のソースコードは、最早人間が全部理解するのは不可能な量になってるらしいっスよ。且つAIの肝はパラメータの方なんで、ソースコード読み解けてもどう動くかは判んないんスよね。
3
Yeme @yer_meme 2019年4月18日
魂なんか観測も出来ないんで、あるがままで判断するしかないと思うんスよね。「それが人のように動き、人のように話すなら、それは人である」って感じっス。
1
両棲装〇戦闘車太郎 @d2N5Q4GciZtsa2e 2019年4月18日
yer_meme 自然人は自然人の女性から出生しなきゃ自然人として法的立場を得られない模様
0
mikumiku_aloha @mikumiku_aloha 2019年4月18日
BEATLESSの超高度AIは神のように人間生活を支えているという設定だったので、超高度AIを殺す影響が(社会的影響を現象だけで考えれば)人間一人殺すより遥かに大きいという感じで。 なもんでAIが人間相当なのか神相当なのかで随分ととらえ方も違ってくると思います。
1
緑川⋈だむ @Dam_midorikawa 2019年4月18日
d2N5Q4GciZtsa2e つまり人工子宮で「生産」された人間は人権を認めなくて良くなるわけか。人体実験し放題だな
1
mlnkanljnm0 @kis_uzu 2019年4月18日
BEATLESSは長い上に「嫁が勝手にFXやってた」ショックで先の話が頭に入らなくなるからな。
1
レル @Laurel_152 2019年4月18日
人類と同等以上の知性を作れるくらいの世界なら、最大の比較対象である脳機能への理解だって今よりは格段に進んでるだろうし、より正確に人の心の動きを説明できたり、維持管理できたりする定義なり社会的概念なりだって考案されてるんじゃないかな
1
両棲装〇戦闘車太郎 @d2N5Q4GciZtsa2e 2019年4月18日
Dam_midorikawa その前に出生法改正しないとガチでそーゆー話ではある
1
mikumiku_aloha @mikumiku_aloha 2019年4月18日
現在の技術の延長だと、質では人間の脳にはまだ及ばない(と思われる)AIが世界中の圧倒的な量のビッグデーターを高速に処理できるという量と速度では人間をはるかに超えるという状態がまずありそう
1
くらっく @crazyslime 2019年4月21日
愛着なんてのは脳内物質のオキシトシンが誰を対象に分泌されるかでしかないからな 愛情ホルモンについて調べてみりゃ、いじめと愛情が表裏一体であることは自明よ
1
Demski@ナイセン団! @Demski_Autio 2019年6月17日
アイボにも感情移入するし,多分ロボット(AI)に人権的なものが与えられる日はそう遠くないと思う
1
professor @profess10865211 2020年2月22日
性的目的のアンドロイドが進歩したら、ソレとの結婚を求める男性が現れる。これはもう確定だろうね。
0
垢消すかも @keishi_KCKH 2020年3月24日
その通りになってしまいましたね…
0