「SFみたいに非情になれない」機械が反乱するより、人間が機械にも人権をと主張するのではないか

小森雨太 @comori_uta

個人的には「機械が心を持って人間に反乱する」より先に、「まるで生きているかのように振る舞う機械に感情移入し、機械にも人権を認めるべきであると主張する生身の人間の団体が出現する」とおもってるんですよね。ニンゲンは多分SFみたいに非情になれないとおもっている。

小森雨太 @comori_uta

とはいえSFの鉄板ネタ（乱雑に扱われる機械が心を持って～）って言うのは大好きだからたくさん供給されていてほしい　　でも多分リアルだとヒトは機械を好きになりすぎるのだ　　そうおもっています。

小森雨太 @comori_uta

これ多分「本当は存在しない【機械の心】を尊重するのではなく、機械を見て揺れ動いてしまう【人間の心】を尊重する」事になるんだろうなと思う。 機械そのものを尊重するのではなく、人の心のために機械を尊重するかたちになる社会。割とあり得ると思います。

旋律@ハーメルン @karipister

@comori_uta それ実話にあるって授業で聞いたことあります…… 転倒からの復帰性能を紹介するために二足歩行ロボットを何度も転ばせる動画を企業が公開したところ、人権団体から苦情が来たそうです。そのロボットは足だけしかないのにそう捉えたということは、人間の仲間判定は案外緩いかなって思います

小森雨太 @comori_uta

@karipister 既に限りなく近しい事がはじまっていましたか…。機械に人間が自分に不利益が出るほどまで感情移入しすぎてしまうことは度々今までも問題になっているようなので、人型じゃなくても起きるかもしれませんね…。こころとはかくむずかしい

旋律@ハーメルン @karipister

@comori_uta 実はその動画を見た自分もちょっと動揺してしまったんです。より人間に近いデザインのロボットよりも親近感を抱きました。人の手で押し倒されるたびにすごく人間っぽい足の動かし方で立ち上がるので……どこがこころのトリガーになるのか本当に分からないです……

雅(喪中) @alucaje

@comori_uta ヒッチハイク・ロボット、米大陸横断中に破壊 続行不可能に afpbb.com/articles/-/305… はじめまして、自分はこの事件を思い出しました。ロボットに対して親しみを持つ人が居る一方で、軽率な悪意をぶつける人もいるのだな、と…。

wafwaf @walkingwaff

@alucaje @comori_uta ロボを子供がいじめるとき、ロボを人間らしく感じた子の方がいじめをしたという実験が以前バズってましたね。 twitterにしゅうまいクンというAI？の垢があり、彼にもたまに悪口をいう人がいて。 ロボをいじめる心理は、人間がロボに愛着を感じるのと表裏一体なのか？

とかげかず～ @tankeru

@comori_uta あるゲームで、機械が人間に反抗心を持つには痛みとか恐怖を避けることや、逆に幸福を追求することが行動基準の中に組み込まれることみたいな話がありました。 人間がわざわざそのように作らなければ、人間由来の誤作動（プログラムのミス）はあっても、機械由来の反乱はないような気がしますね。

F414-GE-400 @F414_GE_400

@tankeru まさにそれがロボット工学三原則と呼ばれるものですね。 いたずらにロボットを恐れる人達に対して、人間に近いほど高度なロボットなら、人間を傷つけたり反抗しないような安全装置が当然あるだろう、と反論したものです。

F414-GE-400 @F414_GE_400

@tankeru ちなみにロボットもタダではないので、自身が破損するのをなるべく防ぐように行動せよ、というのも三原則に含まれています。自己保存本能ですね。ただし人間の不利益にならない範囲で、です。

小鳥遊 ねこ助 @nekosuke_bottom

@comori_uta 生き物の形をしてないルンバでさえ名前をつけられ可愛がられてますね。

たいまつ @akd00

@comori_uta 同感です。 実際、ＡＩＢＯを家族同然に見なして「治してもらう」と語る方は少なくないようですね。人型ロボットが一般的になってしまえば間違いなくその錯誤……認識は強まることでしょう。法律よりも先に団体が立ち上がるのは間違いないですし、論争の中心になる想像がつきます。

Deathyone@SUNRISE @Deathyone

@comori_uta インターステラーみたいに、人と機械が洒落を言い合いながら、手を取り合って生きていく未来を信じてる

段ボールの何らか @Himade4tama

@comori_uta @sakino_haka アメリカで自動兵器が採用されてますが アメリカ兵は泣きながら修理を依頼してくるらしいですね

桜ちゃん🌸さえいればいい @SakurachaDays

@comori_uta @3pF 多分私のもそれに近い考え方だと思うのですが、機械の反乱は心を持った機械たちによってではなく、それを望む人間によって起こるような気がしています。

シグマエリート @F35lightningtwo

@comori_uta 米軍じゃあキャタピラ付きの地雷処理車でさえ射撃下の中命懸けで救出に向かった例もありますし、現実世界でももう起きてるのかもしれないですね。 そして開発者の間でも”親しみづらい、死んでも共感し辛い”性格のAIやフォル厶の開発が必要とも togetter.com/li/473382

ニポンボール@サメの人🦈 @niponball2663

Twitter上で論争になって「お前ホントはAIだろ？」って疑い出すまでは予想できた twitter.com/comori_uta/sta…

ごんぞう(Ver1.1)-中長期難平投資 @onigirisukiyan

@comori_uta 命乞いするロボットの電源を切れるかという実験を思い出しました gigazine.net/news/20180803-…

ゆたかちひろ@漫画家＆Illustrator @yutakachihiro

ルンバですら、我が家では家族に「ルンバちゃん」て呼ばれてるから…。わかりみがすごい。 twitter.com/comori_uta/sta…

ナイトハルト @h2JYC1zzpkR4ObO

@comori_uta 人と人との関係性は相手にも自分と同じような意識や主観がある、という証明しようのない仮定によって成り立つある種の仮想であり、限りなく人間らしく振る舞うモノと本物の人間を分ける事は難しいのかもしれません… 本質的に我々は"相手が人間に見える" から人間として接しているに過ぎないので。

みつにゃん @Mao_5656

@comori_uta ありふれた扇風機で首ふり機能を使っているとき、意図的に手で掴んで「ガッ、ガッ」とさせたときに「扇風機をかわいそうと思うかどうか」って感じですかね。

けーいちろー⚣ @wingk31

なるほどなーと思った 確かに、人間vsロボットになる前に「人間(ロボット容認派)」vs「人間(ロボット否定派)」で先に争い始めるよなぁ(´=ω=`) twitter.com/comori_uta/sta…

みさきち @misaki

機械（人工物・正確に言えば法的な人の定義とはなにかの話）に人権を認めろ、と機械であっても人のように見える・感じれるものを粗雑に扱うのは問題である、は全く違う話なので混ぜるな危険。 twitter.com/comori_uta/sta…