茂木健一郎氏 @kenichiromogi 第1510回【相互確証破壊と人工知能の地獄の結婚】連続ツイート
- riverland_c
- 2537
- 0
- 0
- 4
今朝のNHKのニュースを見ていたら、冒頭で、核兵器不拡散条約(NPT)の最終文書が採択されない見通し、と報じていた。全会一致を原則とするため、合意が見られないと見送られることになるらしい。そのニュースを見て、人間の愚かさと、その起源について考えた。
2015-05-23 07:05:27アメリカ、イギリス、フランス、中国、ロシアの元々の核兵器保有国に加えて、インド、パキスタン、北朝鮮が核兵器の保有を表明。そして、表明はしていないものの、イスラエルも保有していると思われる。これらの保有国と、非保有国の利益が対立するのは見やすい理屈で、そこに偽善の種がある。
2015-05-23 07:07:32核保有国は、自分たちの特権をてばなしたくない。一方、核兵器が人道的な視点から許されない兵器であることは論を待たず、特に非核保有国は廃止を主張する。核保有国が核兵器の保有という特権を手放すことは、人間の性質上おそらくない、という偽善の前提から、さまざまなことを考えねばならぬ。
2015-05-23 07:09:02もともと、核保有国は人類全体の利益など考えているのではなく、単に、自国の利益、ささいなプライド、惰性、手放す勇気の欠如という、あまりにも人間的な欠陥ゆえに核兵器を保有し続けているのだ、という偽善の構図を、せめて自覚するくらいのメタ認知が欲しいものだと思う。
2015-05-23 07:10:28ところで、核保有国が偽善のうちに核を保有し続けることはあまりにも人間的な弱さゆえ、ということで目をつぶるとしても、相互確証破壊(Mutually Assured Destruction)の将来については重大な関心をもたざるをえない。人工知能技術が適用されることは禁止すべきだ。
2015-05-23 07:11:54戦後の平和は、一方が核兵器を使用したら他方も使用して、お互いに滅びる、だから使わないという相互確証破壊(MAD)の戦略によって皮肉にも保たれてきた、との主張がある。潜水艦や爆撃機を常に飛ばして、いつでも、核ミサイルを仮想敵国に撃つ体制を整えていることが平和の礎だとの主張である。
2015-05-23 07:13:38相互確証破壊(MAD)の現状は、こうだ。オバマ大統領が眠っていると、武官が起こしに来る。「大統領、ロシアが核ミサイルを我が国に向かって撃った兆候があります。ただちに報復の発射を。」オバマ大統領は眠い目をこすりながら身体を起こし、「本当か?」とたずねる。
2015-05-23 07:14:58それから、確かにロシアが核ミサイルを撃った、という事実を確認したオバマ大統領が、報復する結論を出す。この間、数分間。今の相互確証破壊(MAD)の手続きはこんなものだが、ここに、人工知能による分析、意思決定の技術を入れる、という進展があったとき、きわめて危険な事態になる。
2015-05-23 07:16:20人間が分析、判断しているのでは間に合わない、だから、相互確証破壊(MAD)のプロセスは、人工知能に任せよう、というような軍事技術の「進化」が起こったとき、人類の生存は真に危機を迎える。
2015-05-23 07:18:27プログラムによる高頻度取引(High Frequency Trading)が金融市場にもたらした不安定性と同型の不安定性が核兵器による相互確証破壊(MAD)の戦略にもたらされるとき、Elon Musk @elonmusk の言う人工知能による「悪魔の召喚」が現実になるだろう。
2015-05-23 07:19:23核保有国は、自国がすでに核兵器を持っているという特権を手放さない。それは、あまりにも人間的な偽善ゆえである。相互確証破壊(MAD)が平和を保つという皮肉のシナリオは、人工知能の軍事への応用を通して崩壊する可能性がある。相互確証破壊と人工知能の地獄の結婚は、今すぐ禁止すべきだ。
2015-05-23 07:21:06