茂木健一郎（@kenichiromogi）さんの連続ツイート第1462回「セキュリティにおける、鍵のジレンマ」

茂木健一郎 @kenichiromogi

連続ツイート第１４６２回をお届けします。文章は、その場で即興で書いています。本日は、このところのニュースで感じたこと。

茂木健一郎 @kenichiromogi

ルフトハンザの子会社のジャーマンウィングスの墜落事故には、考えさせられた。もともと、ハイジャックの防止などのためにとられた操縦席への立ち入りを防止する措置が、逆手にとられたものと思われる。セキュリティとはなにかということについて、私たちに思考を迫る。

茂木健一郎 @kenichiromogi

セキュリティとは、単純に鍵をかければいい、ということではない。各家庭には、家族だけが入れる、というのは基本的な考え方だろう。しかし、親が子どもを虐待するというようなケースでは、むしろ、家の中で何が起きているのか、（制約の下で）外部が把握できるようにすることが不可欠である。

茂木健一郎 @kenichiromogi

結局、密室をつくれば、その密室で何か不都合なことが起こった時に、介入する余地がなくなる。一方で、外部の者が誰でも入れるようにしておくと、今度は不当な干渉や障害の可能性が出てくる。「鍵」をかけて密室を作るというタイプのセキュリティは、原理的な矛盾を抱えている。

茂木健一郎 @kenichiromogi

この、鍵のジレンマは、人工知能の開発でも早晩問題になるだろう。自立型の人工知能ができて、重要な任務を負っている時、外部からの干渉はできるだけ避けたい。一方で、何か不具合、暴走が起こった時、それを把握して、介入するようにもしたい。その間合いの設計は、よくよく考えないとできない。

茂木健一郎 @kenichiromogi

今回のジャーマンウィングスの墜落事故は、「鍵はかけておけば良い」という単純なセキュリティ思考の限界を示した。どのようなときに、どんなかたちで外部からの介入を許容するか、そのようなシステムの設計は、コックピットから家庭内暴力、人工知能まで、普遍的な問題である。

茂木健一郎 @kenichiromogi

ところで、今回の事故について、副操縦士が精神上の問題を抱えていたことが報道され、それに対して、安易に精神の問題と今回の行動を結びつけるべきではないという批判が出ている。メディアは、洋の東西を問わず、単純な図式に落としたがる。それに対する健全な批判も、広義の「鍵問題」であろう。

茂木健一郎 @kenichiromogi

以上、連続ツイート１４６２回「セキュリティにおける、鍵のジレンマ」をテーマに、６つのツイートをお届けしました。