2016年2月9日

現代版「(AI)哲人政治」は可能か?

松本徹三氏が提案するAIによる「哲人政治」が、民主主義に代わりうるか、考えてみました。
15
リンク アゴラ 現代版「哲人政治」は可能か? : アゴラ ▲「哲人政治」を唱えたプラトン(wikipediaより、ラファエロの肖像)「民主主義」が抱える根本的な問題点古代ギリシャには現在の民主主義の原型の一つとも言える「直接投票制」があったが、小さい社会で具体的な事柄を対象に行われたので、「衆愚政治」の弊害がすぐに露
佐々木俊尚 @sasakitoshinao

民主主義の限界は明らかだけど別の選択肢が見えない中で、AIの未来に政治を託すというのは興味深い思考実験。ただAIが課題設定できるのか、またトレードオフをどう選択するかは人間の手に残らざるを得ないんじゃ。/現代版「哲人政治」は可能か? bit.ly/1SE7mXB

2016-02-09 08:13:12
ららら らー @LaLaLanLanLan

首相も政府も天皇も、軍部でさえも止められなかった戦争を、コンピュータなら止められるという、おかしな推論ですね。コンピュータに人格以上の神格が備わらないと無理です。QT @sasakitoshinao/現代版「哲人政治」は可能か? bit.ly/1SE7mXB

2016-02-09 09:51:15
松本徹三 @matsumotot68

.@LaLaLanLanLan そうではありません。政府要人の中には戦争に突き進む事を止めたかった人は多数いましたが、マスコミと大衆の声には逆らいにくく、過激派による暗殺やクーデターに対する恐怖もありました。こういう時にAIのお墨付きがあれば、反対の流れが作り易かったと思います。

2016-02-09 11:07:59
ららら らー @LaLaLanLanLan

ですから、どうやってAIに天皇以上の権威を与えるのですか?過激派による天皇や首相暗殺の怖れはあっても、AI乗っ取りや破壊はあり得ないのですか?マスコミや大衆は、政府は批判してもAIしなですか@matsumotot68 twitter.com/matsumotot68/s…

2016-02-09 11:13:28
Koichi.K @l_max1801

@LaLaLanLanLan @matsumotot68 人工知能をどう制御するかは人間の力量にかかっています。人工知能は有能な官僚になりえますが、その官僚に政治を丸投げさせないのは政治家という人間の力量なのです。

2016-02-09 11:30:08
ららら らー @LaLaLanLanLan

その視点は大事ですね。どんなAIだろうと、人間が思考フレームを造り、匙加減も大きく影響します。AIに神格を与えると、AIを操作する人間が絶大な権力を持つでしょう。QT @l_max1801 人工知能をどう制御するかは人間の力量にかかっています。 @matsumotot68

2016-02-09 11:38:47
ららら らー @LaLaLanLanLan

自己レスでなんですが、AIに天皇以上の権威を与える方法はあります。DNAを含む個人情報を全てインプットして、AIが各個人の意志や行動を高い精度で予測してみせて、畏怖・崇拝させることです。地獄ですね。QT どうやってAIに天皇以上の権威を与えるのですか @matsumotot68

2016-02-09 11:28:58
松本徹三 @matsumotot68

@LaLaLanLanLan 畏怖、崇拝させる必要はありません。「多分それが理性的な判断というものなのだろうな」と、尊重させるだけで十分。

2016-02-09 11:40:51
ららら らー @LaLaLanLanLan

その程度の推測で、マスコミや大衆が「はい、そうですか」とAIを尊重するのですか?ならば、研究所とか大学とかでも十分、役割を果たしますね。QT @matsumotot68 畏怖、崇拝させる必要はありません。「多分それが理性的な判断というものなのだろうな」と、尊重させるだけで十分。

2016-02-09 11:46:05
ららら らー @LaLaLanLanLan

理性的な判断を尊重するのは、理性的な人間だけです。大衆が理性的でないからAIに任せようという主旨なのに、結局、大衆が理性的であることが前提条件なら、全く無意味なリクツですね。QT @matsumotot68「多分それが理性的な判断というものなのだろうな」と、尊重させるだけで十分。

2016-02-09 11:52:05
松本徹三 @matsumotot68

.@LaLaLanLanLan でも少しは理性的な人たちの力にはなるでしょう。

2016-02-09 11:54:00
ららら らー @LaLaLanLanLan

それでは「民主主義をやめてAI哲人政治をやろう!」という主旨は、どっかに行っちゃってますね。理性的な人たちは理性的な人たちで、AIに対する人間の関与を限りなく疑うでしょう。対抗AIさえ造りうるし。QT @matsumotot68 でも少しは理性的な人たちの力にはなるでしょう。

2016-02-09 11:59:18
ららら らー @LaLaLanLanLan

さらには外国政府が「わがAIの方が貴国のAIより優秀だと、優秀なわがAIが判断したから、わがAIに貴国の判断を任せなさい」なんてこと言われたら、真偽の確かめようもなく、AI依存心が強ければ強いほど抵抗できないですね。QT 対抗AIさえ造りうるし@matsumotot68

2016-02-09 12:09:40
ららら らー @LaLaLanLanLan

超越性なきAIは簡単にそのように相対化されてしまうAI哲人政治を実現するためには、AIが何よりも超える「超越性」こそが必要であり、AIの能力の問題でも理性の問題でもなく、国家が持つ神話性の問題なのです。 twitter.com/LaLaLanLanLan/… @matsumotot68

2016-02-09 12:17:35
ららら らー @LaLaLanLanLan

AIによると、A案を採用すると北海道で100人死にますB案を採用すると九州で100人死にます。そしてAIはA案がベターだと判断しました。ここで松本さんが言うように「多分それが理性的な判断というものなのだろうな」程度でAIの判断を尊重して従いますか? @matsumotot68

2016-02-09 12:38:42
ららら らー @LaLaLanLanLan

どんな政策でも、利益を得る人もいれば損をする人がいる。だから必然的に理性だけで判断するわけにいかなくなる。それでもなんとか、あらゆることを決定して政策が実現できるのは、国家や民主主義というものに超越性の神話が備わってるからです。AIにはそれがないのです。@matsumotot68

2016-02-09 12:45:19
ららら らー @LaLaLanLanLan

正しい推論ができるAIがあれば正しい政治ができる、という「AI哲人政治」は、正しい理論に基づけば正しい政治ができる、という共産主義の焼き直しに過ぎなです。大失敗するでしょう。/現代版「哲人政治」は可能か?agora-web.jp/archives/16692… @matsumotot68

2016-02-09 12:50:11
ららら らー @LaLaLanLanLan

私がこんなにこだわるのは、民主主義がいくら酷いものであっても、それに代わるものとして提案されるものは、全て民主主義より酷い結果を生むからだ。民主主義は独裁政治を生む可能性があるからと言って、民主主義が独裁政治より悪いわけではない。 twitter.com/LaLaLanLanLan/…

2016-02-09 13:08:10
ららら らー @LaLaLanLanLan

…民主主義は、確かに山のように弊害があっても、他の全ての政治形態より、ちょっとはマシなのだ。それに、既に長い歴史を持ち、多くの経験を経て、不具合を修正するアップデートを繰り返し、多くの識者の人智やノウハウも蓄積されている。それらを、個人の思い付き一発で超えられるものではない

2016-02-09 13:12:38
ららら らー @LaLaLanLanLan

…政治というのは、「100点満点」でなく、「0点満点」と考えた方が良いよ。 民主主義は「-80点」で、みんな大変不満を持ってるけど、民主主義以外が全て「-100点」以下。だから、「みんなで頑張って、-80点の民主主義を守りましょう!」というモチベーションが大変湧きにくい話だけど。

2016-02-09 13:27:47
松本徹三 @matsumotot68

AIは勿論人間の道具以上の何物でもありませんが、透明性、データ量の多さ、公正の概念の明確化、推論の正確さ、等々の点で、生身の政治家よりは信頼感を持たのではないでしょうか? 汚職の対象にするのも、暗殺するのも困難です。

2016-02-09 11:44:12
ららら らー @LaLaLanLanLan

マルクス主義理論についても、ほぼ同じことが言えます理論も「生身の政治家」ではないから信頼感を持たれ、そして実際に理論を運用するのは「生身の政治家」です。AI運用者は、不正を仕掛けることも可能ですし、汚職や暗殺の対象になります。 twitter.com/matsumotot68/s…

2016-02-09 15:06:22
ららら らー @LaLaLanLanLan

…このように、対象がAIになった途端に、現実の政治に関する困難が全て消えてしまい、究極の楽観論に陥ってしまうのは、AIというものを全知全能のブラックボックスだと見做してしまい、その機能や社会的立ち位置、人間による運用などに関する思考を完全に停止させてしまうからではないだろうか。

2016-02-09 15:11:20
Tango_jp @Tango_jp

この「ブラックボックス」 感こそが、これまで日本国民が抱いていた政治運営のイメージそのものではないのでしょうか。AIという仮定がそれを浮き彫りにしたのかもしれません。 twitter.com/lalalanlanlan/…

2016-02-09 16:38:06
残りを読む(9)

コメント

muu@LG V30+ ThinQ @Meo011 2016年2月9日
素晴らしく賢いAIが出現して、 「そもそも政治なんて必要ない」 という結論を出してくれたら良いですねえ。
0
指揮者(元)岩松右京 @tu_fui_ego_eris 2016年2月9日
「AI政府は、「お上」の概念に馴染む」……ある意味「至言」すなぁ(´・д・`)「
3
ららら らー @LaLaLanLanLan 2016年2月9日
「AIは無政府主義がベストと判断しました」「AIは共産主義がベストと判断しました」そんな重大決定に人々が簡単に従うわけないでしょうね。 松本さんは「AIは、あくまで判断材料」などと日和ってますが、それなら大学やシンクタンクの意見を参考にするのと、なんら変わりない。
1
杉田仙太郎 @saintarrow 2016年2月9日
プラトンの「哲人政治」を目指すような事。プラトンの哲人政治はファシズムに過ぎない バートランド・ラッセル も カール・ポパーもそれを指摘している 自由主義を否定するような事をよくも真顔で主張できるなぁ
0
八代泰太 @3914kcorkcolc 2016年2月9日
パラノイアまんまじゃねーか。
2
TAKAMAGAHARA @SILVER_CAP 2016年2月9日
「火の鳥 未来編」を思い出した俺
0
トレ @tolerance_18 2016年2月9日
AIを作って管理するのが人間である限り、AIに政治を一任するのは管理する人間の独裁と変わらない
0
九十九 @hakqq 2016年2月10日
星新一のおカバさまを思い出すなど
0
絶望党員 @zetuboutouin 2016年2月10日
人間より優れた知性を人間が”必ず”支配できるというのはあまりにも楽観主義的な考えだと思う。AIに政治を任せられるようになったら、政治をAIに任せる/任せないの議論をする前に、どうすれば人間がAIに支配されないかをぎろんすべきだと思うよ。
1
ららら らー @LaLaLanLanLan 2016年2月10日
SFの見過ぎでしょう。AIに超越性を持たせないと、人間はAIに支配されないと思いますよ。優れたAIより怖いのは、AIに超越性を持たせて利用する人間の方でしょうね。神性を持った天皇よりも、天皇を祀り上げて利用する摂政・関白の方が権力を持つのと似た構造になると思います。
4
どうぐや🍈 @1098marimo 2016年2月10日
「技術的特異点の後ならあるかも」くらいの話だろうな。投票や世論調査の機械化や効率化みたいなところは進めて欲しいけど、判断を任せられるかって言ったらねぇ。個人的にはお上の判断に任さてしまいたいという気持ちはあるけども。
0
Dcdcxr @Dcdcxr 2016年2月10日
何が望ましくて、何が望ましくないかを決定するのは「感情」それを持たないならAIには決定が下せないので、無理。
0
ららら らー @LaLaLanLanLan 2016年2月10日
「感情」に加え、「欲望」とか「執着」とか「価値観」とか「幻想」とか、他にもいろいろあるでしょうね。感情も欲望もその他諸々の人間的要素も、AIが計算できるとは思うけど、それらを政策決定に反映させると、AIに「理性」的な判断を求められてることと矛盾してきます。どう考えても、人間が介在せざるを得ないですね。
0
nekosencho @Neko_Sencho 2016年2月10日
たとえば将棋や囲碁なら勝利条件が決まっていて、王様取られても飛車が無事ならいいんだとか言い出す人はそもそも除外されるのだけれど、政治の場合、勝利条件というか、目指すべき政治がなんなのかという段階でたぶん日本においてですら統一見解は得られないのではないか
0
nekosencho @Neko_Sencho 2016年2月10日
極端な話だけど、「地球を汚染しない」が勝利条件なら人類滅亡も選択肢に入っちゃうみたいに、勝利条件の選び方によっては、悪の国家とよく言われる軍事独裁国家やカルト宗教国家、貧富の差の極端な国家なども正解になりえるんだよね。
0
ららら らー @LaLaLanLanLan 2016年2月10日
現実には「王様取られても歩が全部無事ならいい」という考え方があるから、「降伏」という選択肢がありますね。王を取るか、飛車を取るか、歩を取るか。結局、政治とは常に「誰かの利害」を優先することになり、そんな決定をAIに任せられるハズがありません。もしそれができるとしたら、AIが神となり、全ての人間の上に立って、誰が生きて誰が死ぬかを決める力を持たないと無理なんです。
1
nekosencho @Neko_Sencho 2016年2月10日
ま、その「勝利条件」が「憲法」なのだという考え方がないわけでもないけれど、もし実行するならどうとでもとれるような現行憲法(日本に限らず)じゃなく、コンピュータむけに書き直す必要は出てくるよね。その段階で大いにもめると思うし、決まってから「あれ、おかしいぞ」となる面もたくさんあると思う
0
nekosencho @Neko_Sencho 2016年2月10日
というわけで、もし仮に実行するとしても、人間による選挙で一定期間ごとに別AIに乗り換える機会を与える、各政党がAIをいろいろ作ってうちのAIならこうですよみたいに宣伝し立候補させる、つまり今の「民主主義政治」の「政治家」の部分をAIに置き換えるくらいがせいぜいなんじゃないかなあ……
1
ららら らー @LaLaLanLanLan 2016年2月10日
憲法って、最低限のことを書くので精一杯だし、不可測な緊急事態に即応できないですからね。そもそも、人間が事前にあらゆる可能性を想定して、もめずに条件設定ができるくらいなら、AIは不要ですね。
0
ららら らー @LaLaLanLanLan 2016年2月10日
結局、人間ができない意思決定を、AIにさせようとすると、そのできないはずの意思決定を事前にしないといけない。これは完全に矛盾している。しかも「事前に」設定するのだから、即応的な状況判断に基づく臨機応変な意思決定には劣る。結局、AIの意思決定は人間の意思決定に劣ることになる。
0
ららら らー @LaLaLanLanLan 2016年2月10日
こういうAIの意思決定が有効な場合とは、疫病か何かの影響で、人間の知能がどんどん劣化していくことが予想される世界。後世が、まともな判断ができなくなるから、「AIに意思決定の条件を全部仕込んでおけ!」と人類が考えた場合ぐらい。
0
ららら らー @LaLaLanLanLan 2016年2月10日
でも、人間の知能がどんどん劣化していく世界とは、どういう世界かを予測するのも難しいわなぁ。
0
nekosencho @Neko_Sencho 2016年2月10日
遠くない時代に、人間の知能をAIが大きく上回る時代は来るだろうから、AIの政治への導入は避けられないと思うんですよ。ぶっちゃけ緊急事態への対応とか、コンピュータなら大臣集めてなんとかかんとかしなくてもあっという間に策を決めるだけなら出来ちゃうだろうしね。
0
ららら らー @LaLaLanLanLan 2016年2月10日
それは、コンピュータにそんな権限を与えうるかどうかという話に戻りますね。選択肢のサジェスチョン程度なら分かりますが。
0
nekosencho @Neko_Sencho 2016年2月10日
とりあえずは株式投資みたいな感じに導入されていくんじゃないですかね。ミリ秒単位で売買を重ねていくのはもう人間には無理、コンピュータが細かな判断をし、人間が大まかな方針とかを決めていく(おいら専門ではなくテレビ番組見ただけなので、いろいろと違ってたらスマン)
0
minkkanjinno @minkkanjinno1 2016年2月10日
真に優れたAIなら表立って政治したりせず、影からこっそり世界を操って目的を達成するんじゃないですかね。株式市場や為替相場くらいなら余裕でしょうし。そして主人公の少年の元にある日美少女ロボがやってきて(略
0
取鳥族ジャーヘッド/76レジデント兼セントラルのアークス @torijar 2016年2月10日
情を一定量でも再現できるAIが出来たら政治諮問より先にガイノイドで実装されてるんじゃなかろうか
1
まるちゃん@大湊警備府 @malchan1224 2016年2月10日
AIによる賢人政治が見たい人はそれこそPSYCHO-PASS第1期全13話を見れば良い。物語はシステムの暗部を追う話だが、システムそのものは理想的に働いている。
0
ららら らー @LaLaLanLanLan 2016年2月10日
人間の買い注文が入ると即買い注文をしてミリ単位で先に約定し、人間の注文が約定する頃には上がった値段で売るとか、[ユーロ⇒ドル]+[ドル⇒円]の為替レートと、[ユーロ⇒円]の為替レートに差があったら、ミリ秒単位で察知して売買して儲けるとか、確かに人間にはできないけど、やはり人間が事前に条件設定してあげてないと無理なんだと思いますよ。
0
ららら らー @LaLaLanLanLan 2016年2月10日
複雑なことをやらせると、確率1000000000000000000000000分の1の事態に遭遇して破綻したLTCMのようなことにもなりますし。 http://diamond.jp/articles/-/33453
0
ららら らー @LaLaLanLanLan 2016年2月10日
>真に優れたAIなら表立って政治したりせず、影からこっそり世界を操って目的を達成するんじゃないですかね。⇒「AIが目的を持つ」ということがあり得るならばですね。人間こそが、影からこっそりAIを操って目的を達成するんですよ。
0
イチロー @sbzkichi 2016年2月10日
現時点でというとまとめ主の言うとおりだが、 ビックデータからの推測と結果から学習を利用してAIがAIをつくる時代になって、過去の出来事にたいする的中率などのデータが出揃いだせば一気に変わるだろうね。
0
あっきぃ。@いろいろつぶやくやつ @akkiy_ya 2016年2月10日
シミュレートっつうよりあらゆる可能性を持論で潰して回ってるような話だなぁ・・・。
2
あっきぃ。@いろいろつぶやくやつ @akkiy_ya 2016年2月10日
AI様主導の政治となると、国家単位では対象とする人数が多過ぎて合理性と包括性と発生する各事態に対する即応性に欠ける。せいぜい都市レベルで、法律や条例や業務の体裁書式に口出しする存在として用いるのが妥当かも。一番割を食うのは、法的解釈とか法規上の妥当性を問われて答える学者。より客観視のできる存在が現れれば、都合よく解釈しようとする人間は非合理的と扱われ根拠を失うので、勝手なことを言えなくなる。
0
ららら らー @LaLaLanLanLan 2016年2月10日
「ビックデータからの推測と結果から学習を利用してAIがAIをつくる」としても、データの入出力に人間が関与せざるをえないこと、AIが目的や欲望を持たないこと、AIの超越性や社会的立ち位置などとは別次元の話でしょうね。
0
ららら らー @LaLaLanLanLan 2016年2月10日
あと、どんなにビッグデータを積んでも、AIを設計する時に、テールリスクも人間の思考フレームに基づいて想定し、確率も織り込んでおかないといけないけど、確率には常に誤差があるというだけでなく、元々人間の思考フレームに入ってなかったブラックスワンは、AIといえども、対処のしようがない。有史以来、一度も起きたことがない事態は、ほぼ想定のしようがないし、まして確率の計算のしようがない。
0
イチロー @sbzkichi 2016年2月10日
政治に利用するデータの入出力が人力って時代じゃないし(統計データは各国のDBや統計元から取れる、その他に税収などお金の動きのデータとか)有る特定の問題について最適解をもたらせるデータがなんなのかをAI自ら探し出せる時代がくるだろう。政治をやらせるからには目的は国の発展と最大多数の幸福だろう。
0
イチロー @sbzkichi 2016年2月10日
AIは国の発展という政治的正解を出すことができるとしても、「AIが出す結論で不利益を被る人をごまかす手段」というのがAIの一番苦手なところで哲人政治とおなじく批判が一点に集中することのほうがAI政治の問題点だろう。アイツのせいだったと切り捨てられる政治家のほうが便利。
0
ららら らー @LaLaLanLanLan 2016年2月10日
「政治に利用するデータの入出力が人力って時代じゃない」と言われても、アベノミクスで散々言及されるCPI(消費者物価指数)って、どうやって作られるかご存知ですか?データの分析や利用をAIができてますか?「各国のDBや統計元から取れる」と言っても、中国政府が発表する経済指数が信用できますか?そもそも、自国や各国の政府が発表する統計データだけで、政策を決めるのに必要な変数が全部そろいますか?
0
ららら らー @LaLaLanLanLan 2016年2月10日
「目的は国の発展と最大多数の幸福だろう」と言われても、その中身を簡単には定義できないし、その条件を決めることも難しいし、そもそも、そう思わない人もいて、意見が分かれてしまうから、多数決で決めようというのが民主主義。そこで「いや民主主義じゃダメだからAIに任せよう!」という方がおられたので、ここの話に至ったのです。目的が簡単に確定できて、みんなで意見が一致するなら、最初から、こういう話になりません。
0
どうぐや🍈 @1098marimo 2016年2月10日
地球シミュレータで人間の行動の逐一までシミュレートできるのは何時なのだろうな。。
0
イチロー @sbzkichi 2016年2月10日
イマの時代は人口入力でCPIのデータ作成手順と同じことはできませんが、全国のPOSデータや各銀行の履歴、紙幣番号の追跡などを使えば近いものが取れ、むしろ政府統計なんかよりもっと正確に取れる可能性があります。ビックデータ活用とはそういうことです。(それを取れるようにするための法的問題などはさておき) データの分析や利用がAIでできるようになることを想定してます。技術の進化をもすこし高いレベルまで想定したほうがいいんじゃないかと。
0
イチロー @sbzkichi 2016年2月10日
また、取れないデータなどについても AIがAIを作る段階で推測から正解に一番近いものを出すものは何であったかという結果からのフィードバックの積み重ねによるものになるのでより正解らしいものとなるでしょう。すくなくとも人が判断するよりかは。
0
ららら らー @LaLaLanLanLan 2016年2月10日
入力を自動化するにしても、いつどこでどういうデータをどれだけどういう頻度で取ってどう取捨選択してどういう重みづけをしてどう利用するかを決めるのは人間ですよ。
0
イチロー @sbzkichi 2016年2月10日
じゃあ定義部分だけ多数決できめりゃーいいんじゃねーの? その目的の実行部分で民主主義による失敗が多いって話なんだし。
0
ららら らー @LaLaLanLanLan 2016年2月10日
「推測から正解に一番近いものを出すものは何であったかという結果からのフィードバックの積み重ね」は人間だってできるのであり、人間ができないと、そういうフィードバックの仕組みをAIに組み込めません。AIの解答の方が「正解らしいものとなるでしょう。すくなくとも人が判断するよりかは」というのは、何も根拠がなく、これがまとめ中に書いた「全知全能のブラックボックス」ということです。
0
ららら らー @LaLaLanLanLan 2016年2月10日
定義部分は、具体的にすればするほど賛成票は減り、後々解釈がぶれないほど明確にしたら、賛成多数で可決されないでしょうね。じゃあって、今度は、誰でも賛成できるように曖昧で抽象的にしたら、AIに対する指示書としては、ほとんど使い物にならないでしょう。
0
ららら らー @LaLaLanLanLan 2016年2月10日
「批判が一点に集中することのほうがAI政治の問題点」というのは、その通りで、例えば、日露戦争終結とポーツマス条約締結を決めたのがAI政府だったとしたら、日比谷焼き討ち事件や国民の反発を受けて内閣が総辞職するレベルではおさまらず、AI政府自体が倒されたでしょうね。
0
イチロー @sbzkichi 2016年2月10日
「そういうフィードバックの仕組みをAIに組み込めません。」 フィードバックを積み重ねるのは人間でもできるけど その積み重ねをもって次に活かすことができる過去のデータ量は人間とAIじゃ量に大きな違いがでて、 結果にも影響でる。多くのフィードバックを参照できるAIのほうが優位なのはあきらかだし、そのフィードバックをAIがAIを作る過程でおこなわれるのも可能。 将来的な話をしているのにAIに対する認識を低く見積もりすぎでは?
0
ららら らー @LaLaLanLanLan 2016年2月10日
データ量の話と仕組みの話をゴッチャにしてませんか?そりゃ、データ量の大小だけ取れば、AIが圧倒的に有利でしょう。でも、ゴミデータを山のように積んでも、ゴミデータなんですよ。しかも、今まで宝のデータだったものが、一瞬後にはゴミデータになることもある。ゴミかゴミでないかの分別も含め、フィードバックの仕組みの原型は人間が介在せざるをえないでしょう。遠い将来のことは、わかりませんが、わからないからといって、「全知全能のブラックボックス」にするわけにもいかないと思いますよ。
0
ららら らー @LaLaLanLanLan 2016年2月10日
将来のことは分からないからといって、AIを「全知全能のブラックボックス」にしてしまうと、AIに対してちょっとでも否定的なことを言うと、全て「低く見積もりすぎ」と言えてしまいます。全く中身がない話になってしまいます。
0
イチロー @sbzkichi 2016年2月10日
データがゴミがゴミでないかの分別もすべて結果からAIがフィードバックすればいいので人間の介在は不要ですよ。大量なゴミなデータでも思考の一部に組み込めるんで必要なときにはつかえるわけで。 では逆に 人間の思考自体が「欠陥だらけのブラックボックス」なのにAIの「全知全能のブラックボックス(高速処理)」より優れている点とはなんだ?※共にある程度の検証(ソース点検、選挙)がおこなわれているものとする。
0
ららら らー @LaLaLanLanLan 2016年2月10日
「データがゴミがゴミでないかの分別もすべて結果からAIがフィードバックすればいいので人間の介在は不要ですよ」⇒とにかく、どんなものであれ「フィードバック」さえできれば良い。というなら、データ活用の結果がゴミかゴミでないかの判断も、AIでやっちゃって、AIだけでフィードバックを完結させることはできるでしょうね。そこにどんな意味がありますか?AIは、人間のためにあるのではないですか?結果の判断さえ人間がやらないならば、そんなオート・フィードバックAIこそ、ゴミでしょう。
1
ららら らー @LaLaLanLanLan 2016年2月10日
ここでの話は、AIと人間のどちらが優れてるかの話ではなく、AI哲人政治が可能かどうか、あるいはやるべきかどうか、という話なんですよ。人間のためにならない自己完結したAIなら、どんなに人間より優秀でも不要です。未来のAIバンザイ!という話は、意味ないですね。AIの演算なり、政策決定なりの結果の判断・評価は、人間がやらざるを得ないがゆえに、AIには人間が関与せざるをえないのです。
0
Hoehoe @baisetusai 2016年2月10日
過去には可能だったんですか(小声
0
ららら らー @LaLaLanLanLan 2016年2月10日
独裁者はみんな、自分では「哲人政治」だと思ってたのかも。 オートフィードバック完全自己完結AIも、それと同じですね。
0
ららら らー @LaLaLanLanLan 2016年2月11日
「全知全能のブラックボックス」って、そう見做しちゃう人に対して皮肉で言ってるのに、文字通りのモノとして取られちゃうと、もうどうしようもない感はあるわな。
0
酔宵堂 @Swishwood 2016年2月12日
1098marimo そうしてすべてを演算しエミュレートするのに必要なリソースがその存在そのもののエネルギー量を超える、と云う形で破綻することを算出してしまったAIの話もありましたな……「神帝ブゥアー」と云う。
0
kkitmur @kkitmur 2016年2月12日
人がAIを信認するのは容易なことではないので、人が監修することを前提とするのが現実的かと思います。 特にAIが得意そうな数字関係の政策の叩き台を作るAI院とAI議員(どのような思想に重きを置いているか選挙で決定する)を今からでも研究すべきだと私は思ってるんですよね
0
ららら らー @LaLaLanLanLan 2016年2月12日
「AI議員」とまで行かなくても、各党がそれぞれの政治理念や政治思想に基づいて、アルゴリズムやパラメーターを設定したAIを造ってみる、というか造ろうとしてみると面白いかも。その過程で、如何に自分たちが非理性的で没論理であるかを思い知らされ、結局、どの政党からもAIは出来上がってこない予感。「空想から科学へ」を謳い文句にしてたあの政党でさえ。
0
イチロー @sbzkichi 2016年2月12日
どんなにAIがすぐれていようが、不完全な人間を信用しようとするから(AIがよくわからないという不安感によってテクノロジーに疎い人はとくに。)完全移行は不可能というのがこのまとめから出てきた答えだな。 自己保身や老いがもたらす政治的影響とAIの比較とかのほうが興味はあるな。AIが自己保身するかとか。
0
ららら らー @LaLaLanLanLan 2016年2月12日
まだ「全知全能のブラックボックス」って、どういう意味で言われてるのか、お分かりにならない方がいるようで(AIがよくわからないことで期待感が膨らみ過ぎたテクノロジーに疎い人はとくに。)
1
イチロー @sbzkichi 2016年2月12日
わかった上でですよ。人間はAI以上にブラックボックスだから民主主義による政治もブラックボックスだということ、AIは人間の上位互換となりうるくらいの情報認識力をもつことが可能ということに対しての認識の差だとおもいますが。(期待感ではなくテクノロジーロードマップのどれだけ先を見ているかの差ですが。)
0
ららら らー @LaLaLanLanLan 2016年2月12日
このまとめの核心的な部分をご理解頂けてないようで残念です。
0
ららら らー @LaLaLanLanLan 2016年2月12日
まとめの一番最初に戻るか、 LaLaLanLanLan に戻るかされて、それでも、そのようなご意見ならば、やはり「ご理解頂けないようで残念です」と言うほかないですね。
0
gryphon(まとめ用RT多) @gryphonjapan 2016年3月14日
筒井康隆「ホンキイ・トンク」、ハインライン「月は無慈悲な夜の女王」、あと星新一にもこの話あったな…
0
nakatsu_s/ワクチン2回接種済 @nakatsu_s 2016年3月14日
アシモフの「ファウンデーション・シリーズ」での、「心理歴史学」や「R・ダニール」「第ゼロ原則」を認めるかどうかみたいな話になってきているな。ロボット=人工知能が人類社会からコンセントを抜かれないぐらい自律しないと無理だと思う。
0
そう名前なんてどうでもいい @ibm_111 2019年10月9日
では、議員はAIに限るとしたらどうだろう。これなら、民主制もAIのいいところも残せる(?)
0
あいざわゆう@電撃落選・GA応募中 @takasi_semi 2019年12月4日
なんか無産階級のポタクがちっぽけなこの空間で無意味で非生産的なマウンティングと優越感ゲームでそれこそAIみたいな全能感でティンティン晒しているようなコメント欄だなこれ
2
Kdoa333 @kdoa333 2020年8月30日
アシモフなら「マルチヴァク」「マシン」というのもありました.
0
Kdoa333 @kdoa333 2020年8月30日
テロ対策なら,それこそクラウド上に存在ということにすればいいのでは
0