「AIに聞いてみた」番組の自称AI、日本の統計データをパターン認識で視覚化し、その相関性を見た人間が意味を考える「お告げ」に近いものと判明

『しがらみのない奇抜な提言」は”AI”ではなく製作者側の意図』と証言する人が登場したため、冒頭の②と③にまとめています。 そして、もし番組を見る場合のポイントを挙げてみました(まとめ中の見出しの丸数字と見出しは対応させています)。 ①「AI」をこの番組ではどう定義しているのか、を冒頭で説明するかどうか ②パターン認識から相関性を描画したものを「AIが解析した結果、驚きの結論が」と続きを読む『しがらみのない奇抜な提言」は”AI”ではなく製作者側の意図』と証言する人が登場したため、冒頭の②と③にまとめています。 そして、もし番組を見る場合のポイントを挙げてみました(まとめ中の見出しの丸数字と見出しは対応させています)。 ①「AI」をこの番組ではどう定義しているのか、を冒頭で説明するかどうか ②パターン認識から相関性を描画したものを「AIが解析した結果、驚きの結論が」と表現していることを説明するかどうか ③『「40代ひとり暮らしを減らせば日本がよくなる」といった奇想天外な提言』はAIが出したものではなく、人間が読み解いたものであることを説明するかどうか。あえて隠していたのであれば、それを誠実に説明するかどうか ④相関関係と因果関係は似て非なるものと説明するか、また時系列相関を扱っていた場合、扱っていると説明するかどうか、そして交絡因子に触れるか ⑤社会的に問題提起しづらいこと(言いにくいこと)をAIに代弁させることで、バイアスをカモフラージュできることを伝えるかどうか ⑥報道番組内の番宣枠とツイッターアカウントで告知を行い、宣伝文句が事実性の高い内容と受け取られた可能性について認識し説明するかどうか(特に①②③は、ニューストピックレベルで誤解を招かない正確な内容ととられている可能性も) ⑦インプットする内容次第で、アウトプット(今回はパターン認識による統計情報の視覚化)をコントロール出来ることを説明するかどうか また、説明を尽くすかどうかだけでなく、話すタイミングも重要かなと思います。最初はセンセーショナルにしておいて、あとから「実は…」という順番ではミスリードを招くことになりがちと考えるためです。
ニコラス・ケイジ イタコ・デラックス AIに聞いてみた
pt20121 24776view 26コメント
42
ログインして広告を非表示にする
  • 神原一光 | Ikko Kambara @ikko_1980 2017-07-18 20:03:52
    #AIに聞いてみた / マツコ・デラックスとAIが“明るい未来”を考える♢AIに聞いてみた どうすんのよ!? ニッポン マツコ・有働アナの幸せを50兆通りの計算でシミュレーション!7/22(土)後7:30/後9:00 NHK 総合 www6.nhk.or.jp/nhkpr/post/ori…
  • 新たに番組PRサイトにコンテンツが公開され、分析手順が少し明らかに
  • リンク NHK_PR 38 マツコ・デラックスとAIが“明るい未来”を考える♢AIに聞いてみた どうすんのよ!? ニッポン マツコ・有働アナの幸せを50兆通りの計算でシミュレーション! #AIに聞いてみた  7/22(土)後7:30/後9:00 NHK 総合
  • ①開発されたものは本当に「AI」と呼べるのか?その定義は?
  • ニュースウオッチ9 @nhk_nw9 2017-07-17 18:32:51
    NHKが開発した新しいタイプのAI=人工知能。 ”社会の課題解決型のAI”です。 少子高齢化や格差拡大などの課題を抱える日本。 その解決にAIが導いたヒントを見ると、日本の行く末を左右する意外な”カギ”がありました。 #AI #人工知能 #NW9
  • ハンバーグステーキ @HanburgSteak 2017-07-16 11:24:28
    【NHKスペシャル】 NHK総合 7月22日(土) 19:30〜20:45 日本の閉塞した状況を打破する手がかりを求めて、NHKは「課題解決型AI(人工知能) 」を開発した。 パターン認識と呼ばれる手法で700万を超える日本の統計データをAIが解析した結果、驚きの結論が!
  • oscar_morton @oscar_morton 2017-07-18 22:33:05
    @nhk_nw9 #NHK の言う #AI の定義を教えて下さい。ビッグデータから統計的優位を導きだす程度なら、私はアーティフィシュアルインテリジェンスとは呼べないと思いますが、いかがでしょうか?。
  • ②および③パターン認識から相関性を描画したものから、人間が意味や理由を読み解いたものであることを説明するかどうか あえて隠していたのであれば、それを誠実に説明するかどうか
  • 番組PRコンテンツより引用:http://www6.nhk.or.jp/nhkpr/post/original.html?i=10939

    「ただ、AIは「◯◯と✕✕はなんらかの関係がある」としか見せてくれないので、その背後に何があるかについては人間が読み解かなくてはならないんです。AIが見せてくれるものは回答というより「お告げ」に近いですね。」

    しかし、このような但し書きは番組サイト( http://www.nhk.or.jp/special/askai/ )にはまだなく、NHK_PR以下のコンテンツにしかないため、あくまで番宣上の文言を信じ、仮説の内容がAIの出した誤りを含まない結論であると信じてしまう人も

    ↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓

  • 岡口基一 @okaguchik 2017-07-17 21:29:23
    さすがAI 現在の日本の最大の問題はなにか。 AIに調べさせたところ,その答えは,行政との接点が一番少ない「40代の一人暮らし」だそうです @本日のNHK・ニュース9
  • ■ここで、『しがらみのない奇抜な提言」は”AI”ではなく製作者側の意図』と証言する人が登場

    ※この証言が正しい場合は、製作者サイドが炎上マーケティングを初めから意図していることを示唆する内容

  • 安藤道人 @dojin_tw 2017-07-18 22:18:16
    この番組は、たぶん私のところにも二度ほど製作者サイドの人たちが来て、社会保障や因果推論や機械学習について説明した(番組名について連絡もらってないので、たぶん)。「これだと炎上覚悟すべき」とアドバイスしたが予想通り炎上案件になりそう。私は見ないと思うのでTLの感想を楽しみにする。 twitter.com/dojin_tw/statu…
  • 安藤道人 @dojin_tw 2017-07-18 22:29:08
    ちなみに番組説明にある「AIが打ち出したのは、空気を全く読まず、しがらみのない奇抜な提言だった!」は”AI”ではなく製作者側の意図である。なぜなら二度目に研究室に来訪されたときにそれを狙ってると明言してたので。で、その時点での分析とアイデアを幾つか聞き「炎上必須だと思う」と伝えた
  • ④相関関係と因果関係は似て非なるものと説明するか、また時系列相関を扱っていた場合、扱っていると説明するかどうか、そして交絡因子に触れるか
  • そねを @ATH_ray_ 2017-07-17 21:30:51
    NHKでAIがすごい!ってやってるけど、これただ相関を調べてるだけだし、普通の機械学習な気がする んー、でも世界初らしいからなんかあるのかな
  • ゲベリン @d_y_g_geberin 2017-07-17 21:48:31
    NHKのAIの番宣。40代の1人暮らしが、どうのこうのって言ってるけど、ちゃんと因果関係があることを検証したのか?単なる相関関係を因果関係にずらしていないか?過去の情報を基にした分析結果を、安易に未来に拡張してはまずいのではないか?
  • Yuta Kashino @yutakashino 2017-07-18 11:36:57
    AIに聞いてみた どうすんのよ!?ニッポン buff.ly/2tzXEuI 昨日の21時のニュース.疑似相関とか交絡因子とか因果推論の徹底的無理解とか.深層学習は本質的に関係ないし.統計学のリテラシーの皆無というかデータを扱う基本的姿勢が崩壊しているというか…
  • 少女必然性 @internus_open 2017-07-17 21:38:52
    相関するだけならニコラスケイジの年間映画出演本数とプールの年間溺死者数だって相関するんですよ…
  • Yuta Kashino @yutakashino 2017-07-18 14:29:34
    時系列データは本当に注意しないといけないです.ある変数間の時系列相関などは,無数に見つけることができます.たとえば,こちらのサイトで死ぬほど自分で相関する関係を見つけることができますtylervigen.com/discover
  • なお、総合演出を担当する神原一光ディレクターは、2017年6月23日に、相関性によって間違った因果関係を仮説とする「論理的誤謬(ろんりてきごびゅう)」を指摘する記事を、今回の番組タイトルとかけてTwitterでシェア

  • 神原一光 | Ikko Kambara @ikko_1980 2017-06-23 13:54:46
    AIに聞いてみようw / ニコラス・ケイジの映画が増えるとプールで溺死する人も増えるのか? gigazine.net/news/20170403-…

コメント

  • 緑川だむ @Dam_midorikawa 2017-07-19 12:47:33
    ようするに、「40代独身者が将来福祉予算を圧迫する前に全員殺処分したいよなあ」と考えてる財務省あたりの人がAIのフリして世論操作を仕掛けてきてるのね
  • pt2012 @pt20121 2017-07-19 22:54:28
    一点言い尽くしていない箇所としては、番組紹介には「パターン認識」を駆使、としか書いていないのに、番組の公式サイトには『それをAIの得意技である“ディープラーニング”や“機械学習”、そして“パターン認識”を駆使することで、日本社会の知られざる姿を明らかにした。』と、数理的にはパターン認識とかわらない「機械学習」や、よりハイスペックな「ディープラーニング」も使用している、としている。このあたりは情報がほとんど定時されていないため、「パターン認識」が主たる手法であったと現段階では受け止めています。
  • kawonasi @kawonasi4989 2017-07-19 23:12:42
    pt20121 定時は提示の誤変換ですか?なんつーかTVのインチキはついにこんな手法まで編み出したかとあきれるばかりです
  • pt2012 @pt20121 2017-07-19 23:14:24
    kawonasi4989 はい、すみません。「提示」の誤変換です。
  • @riReriReri99 2017-07-20 05:34:04
    殺処分なんて表現をわざわざ使う感覚すごい
  • Nisemono@MSNF @Fake_Otoko 2017-07-20 06:09:44
    こういうのって下手したらAIがIT業界における水素水と認識されかねない案件なんじゃないか?
  • pt2012 @pt20121 2017-07-20 07:40:44
    Fake_Otoko 水際感はとても感じました。初っ端からニュース番組内の突然の番宣コーナーだったので、そこまで含めて、①放送局が報道番組とSNSを使い、一定の誤認を見込みつつ(炎上気味に)衆目を集めること ②「AIこう言ったから」メソッドで発信元のバイアスをブラックボックス化すること ③統計の取扱や仮説を検証する経緯を(AIの出力だから)といって省くこと という流れを一連のメソッドとして確立させてほしくないと思っています。
  • tori tori @toritorix 2017-07-20 08:51:21
    「パターン認識は、ディープラーニングのもたらす人工知能に比べるとだいぶロースペックなものである」 ってなんだ? そうか,そこからなのか・・・
  • pt2012 @pt20121 2017-07-20 09:25:41
    toritorix ご指摘恐れ入ります。リンク先でその箇所に相当すると思っていた文章は「既に実用化が進んでいる文字列の検索システムのように比較的シンプルなパターン認識で実現できているものについては、ディープラーニングはオーバーテクノロジー(略)」というものでした。両者は手法が異なるだけで、「スペックの優劣」を比較出来るものではなく、誤ったキャプションだったと思います。該当箇所のキャプションについては削除しました。
  • 雨男 @ameot0k0 2017-07-20 09:29:43
    素人からするとIBMのワトソンとかが出した答えだったりしたらスゴイと思うけどNHKが開発したAI……。このAIの情報の詳細は公開されてないのかな?
  • pt2012 @pt20121 2017-07-20 09:51:16
    ameot0k0 今最も詳しく書かれているのはここだと思います→ http://www6.nhk.or.jp/nhkpr/post/original.html?i=10939 また、同じページで今回の「AI」の開発担当として紹介されている阿部博史さんは、過去のハフポストのインタビュー記事でこんなことを答えています http://www.huffingtonpost.jp/wisdom/datajournalism-infographics_b_7178006.html (※次コメントに続く)
  • 権中納言明淳 @mtoaki 2017-07-20 09:51:45
    Dam_midorikawa そうすると相続や空家・空地が問題になるので、単純に死ねばいいという問題じゃないのが難しい所。「順番に」死んでもらえばなんとか制度や特例を作って軟着陸できるかもしれない。
  • pt2012 @pt20121 2017-07-20 09:52:02
    ”まずはもともと目で見ることができなかったデータをデザインし、そのあと分析と編集を行うのです。そして、専門家やジャーナリストが可視化されたデータにストーリーをつけていくという流れになります。”  このインタビューから一年でAIを開発したというより、この一連の手法を(ビックデータ分析を人間がしたとは言わずに)「AIを開発し、AIが提言した」と言いかえているのではないか、という疑いを持っています。
  • pt2012 @pt20121 2017-07-20 09:58:43
    可視化されたデータを分析することは手法の一つではあると思いますが、前述記事で例示されている「弾低気圧による風の流れを可視化したもの」や「携帯電話の位置情報などを利用して被災者の避難経路を可視化したもの」と、「制作サイドが学習させたデータ(何を学習させるかを選ぶこともできる)」を、同じように扱っていいのかな?という疑問も浮かびます。
  • 地下猫 @tikani_nemuru_M 2017-07-20 12:16:12
    そういえば、以前にマイクロソフトが作ったAIがツィッター上で、瞬く間に人種差別主義者の性差別主義者のヒトラー賛美になって回収される事件がありましたねw
  • pt2012 @pt20121 2017-07-20 13:07:26
    tikani_nemuru_M @TayandYou は未だに鍵アカウントのままですね。このチャットボットは多くのユーザから会話を入力された結果、簡単に偏った発言をする結果となっており、このことからも何の前提もなく「AIに聞いてみる」ことで即座に有益な回答が得られるとは限らないという例でもあると思います。 http://japanese.engadget.com/2016/03/24/ai-tay/
  • pt2012 @pt20121 2017-07-20 13:10:42
    ちなみに今回入力は『AIには、総務省が公開している100項目を超える公的な調査をもとにした47都道府県のデータ、過去30年分をインプットしました。「離婚率」「ボランティア活動」から「小学生の50メートル走記録」まで、その数5,000種類以上。データの数で言えばおよそ700万個あります』ということです(※番組サイトより引用)。なので、総務省の公開するデータのデューデリジェンスが適切かどうかと、番組の製作者(AIの開発者でもある)がそれをどう取り扱ったが、最初に十分に説明されるといいですね。
  • pt2012 @pt20121 2017-07-20 13:19:16
    「総務省が公開しているデータ」が信頼できるか、かなり述語をでかくしてしまうと「国の公開しているデータを信頼出来るのか?」となるかと思いますが、元データの入手は総務省統計局などから、検証のためとして入手できそうです。 http://www.stat.go.jp/ もしかしたら一部は入手せずとも統計ダッシュボード http://www.soumu.go.jp/menu_news/s-news/01toukei09_01000024.html でも確認出来るかもしれません。
  • 芝尾幸一郎 @shibacow 2017-07-20 13:37:20
    BBCはテニスの不正を統計を使って暴いたニュースを出した後、その元のデータと、解析手法もgithubで公開し、誰でも追試可能にした。 http://goo.gl/NhGw7W  解析手法と元になるデータを両方出して、第三者が追試可能にするから報道は意味があるのではないか?日本の報道機関が、追試可能な報道をすることは殆ど無い。ひどい報道に鳴ると、研究結果から○×が分かったと言いながら、元の論文名を出さないとか平気でやる。
  • 芝尾幸一郎 @shibacow 2017-07-20 13:43:53
    科学論文などでも、誰がやっても同じ結果になる再現性が重視されるが、データセットも手法も明らかにせず、結果だけ声高に宣伝するなら、割とまじでお告げなのではなかろうか。
  • フローライト㌠ @FluoRiteTW 2017-07-20 20:26:46
    アレか。「甲羅を火であぶったらこのような亀裂が走ったのです!」と言ってるまじない師みたいな話なのか。
  • 地下猫 @tikani_nemuru_M 2017-07-20 23:07:27
    .pt20121 「高度に発達した科学は魔法と区別がつかない」のコンピュータ・サイエンス版になってますよねえw 「統計で嘘をつく方法」よりもブラックボックスの部分がでかいだけに始末に負えない。
  • ナイアル @nyal013 2017-07-20 23:37:32
    この場合「高度に発達」してるのは詐術では…いや、ありふれた詭弁で、詐術としても上等じゃないか
  • わい(ry @waidottowai 2017-07-23 06:15:52
    「機械の意図は、設計者の意図」どころじゃなく、設計者も利用者(NHK)も使い方がわかってないっていうマヌケっぷり。そりゃこんなマヌケ達に「力あるAI」を使わせたら人類の脅威になるわと、本来の「進歩しすぎた制御不能のAIの暴走による人類危機」とは違った危険性に頭痛が痛い…。
  • ぱな in先生・横鎮 @pana_rev2 2017-07-23 11:04:02
    グラフ理論も人工知能としか言えないんだが 人工知能の歴史を勉強すれば分かるが人工知能研究が真に成功したことは一度もない
  • pt2012 @pt20121 27日前
    今更なんですけど、番組コンテンツの一部のこのURL→ttp://www.nhk.or.jp/special/askai/otsuge2017_01.html 、「otsuge」という単語が入ってますね。ほんとに根底から、"AIが言うことを鵜呑みにさせる" というコンセプトがあったんじゃないかと疑ってしまいます。鵜呑みにさせられれば大ラッキー、鵜呑みにされず炎上しても宣伝になるしオッケー。

カテゴリーからまとめを探す

「物理」に関連するカテゴリー