「AIに聞いてみた」が、視聴者の「データに対するリテラシー」を劣化させようとしているのではないかと心配される/情報の分析や発信が"AI"によって効率化された時、メディアや政治は情報倫理を保てるか
昨夜のNHKスペシャルのAIの話の一つに、再犯防止システムがあって、模範囚なのに保釈が出ないのはAI人工知能が止めているからというのがあった でも再犯率と言っても100%ではないだろうに?と思ってしまった。。。どうなんだろか? #人工知能
2017-06-26 08:56:46社会の種々の問題を人工知能が解決するという話、人間は人工知能の出す正解に関して理解も納得も不要ということになりそう。過程をぶっとばして結果だけが残るの、ディアボロのキングクリムゾンっぽいな。
2017-07-20 23:42:26@world_of_Tanaka こないだNHKスペシャルでやってましたけど、受刑者に、自分の保釈の成否にAIの出す判定が加味されていると知って、ショック受けてましたよ。 もちろん、そのAIの出す結果には、理由とか妥当性とかは提示されないんです。
2017-07-20 23:50:01@zappai_mini これ、見逃してしまいました。受刑者の保釈の件、人工知能の被験者みたいなもんですね。「アナタ自分では気づいてないけど本当はこうですよ」と占い師に言われても素直に受け入れる人は少ないでしょうけど、それが絶対に正解する占いだとしたら、考えるだけでゲンナリです。
2017-07-21 00:03:50今回の厄介な点②:第一報が報道番組内の突然の番宣枠およびTwitterのニュース番組用アカウント
AIのアウトプットを判断するにあたり、入力データ、分析手法、そしてそれを評価する人間のアプローチなどが十分伝わり、理解されていなければ、「AIが出した」とする答えを疑いなく受け取る可能性が高くなることが予想される。
しかし、番組を見た人のツイートを見る限り、今回は下記のような説明が、ニュース番組ではじまった番宣コーナーでなされていたようである。
①NHKが独自にAIを開発した
②それは世界初の社会課題解決型AIである
③そのAIは入力データから因果関係を見つけられる
④人間を介さず人間には出来ない提言が出来る
(※一部は同ニュース番組のTwitterのアカウントにも掲載)
(※番組PRサイトによるとAIの開発期間はわずか1年)
これらは性能の優良誤認をさせかねない表現と感じられるが、それを検証する手段が示されたということでもないようだ。
そして、その前提を植え付けた上で、さらに下記のような(一部強い表現を含む)仮説を主張した。
・「コンビニが増えたら自殺者が増える」
・「“40代ひとり暮らしが日本を滅ぼす“!」
その結果、番宣終了の時点で上記仮説が真実性の高いものと認識してしまった人も具体的に見受けられた。
「とどける。いまを、深く。」「ニュースウオッチ9」(総合月曜~金曜夜9時)と「情報空間の『いま』が分かる」「サタデーウオッチ9」(総合土曜 夜9時)の公式アカウント。夜9時は、最新のニュースを。 ▼利用規約 nhk.jp/rules ▼フォローの考え方 nhk.jp/tw_f
NHKが開発した新しいタイプのAI=人工知能。 ”社会の課題解決型のAI”です。 少子高齢化や格差拡大などの課題を抱える日本。 その解決にAIが導いたヒントを見ると、日本の行く末を左右する意外な”カギ”がありました。 #AI #人工知能 #NW9
2017-07-17 18:32:51さすがAI 現在の日本の最大の問題はなにか。 AIに調べさせたところ,その答えは,行政との接点が一番少ない「40代の一人暮らし」だそうです @本日のNHK・ニュース9
2017-07-17 21:29:23社会課題解決型AIが導き出した、日本社会における様々な事象(空家率や少子化率、孤独死率といった現象)に影響を及ぼす因子は「40代一人暮らし率」だそうで #NHK
2017-07-17 21:28:08コンビニが増えると、高齢者の自殺が増える…… あと、40代のひとり暮らしが増えると、空き家率や国民医療費、餓死者や生活保護費も増えると。 また、この40代のひとり暮らしは行政との連携がない。 確かにそうだよね。今までの社会って標準世帯しか見てなかったもの。 #ニュースウォッチ9
2017-07-17 21:31:00NHKの番組で40代独身が日本を滅ぼすってAIが結論付けたらしいね。 正直、なるようにしかならないよ。賃金が上がらない昨今、独身が増え続けているのも仕方がないこと。
2017-07-20 13:42:58すごい力技に出たなあ……詳細は土曜日のNHKスペシャル参照とのこと>ニュースウオッチ9 ▽日本の課題解決にAIが導いたヒントとは www4.nhk.or.jp/nw9/x/2017-07-…
2017-07-17 21:34:09@nhk_nw9 @nhk_news ごめん、カギがあると断定してるけど、言い切れるほどシミュレーションは一致したの? こういうアカウントとバラエティのアカウントを同じ感覚で使ったらあかんよ
2017-07-18 12:33:29これか。ニュースで番宣って増えたけどまだ違和感ある>www6.nhk.or.jp/special/detail… twitter.com/kimuratakahiro…
2017-07-17 22:59:59この番組は、たぶん私のところにも二度ほど製作者サイドの人たちが来て、社会保障や因果推論や機械学習について説明した(番組名について連絡もらってないので、たぶん)。「これだと炎上覚悟すべき」とアドバイスしたが予想通り炎上案件になりそう。私は見ないと思うのでTLの感想を楽しみにする。 twitter.com/dojin_tw/statu…
2017-07-18 22:18:16AIに聞いてみた どうすんのよ!?ニッポン|NHKスペシャル 人間がどうにもできない社会問題。解決の一手をAI(人工知能)に聞いてみた。 #AIに聞いてみた nhk.or.jp/special/askai/…
2017-07-18 22:13:10ちなみに番組説明にある「AIが打ち出したのは、空気を全く読まず、しがらみのない奇抜な提言だった!」は”AI”ではなく製作者側の意図である。なぜなら二度目に研究室に来訪されたときにそれを狙ってると明言してたので。で、その時点での分析とアイデアを幾つか聞き「炎上必須だと思う」と伝えた
2017-07-18 22:29:08人間の意図を「AIが打ち出した」と売るのであれば、それはよろしくない。一方で、炎上(あくまで予定)も含めて、メディアで多少いい加減にやってみたらどんなものになるのかというのは知りたいので、TLの感想を楽しみにしている。
2017-07-18 22:38:52現在の状態で放送を行うことに関する個人的な懸念
懸念としては、いずれも事実誤認につながりかねないものとして、このようなものがあると考えている。
(A) 同枠で同じテーマの中で直近伝えられた文脈を暗に利用できる時系列
(B) 宣伝と認知しづらい報道番組中の番宣による刷り込み
(C) まとめ前半のAIおよび統計データの扱いに関するリテラシーの差
(D) 視聴者が知り得ないところで、製作者の意図をAIの出力としてすり替えて扱うことが出来る状況
(※上記(D)を実際に番組で行う可能性を、取材先と思しき専門家が公開環境上で示唆している)
もし、これらを積極的にあわせ技で利用されると、個別の検証手段のない視聴者はあっさりそれを真実として受け止めてしまう危険性があり、具体的にそのような反応を示した人がいたと考えています(放送前の段階で既にそのような実績をつくってしまっていることにもし無自覚なら、けっこうまずいことなのではないでしょうか…)。
もちろん、現在では十分な検証手段が無いだけで、番宣の文言で表現されたことは全て事実で、実際に高性能なAIも存在するかもしれません。
しかし、そうであったとしても、個人的にはこのような状況下で番組視聴への誘導をかけ、番組を視聴してもらったとしても、限られた番組の時間内で最初の刷り込みを是正したり、"AI”の提言が仮説だったのか疑いようのない真実なのかを判別することは、少なくとも同枠しか視聴していない視聴者には容易なことでは無いのではないか?と疑問を感じてしまいます。