「AIに関わる人は読んだほうがいい」人の命を救うはずのAIが政治と無知により無視された話

使う側のリテラシーも大事
209
あんどう @an_dount

これAIに関わる人は絶対に読んだほうがいい。 古くなった民家の水道管を予測する機械学習モデルを大学が開発したものの ・企業が使い続けられなかった ・政治的理由で検査する民家の領域が変わった ・住民が結果を信用しなかった という理由で、モデルは使われなくなった。 note.mu/datascience/n/…

2019-03-27 07:55:42
リンク note(ノート) 人間の命を救うはずだったAIが政治と無知によって無視されてしまった話|Kan|note 優れた料理人はお客さんが育てると言うことばがあります。料理を食べるお客さんが、それがほんとにうまいかどうかわからないと、料理人のレベルも上がらないということです。 実はAIにもそれと同じような面があります。 AIがわからない人にAIを渡しても、AIの真価は発揮できないということです。 今回は、汚染された水道管を発見することができるAI(機械学習による予測モデル)をせっかく開発したにもかかわらず、結局使われなくなってしまい、そのせいで問題の水道管が今でも取り替えられず、多くの人の命が危険にさらされていると言 299 users 392
かりばぁ🐬 @KRiver1

現代の寓話。全ての人類に読んでほしい。 twitter.com/an_dount/statu…

2019-03-28 20:35:07
にゃる @Nyala33114

@an_dount @vitaone_ 「結局、使用側の倫理や教養に依存するからなぁ」という科学者がよく愚痴ってることの具体例ですね。

2019-03-27 20:53:34
ポニテ狂信者 @yaseinoennpitu

@an_dount @vitaone_ 人類が危惧すべきはAIの反乱ではなく自身の愚鈍さであったか ———と目覚ましの時間に起きれない男が夜中に呟いています

2019-03-28 00:21:34
ぽんぽこタヌキ @ponpoko_Reverse

@an_dount @vitaone_ これフツーに「一度に全部検査するのは物理的に無理ですから、順次やっていきます」って説明して、予測結果がヤバいところから着手していって最終的に全て検査すればいいだけじゃないの?

2019-03-27 21:01:19
ぽんぽこタヌキ @ponpoko_Reverse

@tooouptight まぁ予想といえど的中率100%ではありませんから、全てを公平に調査するのもよいでしょう。 ところでランダムに取り出したわりには、実際に工事した場所が問題ない場所に偏っているのは、どういった政治的理由でしょうか(・・?)

2019-03-28 00:13:14
浮雲女@技術的には可能です @tooouptight

@ponpoko_Reverse 読み取れないですよねえ…… 問題のある水道管は古い地域に偏っているのに新しいところが掘り返されている 有力者、または自分の支持者が多く住んでいる地域を優先した? くらいの下世話な想像になってしまいます。AIどうこう以前に優先順位を考えられないのか無視したのか……

2019-03-28 00:37:27
リク @ricky0web

@an_dount @vitaone_ ここ数年何度かAIを使った仕組みを研究開発してるけど、まだまだ周りに理解してもらうには時間がかかりそうだよ。 まだ学習データを貰う(法律的にはOKでも心情的にNG)事もままならない状況だからね。 日本のAIブームもこのまま下火にならなければいいが…。

2019-03-27 21:31:54
ジェイダ @jda_21xtreme

@an_dount どんなに優れた技術があっても、それを扱う人間が無知でバカで石頭ではどうしようもないという一例ですな😖💫AIで豊かな社会を築くか、はたまたAIの奴隷と成り果てるか…人類の明日はどっちだ😤💮

2019-03-27 23:09:40
DHE-ROSA-CENTIFOLIA @DCentifolia

@an_dount 単純に "AI" というバズワードを不用意に出しただけの失敗なんじゃないの? "Critical Resource Management" とでも言っておけば誤解されなかったかと。大規模災害などで多数の負傷者が出たときに、病院側で患者に優先度をつけて対応に当たるというのは非常時の手順としては今や不自然ではない。

2019-03-27 23:44:55
れきそたん @rekisotan_opai

@an_dount @vitaone_ 論より証拠。 百聞は一見にしかず。 何が正しいかは掘ってみて考えたら良かったのにね。

2019-03-27 21:00:20
謎おじさんAHO💉💉 @aki8ara

@an_dount @vitaone_ 信用を得るってのは大変だなーっと。

2019-03-27 20:51:54
チリロ @ibara16

@an_dount @vitaone_ 私にとっては10年以上前に直面した問題ですが、その程度の時間では人間は変わらないということなのでしょうね。

2019-03-28 16:41:03
板橋さとし㈱ウェバリー帝国王立郵船 @satosiTS

@an_dount これって、Netflixで配信中の「ラブ、デス&ロボット」のエピソードそのまんまの話じゃ無いですか!!!

2019-03-27 23:31:03
西埜 ジュラ @SII_Nis

@an_dount これはAIの問題じゃなく、「学者」と「政治家」の手法の違い。 学者(AI)が「この地域のこういう家を優先的に」と言う。 それを踏まえて政治家が「とは言え地域差を出すと市民の不満が出るから、ほどほどに満遍なく。むしろ基準を決めて一律に。」と傾斜を緩める。 従前と何ら変わらない。

2019-03-28 20:10:45
西埜 ジュラ @SII_Nis

@an_dount むしろAI化するなら 「市民の不満の極小化モデル」 を作って、 ・出来るだけ効率的に検査する ・ほどほどに満遍なく検査する ・投票行動に悪影響のない検査をする ・市民が喜ぶタイミングで情報発信する を実現させるべきだった。 と思う。

2019-03-28 20:20:38
おつよん @O_zoo1

@an_dount こういうことはAI界隈だけではなく研究者全体の悩みのタネになっているように感じる。 技術は先を行き過ぎてもダメなんだね。

2019-03-28 20:00:43
らゔぃんゅ @flwvh

@an_dount 実績重ねて信用得るまでが大変ですね 一度信頼を得られたら人よりも信頼されるのでは?って気もするし 一度信頼失ったら人よりも信頼を回復するのが難しそうですよね

2019-03-28 13:09:03
Hiroaki Sasaki @chano2_

新しいものがどれだけすごくても、真価を発揮するかどうかは使う人次第なんだなと改めて思った。 自分は今後も仕事で新しい技術要素を取り入れたサービスを作り続けると思うので、こういう視点は常に持っておきたい。 twitter.com/an_dount/statu…

2019-03-28 19:02:56
とろろ @ymtf5ja231

この3つ目はかなり重要でしょ。 一度信用を失ったら判断過程が見えにくいAIは不利になる。 将棋の第三回電王戦でソフトが1六香という変わった手を指したんだけど、少し前に違うソフトが豊島7段にハメ殺しされてたからこの1六香が良い手なのか悪い手なのか誰も分からなかったのを思い出す。 twitter.com/an_dount/statu…

2019-03-28 17:57:59
Sesiria@無職生活 @Sesiria

予測モデルの言うことを無視してでも、全ての家の地下を掘って調べるという意思決定を行いました。なぜなら、「人々は隣の家の地下は調べたのに私の家を調べないのはなぜか?」と不満をいうからです。 確かにこの不満は出るだろうし、私だって言うだろうね。 twitter.com/an_dount/statu…

2019-03-28 16:09:29
かんた(スリバチ) @imd3939

筆者が三つ目にあげてるのって、結果を求めるまでの過程がブラックボックスになってるから起きてるんだよね... twitter.com/an_dount/statu…

2019-03-28 15:14:13