2017年度人工知能学会全国大会「公開討論：人工知能学会　倫理委員会」

Katsue Nagakura @kaetn

明日〜。今回エマちゃんと二人でかなり詰めて企画・準備したのでうまく進むといいな|【開催告知】2017年度人工知能学会全国大会「公開討論：人工知能学会　倫理委員会」（2017/5/24） ai-elsi.org/archives/509

Katsue Nagakura @kaetn

とりとりさんとはっとりさん pic.twitter.com/RXZ9mT1HmW

拡大

Naoki Fukuta(福田直樹) @fukutax

人工知能学会倫理委員会公開討論会始まった… #jsai2017 pic.twitter.com/jK6zpkBpT2

拡大

Katsue Nagakura @kaetn

エマちゃん登壇中 pic.twitter.com/WBkPnwVskm

拡大

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

総務省、パートナーシップAI、スタンフォード、UK議会、ホワイトハウス、FLI、内閣府、欧州議会、IEEE、人工知能学会、などなど。AIに関するレポートがこの半年で次々と #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

松尾委員長からの説明。2014年、松原会長の元でスタート。最初は人工知能の倫理とは何か、からスタートしたが、話がまとまらなかった #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

IEEEの倫理委員会（イニシアティブ）、ジョン・ヘイヴンズさんからのメッセージ #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

「IEEEのEthically Aligned Designと人工知能学会の倫理委員会の指針は一致している」policy makerに働きかけることをIEEEは重視している。あと、（非専門家と）社会を一緒に作っていく、という意識がありそう #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

人工知能学会がIEEEと連携していることは、非常に重要な意味があると思う #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

土屋先生のコメント「人工知能研究者がマッドサイエンティストでないと、社会に表明することは良いことである」をヘイヴンズさんは評価している。これはアメリカでも同じであった、とのこと #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

Johnさんは（個人として）人工知能学会倫理委員会の９条（再帰的定義）をとても評価している、とのこと #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

つぎはFLIのリーダーから。中期的な問題は技術的失業、長期的な問題はそう先ではなく、2042年ごろ。アシロマAI会議について。ここでは総務省の原則、英国規格協会、IEEEグローバルイニシアティブ、オバマ政権のレポ、欧州連合の資料が含まれる #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

アシロマ会議に集まったのは著名なAI研究者、企業の専門家、倫理学者、ロボット工学者、社会学者、弁護士、経済学者、心理学者など。円卓会議を行い、原則ごとに投票（民主的で透明）。全面的に支持されたものが残る #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

米英における軍備の議論は少し特殊。倫理的能力を持つためのリソースを持て、という議論とともに、自律的な致死兵器の軍拡競争を防止したい、という切実な要求がある。生物兵器や化学兵器と同じような非対称性がある。テロリストの手に渡ることを恐れているようだ #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

FLIの人「人工知能学会には、８月、１１月に国連で開かれる、AIの軍拡競争某氏に関する声明（？）について、ぜひ賛成していただきたい」。長倉さんコメント、日本の倫理指針は軍事的な制約が含まれてない #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

優れた規制がある、ということかな #jsai2017

Hideaki Takeda @takechan2000

倫理委員会セッション。聴講者は去年と同じぐらいかな。倫理指針を知っている人が結構沢山いたのは驚き。#jsai2017

Hideaki Takeda @takechan2000

聴講者は昨年と同じぐらいかな。 pic.twitter.com/FK5fEUf9Kg

拡大

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

Galさん。９条に対するつっこみ。解明されていない知能について指針を立てるのは難しいのでは。人間と同じスタンダードを期待していることを示唆するのか？（社会の構成員、またはそれに準ずる、という分をどうとるか、かな？ここ私も気になるのですが） #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

うーん……。日本がロボットを友達として受け入れている、というのは本当なんですかね（という長年の疑問が）。広報的な意味は理解できます #jsai2017

Naoki Fukuta(福田直樹) @fukutax

やっぱり宗教的な背景って，倫理を考える上では外せないのかなと．たとえば宗教的に「人間は特別な存在！」という前提のある人たちには，「AIを人間と同等の存在に」になんてどう考えても受け入れられない(合理的な理由云々じゃなく信条と心情の面で)ということもありえるし． #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

なんとなくだが、「人工知能が社会の構成員となる（またはそれに準じる）とき」という注釈が英訳の時に落とされてないか？という疑問 #jsai2017

OSAWA, Hirotaka/『SF思考』7/28発売『SFプロトタイピング』6/2発売 @hiroosa

長谷さん。ラインを引くときに、人間以上に倫理的にふるまえる存在は存在しないので、それと同じくらいの倫理観は持ってほしい。もし人間より倫理的な機械ができたら、その限りではない（特に人間中心主義を狙ったものではない、ということか） #jsai2017

Katsue Nagakura @kaetn

パネル。委員長発言中ー pic.twitter.com/8jbbjfq9Hs

拡大

栗原　聡 @skuri_san

いよいよAWSの話題に突入．．．． #jsai2017