『国土交通省は、自動車メーカーが車に搭載された自動運転システムのプログラムを更新する場合、国の許可制とする方針を固めた』と読売新聞が2019年2月4日報じる→翌日大反響の流れに

まとめました。
21
青くろ @aquage_7

自動運転 修正に規制…搭載プログラム 国が安全確認し許可  : テクノロジー : 読売新聞オンライン : 読売新聞オンライン yomiuri.co.jp/science/201902…  国土交通省は、自動車メーカーが車に搭載されたシステムのプログラムを更新する場合、国の許可制とする方針を固めた。

2019-02-05 07:45:01
MIRO @MobileHackerz

テスラ モデル3を予約しひたすら待ってたんだけど、こないだ試乗して思いのほか良かったのでトヨタmiraiに4年乗るのもありかなーみたいにぼんやり思ってたところにこのニュースが自分のケツを蹴り飛ばしてきた/自動運転 修正に規制…搭載プログラム 国が安全確認し許可 yomiuri.co.jp/science/201902…

2019-02-05 14:16:12
MIRO @MobileHackerz

(これあれだ、モデル3の日本でのデリバリーがはじまって、そして自動運転の開発がまとまってアップデート入るまで普通に4年かかるな、と確信した)

2019-02-05 14:17:28
3pF @3pF

違法システム搭載車対策なんだろうけど、いいのかな。お墨付きを与えるみたいになっちゃうけど。 / 国土交通省は、自動車メーカーが車に搭載された自動運転システムのプログラムを更新する場合、国の許可制とする方針を固めた。(読売新聞) yomiuri.co.jp/science/201902…

2019-02-04 23:54:26
時給3725円の男@ニワカJeff Beckファン @PASCAL3725

@3pF 要は車検と同じようにしたい、という理解でいいかしら?やれやれ、ですね。

2019-02-04 23:58:19
Yuta Kashino @yutakashino

“国土交通省は、自動車メーカーが車に搭載されたシステムのプログラムを更新する場合、国の許可制とする…チェック方法は…実際に人が試乗して確認するほか、情報技術の知識を持った職員がプログラムの中身を確認する。” buff.ly/2RB6jJa 「職員がプログラムの中身を確認する」...wait. WHAAT!

2019-02-05 09:49:15
Takafumi Yonekura @tyonekura

“情報技術(IT)の知識を持った職員がプログラムの中身を確認する。” 。。。。 yomiuri.co.jp/science/201902…

2019-02-05 02:07:13
ONO @a_ono

@tyonekura これ、ソースコードのコピーを取るって言ってますよね?中国と同じ匂いを感じます。ってか、ソースコードを安全に管理できる気がしない。確認を外部に出してそこから漏れるシナリオとか。

2019-02-05 08:54:42
AoVA @AoVA

@a_ono @tyonekura コピーを取らないでも「情報技術(IT)の知識を持った職員がプログラムの中身を確認する。」は実施できる。それはともかくこの「職員」を国交省の職員でまかなうのは無理だと思うのでなんか誤解がある記事としか思えない

2019-02-05 10:16:12
松浦晋也 @ShinyaMatsuura

国交省に更新ソフトの安全性を担保する能力があるわけない。形だけの審査でメーカーに睨み効かせるつもりか? 自動運転 修正に規制…搭載プログラム 国が安全確認し許可  : テクノロジー : 読売新聞オンライン : 読売新聞オンライン yomiuri.co.jp/science/201902…

2019-02-05 10:52:30
基本情報持ってれば国土交通省入って、いろんな企業のプログラム見放題とかありそう
そいや @papaspapoporos

基本情報持ってれば国土交通省入って、いろんな企業のプログラム見放題とかありそう。 自動運転 修正に規制…搭載プログラム 国が安全確認し許可  : テクノロジー : 読売新聞オンライン yomiuri.co.jp/science/201902…

2019-02-05 12:19:08
TJO @TJO_datasci

これぞ美しい国ニッポンの真髄だ、腹筋が切れそうなくらいゲラゲラ笑ってゐる「国土交通省は、自動車メーカーが車に搭載されたシステムのプログラムを更新する場合、国の許可制とする方針を固めた」「情報技術(IT)の知識を持った職員がプログラムの中身を確認する」 yomiuri.co.jp/science/201902…

2019-02-05 12:26:29
かも🚙🦆 @musenbu1010

自動運転 修正に規制…搭載プログラム 国が安全確認し許可  : テクノロジー : 読売新聞オンライン : 読売新聞オンライン yomiuri.co.jp/science/201902… 国交省でメーカーの書いたプヨグラムを評価出来るようなエンジニアを雇うの?

2019-02-05 12:32:33
Takashi Miyamoto @tmiya_

国土交通省が自動運転のプログラムを評価する話、どうせプログラム本体の評価ではなく、開発プロセスの評価のことでした、なのではないかなぁ。

2019-02-05 12:37:59
らはると教皇 @lahalt

国土交通省に自動運転のソースコード読んで安全性確認できる人材がいるのだろうか🤔 :: 自動運転 修正に規制…搭載プログラム 国が安全確認し許可  : テクノロジー : 読売新聞オンライン : 読売新聞オンライン yomiuri.co.jp/science/201902…

2019-02-05 12:38:32
Yoshi-aki Shimada @yoshi_and_aki

プログラムに明示的にルールが書いてある場合にはそれでも良いのだろうけど、機械学習で書かれてる場合は訓練データまで検査しないとプログラムだけ見てても何も見抜けないのでは?? 大丈夫か国交省。 yomiuri.co.jp/science/201902…

2019-02-05 13:37:54
ゼファルド@富野由悠季の世界展に行くラルさん @Zefarudo

自動運転 修正に規制…搭載プログラム 国が安全確認し許可  : テクノロジー : 読売新聞オンライン : 読売新聞オンライン yomiuri.co.jp/science/201902… レイバーのOSみたいなことを…どんどん更新して良くしていかないと事故減らんぞ…まあ国土交通省の保身なんだろうけど…

2019-02-05 13:54:59
山本一郎(Ichiro Yamamoto) @kirik_game

国土交通省からとんでもねえお触れが自動運転がらみで出てきて投資先一同震撼している…

2019-02-05 14:48:58
山本一郎(Ichiro Yamamoto) @kirik_game

9割9分9厘国土交通省の頭の中は自動運転認可した後で大規模な人身事故でも起きて行政の責任を問われたときにチェック機構が存在してなかったことで部局ごと天高く吹っ飛ぶリスクを負うぐらいならいっそ変更事項ごと航空機同様認可制にしてしまえという腹なのだろうが、国土交通省の技官で以下文字数

2019-02-05 14:51:34
ぽややん @mochi1970

仮に私が国土交通省の官僚だとして、自動運転で利権を増やすなら、国土交通省管轄の自動運転試験協会を作って、自動運転教育資格と、自動運転試験資格を認定する利権を狙う。 経産省に取られる前にね。

2019-02-05 14:57:19
烏賊爺 @ikajijisan

アホすぎる、国交省というかSうかが利権を握りたいだけじゃねえの? twitter.com/TJO_datasci/st…

2019-02-05 15:03:04
Y Makino @Usekm

現状日本国内では国交省の認可を受けていない新型車は走行できないわけで、自動運転システムにおいても認可の対象となるのは当然だと思うし、だからこそ法整備大変だよ、という話はずっと言われていたと思うのですが…。

2019-02-05 15:07:00
𝙋‌𝙐‌𝙉‌𝙄‌𝙋‌𝙄‌𝘾‌𝙊 @punipico

「国交省の職員」って言ったら事務職か法律職ぐらいしか想像できない感じか

2019-02-05 15:00:25
あさぎ @lmvle

職員「よくわからないから認めません twitter.com/tjo_datasci/st…

2019-02-05 14:31:06
残りを読む(25)

コメント

yuki🌾㊗️5さい🎉⚔ @yuki_obana 2019年2月5日
えっ…プロプライエタリでもチェックさせるの?それとも…?(´・ω・`)ソースでも意味不感マシマシすぎてなんかよくわかんない…むしろアクティヴェーションキーの開発が発生した方が利益的にあがる気がするし利権ゆーたらふつうはこういう末端端末の直接制御の方だと思うんだけど。
1
オルクリスト @kamitsukimaru 2019年2月5日
新型車を国交省の駐車場に持ってきて建物に向かってチキンレースすればいいだけじゃん。アホだな官僚。
0
緑川⋈だむ @Dam_midorikawa 2019年2月5日
もはやイット産業のやりっぱなしノークレーム主義は通用しないって事だな
13
ISW @ISW007 2019年2月5日
Deep Learningの部分なんてチェックできるのかな?(できたらすごいぞ)
10
I-zy @digitaleazy 2019年2月5日
えー?でもこれやらにゃ仕方なくない?建築基準法みたいなもんじゃろ?
16
ゆうま @yuma_sai10 2019年2月5日
航空機の型式認証と何が異なるのかね。そして役所(官僚)を小馬鹿にしすぎじゃないかなと思った。
28
SAKURA87@多摩丙丁督 @Sakura87_net 2019年2月5日
記事を読むと今やってる、型式認証時のちゃんと動くかの検証をしていて、それを改修時にもやろうって話なので別に変なことを言っているわけじゃない。まぁ1tの鉄の塊を制御するのだから、これくらいやって当然だと思う。確かに管理がザルそうだが。やろうとしていること自体は叩かれるような物でもないやろ。
31
Otenkiya @_Otenkiya_ 2019年2月5日
プログラムを変えなくても、「データ」の変更で自動運転の挙動を自由に弄れるのならば、国交省の認可はさほど問題にならない気がする
1
質問マニア @situmonmania 2019年2月5日
こんなん劇場版パトレイバーのHOSみてぇな仕込みに対して責任の押しつけあい起きて対処遅れるやつですやん
3
ゆーき @yuki073 2019年2月5日
学習データの入れ替えはソースに差分無いけどプログラムの変更じゃない扱いかな?
0
緑川⋈だむ @Dam_midorikawa 2019年2月5日
既存のIT産業関係者はバグで死人がでても自己責任で済ませて責任回避しようとするのが見え見えだからな
16
うMM'えMM'ぽMM'ん@6M4T @kaorurmpom 2019年2月5日
本文でボロクソ言ってるIT方面諸氏は、いっぺん鉄道信号のIT化をおべんきょうしてみるといいと思いますのよ。
24
緑川⋈だむ @Dam_midorikawa 2019年2月5日
航空機だって型式認証がなければ飛行できないわけで、乗り物の安全を担保する方法はいままでの「バグが出ても知らないもーん」が通用していた間抜けITの手法は通用しないことを認識できないと言うんなら全員殺して総入れかえしかないよ
16
𝙖𝙖𝙖𝙜𝙣 @aaagn 2019年2月5日
鉄道信号とかだと既に国土交通省の許認可ないと弄っちゃダメだったような
7
けいいち @kei_on_e 2019年2月5日
国がデバッグしてくれると聞いて笑いが止まらない画期的サービス来たか
1
クリスセドン @sedooooooon 2019年2月5日
ワザとぐちゃぐちゃなコード書く人いそう
0
Yeme @yer_meme 2019年2月5日
要するに国交省がケツ持ってくれるんスよね。むしろ有り難い話じゃないスか?
3
NTB006 @NTB006 2019年2月5日
読み難いコード書いたら不許可になるだけじゃない? そんなメンテもバグ潰しも面倒なコードで許可おりても困るし
4
竹田一博(さまやん)▷◁楊菲菲P @someryan 2019年2月5日
航空機の話が出てくる辺り、コメ欄はエアカー時代に対応しているのね。
1
あんみつ @anmitsu_314 2019年2月5日
問題が理解できてない人がほとんどみたいだから書くけど、今までの型式認証って「正しい動作をすること」が求められてて、それは全く問題ない。修正の度に国が確認するならどうぞご自由に。 …だけど今回の話は「プログラムの中身を確認する」ってあるのが曲者で ①動作が保証されてるなら中身の文法まで確認するの無駄じゃない? ②中身全部見て正当性を確認って超一流エンジニアの軍団じゃないと難しいんだけど確保できるの? ③もし外国でコピー品が出回ったときに日本の責任が一切無いことを証明できるの? ってのが争点です
5
パンダは肉食獣 @j_inbar 2019年2月5日
三菱リコール隠し事件「 Dam_midorikawa さんの言う通りやでぇー。いっと業者は見習ってなー。」
0
Riesling @Riesling_22 2019年2月5日
いや、ソースコードや機械学習の学習モデルなんか国交省は見ないでしょ。見てもわかんないでしょ。 提出するのはいつもの神エクセルに決まってんじゃんか・・・・・
3
緑川⋈だむ @Dam_midorikawa 2019年2月5日
j_inbar イット業者に任せるともっとひどいことになるだろうな
8
がそ @gaso 2019年2月5日
省庁にも「技官」と呼ばれる専門職がいることを知らないのかなあ。日本にはテクノクラートは根付かないか
13
mikumiku_aloha @mikumiku_aloha 2019年2月5日
機械学習はメーカーで学習させたデーターを元に車などのコンピューターにかけるので、大雑に言うとソースコード見ても「学習済みのデーターに照らし合わせろ」という内容で、学習済みのデーターが正しく判断出来るかどうかは検証出来ないんじゃなかろうか。
3
緑川⋈だむ @Dam_midorikawa 2019年2月5日
mikumiku_aloha 検証できないならば機械学習技術そのものを放棄するしか無いな
8
_ @readonly6582 2019年2月5日
NGワード:全コードのフローチャートを提出しろ
1
@Q_fever 2019年2月5日
ホンダの前期型フィットやヴェゼルに搭載されている最初期型のCTBA(自動ブレーキ)の精度の悪さを体感すると、後からでも更新してくれることはめっちゃありがたいけどね。どう考えても作動閾値の設定が狂ってるけど、もうリコールはこれらの車種で認めるわけにはいかないから仕様です、の一点張り。
1
あんみつ @anmitsu_314 2019年2月5日
Dam_midorikawa それ「同等の純金に交換できる保証がないから貨幣制度は放棄すべきだ」って言ってるようなもんだぞ。旧世代の検証ができないから新技術を諦めろなんて暴論が過ぎる
4
kata_game @kata_game 2019年2月5日
現行の完成車車検ですらメーカー丸投げなのに、いちいち国交省ができるわけないやろ……何車種あるとおもてるねん
1
Web屋Layzy @layzy_glp 2019年2月6日
セキュリティバッチもロクにリリースできずに車がピョンピョン高速道路から飛び降りる未来が
1
おくら納豆のり ★混ぜると旨くて白飯すすむ★ @okuranattonori 2019年2月6日
特定の条件下で再現性あるおかしな挙動する時は「国交省指示動作中💢」というランプが点灯するんですね
0
緑川⋈だむ @Dam_midorikawa 2019年2月6日
anmitsu_314 ディープラーニングの結果は常に「まったく予想していなかった入力に対して致命的な誤動作を起こす可能性」を排除できない。排除できなければそれはセキュリティーホールとして残るから、「セキュリティーホールを確実に消去する方法」を取るしか無い
4
緑川⋈だむ @Dam_midorikawa 2019年2月6日
要するに、イット業者は画面の上のアイコンが動作するかどうかと同程度のレベルで1トン以上の機械が時速100km以上で走行する制御をやろうとしているわけだな。自動運転ブームが急速にしぼむのも道理
10
豆腐豆腐豆腐 @NewName_NoIdea 2019年2月6日
Dam_midorikawa えー自動運転のレベルにも寄るようですが、現状市販されてるような自動運転車は人間のドライバーの補助をシステムが行う、もしくはシステムの補助をドライバーが行うというようなものなので、貴方が危惧されているような状態にはならないんですね。完全な自動運転が実用化されるのはまだまだ先ですが、現在の技術で不可能だからということを理由に研究開発一切をやめてしまえば新技術なんてものは一生産まれなくなるのですが…
0
mikumiku_aloha @mikumiku_aloha 2019年2月6日
Dam_midorikawa ソースコードからは検証できないという事で、テストで検証という事になると思います。
2
@funft 2019年2月6日
ソースコードなんか見なくても検証はできるでしょうに
0
SAKURA87@多摩丙丁督 @Sakura87_net 2019年2月6日
ソースコード見せろというのは、例の検査不正みたいに、検査場だけお利口さんになるコードが紛れ込んでないか。と言うところを確認するためだと思うし、なんでソースコードが必要なんだと言われるとワ○ゲンのせいって言う感じ。
9
脳内がエロで埋まっている白痴のネトウヨ @dokuman3 2019年2月6日
ソースコードが読めなくてもテストはできるって言われると厚生労働省の立場がないな
0
Tsuyoshi CHO @tsuyoshi_cho 2019年2月6日
たぶん本当は、現行の発展としてキチンと動作検証するくらいのことの様な気がする。現行でもすべてのプログラムを把握仕切れないことは当局が一番分かってるだろうし。
1
緑川⋈だむ @Dam_midorikawa 2019年2月6日
NewName_NoIdea 運転者に誤動作の責任をなすりつける事ができるレベル3までしか開発してないんなら誰もこんな話しない。タクシーと同様に乗ってる人が単なる乗客として酒飲んでようが寝てようが運行できるレベル4以上が対象だからこういう話をしている。イット業者は低レベル運転支援までしか関われないと言うことだな
11
ISW @ISW007 2019年2月6日
Deep Learnigによる自動運転だとブラックボックステストだろうがホワイトボックステストだろうが検証なんてできないから、自動運転のロジックとは独立した事故回避のシステムが多重に用意されてるかとかいった機能構成の確認になるんだろうと思ってるんだけど、事故回避のシステムにしたって予測用にDeep Learningは使うんだろうから、結局は適切な多重化構成の有無の確認が肝になると予想。
1
豆腐豆腐豆腐 @NewName_NoIdea 2019年2月6日
Dam_midorikawa ええですから、そもそも法整備も実用化も済んでいないこれから先の技術であるレベル4以上の自動運転を捕まえてダメダメ言うのがナンセンスだと申し上げているのですが。 これから先どうとでもなり得るものを今の技術から考えてダメだから一律消えろ何ていうのは発展がありませんよ。
2
緑川⋈だむ @Dam_midorikawa 2019年2月6日
NewName_NoIdea レベル4以上のシステムでは事故時の責任がシステム側になるから、必然的に車両のシステムは政府の認定を必要とする。「ディープラーニングの結果は誰も知らないから中味を政府に説明しろと言われても出来ない」とか甘えた事言うなら認定は受けられず永遠に販売も許されない
7
北邑直希 @naoki_ng08 2019年2月6日
これ、国が安全確認し許可を出したうえで、プログラム上の重大なエラーや事故が発生した場合、国交省の責任が問われることになるのでは……本当に大丈夫?
1
あんみつ @anmitsu_314 2019年2月6日
Dam_midorikawa まったく予想してなかった入力に対して…って単純な動作テストの不足じゃないですか?「プログラムの中身を確認する」って良いように聞こえますけど、動作テストをすることも可能だった人員に他の作業をさせます、ってのと同義ですよ
1
獅子琉々 @ryukyulion 2019年2月6日
人間はブレーキとアクセル踏み間違えて事故る可能性があるので運転しちゃいけないってことに?
1
獅子琉々 @ryukyulion 2019年2月6日
自動運転は人間の事故率より下げれるかどうかがキモで、ソースコードの中身を説明出来たとしても意味がない。耐久試験的なものを課すのが妥当では
1
緑川⋈だむ @Dam_midorikawa 2019年2月6日
anmitsu_314 ディープラーニングの場合、入力が画像だと「人間が見ても区別できない画像の差」が全く異なった反応を返す事例が存在する。例えば赤信号の画像を見せても、1ビットだけ色合いが異なったら青信号だと判断する恐れがないとは言えない
1
NTB006 @NTB006 2019年2月6日
広い空を飛ぶ航空機と違って、自動車は脆弱な人間がすぐそばにいる訳だからね。 航空機よりはるかに優れたシステムを用意しないといけない。
1
あんみつ @anmitsu_314 2019年2月6日
プログラミングやってない人にはわかりづらいことだけど、ソースコード見て間違いを指摘するのって先生と生徒くらい実力差無いとできないんです。作家と編集みたいな話とはわけが違います。で、時間も実際に動かすのに対して数十倍かかります。航空機や電車の型式認証よりとんでもなく手間がかかる(そして手間相応の効果はない)認証をメーカー各社に実施するのは絵に描いた餅のようです。「その分動作テストした方が明らかに効果ありますよ?無駄骨ですからコード見るのやめません?」って話
0
あんみつ @anmitsu_314 2019年2月6日
Dam_midorikawa なんでその微妙に異なる画像で動作テストしないの?って話をしてます。で、その潜在バグは論理をメーカーから説明されてソースコードを見たら発見できますか?という話。ちなみに微妙に異なる画像をたくさん用意して総当たりする方がソースコード見るより早いです。
1
ざ わ ( H N ソ ー シ ャ ル デ ィ ス タ ン ス 対 応 中 ) @zawayoshi 2019年2月6日
国の方が関与することで事故等が起こったときの責任を一部転嫁できるってことでいいんじゃないかね。まぁこれがなかったらプログラム異常が起こって事故ったとしても逃げようってことができそうだから、ユーザー的にはいいことじゃないかと。
1
豆腐豆腐豆腐 @NewName_NoIdea 2019年2月6日
Dam_midorikawa まあ実際問題何らかの手段で検証はやるんじゃないですか。ディープラーニングの検証できるの?ってのはこのコメント欄で勝手に言われているだけですし
0
緑川⋈だむ @Dam_midorikawa 2019年2月6日
NewName_NoIdea 品質保証の考え方は、「テストして結果的に事故が起きないから問題ない」は通用しない。「どういうプロセスを経て事故が起きないように作られているのか」を証明する必要がある
5
脳内がエロで埋まっている白痴のネトウヨ @dokuman3 2019年2月6日
人間が運転して事故を起こしても、免許を発行した自治体の責任は問われないし、AIが事故起こしたって許可だ下側の責任ってことにはならんような。
3
毛海王⋈ @masu_ooyama 2019年2月6日
プログラム書いた本人ですら動かしてみて障害が出てから状況を調べてバグに気づくとかいくらでもあるし、書いてから半年もしたらどういう意図で入れた処理なのか忘れてしまって意味がわからなくなったりするのに他人がソースを読んで安全性の判定とか役に立つ気がしない
3
緑川⋈だむ @Dam_midorikawa 2019年2月7日
結局、ディープラーニング技術は「プロセスに対する説明責任を果たせない」ということでまるごとすべて使い物にならないオモチャでしかなかったということなんだな
3
獅子琉々 @ryukyulion 2019年2月7日
「どういうプロセスを経て事故が起こらないようにしたか」説明するために、どんな検証をするか設計しておくんでしょ。コード見て事故らないことが説明出来るならエンジニアは苦労せん。(仕様はソースも勘弁だが)
2
aioi_au @aioi_au 2019年2月7日
Windows10みたいに毎月のアップデートにバグがあり修正できません、とかならんよう、とりあえず目の前で一回やってみろってのはおかしくないよね?
0
深月 慧🌥️一般プレインズウォーカーと化したにゃつめいと @Key_Hukatuki 2019年2月7日
つか、ポナンザの開発者が著書で今のAIは『黒魔術』のかたまりみたいなもんで、あるプロセスがどうして有効なのか説明できない所があるって言ってたんだがそこら辺どうすんだろ
1
緑川⋈だむ @Dam_midorikawa 2019年2月8日
ryukyulion 問題はコードよりも学習した結果のデータベースで、これを解析してドキュメント化する方法を開発しなければディープラーニングに依存した技術は全部オモチャ程度にとどまるしかない
2
こげぱん@止めよう不要不急のエロ規制 @kogemayo 2019年2月9日
Dam_midorikawa そこまで過剰な信頼性を求める政府、「人命が高過ぎる」国民は日本だけというオチになりそうな…
0
Off Black @OffBlack1 2019年2月9日
変更したプログラムなら、別にソース全面見るわけじゃないやろ。客先で変更点前後と影響あるとこだけ、コードレビューなんかやるけど似たようなもんでしょ。それの何があかんの。ただ、こっこーしょープギャーしたいだけにしか見えん。
2
緑川⋈だむ @Dam_midorikawa 2019年2月9日
kogemayo おまえ航空機のFAA型式認定知らんやろ
1
獅子琉々 @ryukyulion 2019年2月10日
Dam_midorikawa 内部の詳細が分からなくても、人間より遥かに事故率を抑えられることを実証することは可能。それをオモチャ扱いとは。 まぁそういう人向けに、学習内容の解析技術も並行して進んでるのだけど。
1
takatakattata @takatakattata1 2019年10月25日
そんな変なプログラム入れようと思ってた人がいるのかな ガジェットじゃないんだから人命使ってデバッグしちゃダメでしょ
0