-
____rina____
- 1891
- 1
- 0
- 0
-
- いいね！0
Yasuharu NISHI
@YasuharuNishi
「カミカゼアタックをしたドローンの残骸から学習済みモデルを盗まれないようにする技術開発が盛んになっている。」 #jasstkansai
2017-06-23 10:39:06
Yasuharu NISHI
@YasuharuNishi
プライベートなスライド。人工知能システムのクローズドループと課題という話。 #jasstkansai
2017-06-23 10:41:55
Yasuharu NISHI
@YasuharuNishi
「データポイズニング、不十分・偏ったデータ、認識や分析の誤り、ターゲット変更による悪影響の発生、ユーザからの攻撃、独自・勝手な情報抽出や解釈、が問題だ」 #jasstkansai
2017-06-23 10:44:38
Yasuharu NISHI
@YasuharuNishi
「AIロボットを雇った会社が顧客をご認識した場合、誰の責任になるのかという話は難しい。」 #jasstkansai
2017-06-23 10:45:26
Yasuharu NISHI
@YasuharuNishi
プライベートなスライド。人工知能の分類によるシステマチックな保証アクション・プランという話。定量的な機械学習、ナレッジベース、リアクティブシステムの3つ。 #jasstkansai
2017-06-23 10:46:14
Yasuharu NISHI
@YasuharuNishi
プライベートなスライド。AIシステムの品質保証に向けたアーキテウチャ：コンポーネント配置図。整合性マネジャー、データマネジャー、結果マネジャー、人手による確認からなる。「実際にやってみたがデータが多くて解析できない。」 #jasstkansai
2017-06-23 10:47:28
Yasuharu NISHI
@YasuharuNishi
プライベートなスライド。多重防護ステップでAIシステムの安全を守るという話。防衛→検知→修正・訂正→軽減の4ステップ。 #jasstkansai
2017-06-23 10:48:37
Yasuharu NISHI
@YasuharuNishi
防衛：ITセキュリティテスト／情報審査／偏向性テスト／継続的な脆弱性テスト（セルフテスト）／データファブリケーション #jasstkansai
2017-06-23 10:49:12
Yasuharu NISHI
@YasuharuNishi
検知：外れ値検知／サニタリーチェック／情報の冗長化／複数モデルによるチェック／交叉整合性チェック #jasstkansai
2017-06-23 10:49:48
Yasuharu NISHI
@YasuharuNishi
訂正：セーフオペレーションモードの警告継続／影響分析、意思決定影響評価、意思決定、感度分析とその報告／多数決判定／正常性モデル（出力）との比較／より事前状態へのロールバック実施 #jasstkansai
2017-06-23 10:50:48
Yasuharu NISHI
@YasuharuNishi
軽減：4つの目ルール／重要判定に対する二値・三値チェックポリシ／正常性モデルによる制御／モデル、確信度、意思決定感度やリスクの継続的アセスメント #jasstkansai
2017-06-23 10:51:38
Yasuharu NISHI
@YasuharuNishi
IBMのスライド。AIの品質保証のアプローチ1)ターゲットスコアを決定する・何を品質保証する？という話。 #jasstkansai
2017-06-23 10:52:21
Yasuharu NISHI
@YasuharuNishi
システム境界と環境が品質保証の対象となるのか、AIエンジンそのものが品質保証の対象となるのか。 #jasstkansai
2017-06-23 10:53:01
yoshitake
@yoshitake_1201
人工知能を使いたいというHowを先に落とすのは辛い。 目的があって、人工知能を使うのかを決めたほうがいい。 #jasstkansai
2017-06-23 10:53:07