高輪ゲートウェイ駅で話題になった「AIさくらさん」、人工知能ではなく人工無能だと指摘される

高輪ゲートウェイ駅の開業で話題になり、JRの日本各地の駅に存在する事が確認されているJRの駅案内プログラム「AIさくらさん」に関して「あれはAI(人工知能)ではなく人工無能だ」という指摘ツイートが行われた件についてまとめました。
4
ごりら抜刀債暁美 @homurc_main

ちょっとリプで話しましたが話題の駅員AI、これは「人工知能(AI)」ではなく、あらかじめ設定された質問に設定された回答をするだけの「人工無能」です。皆勘違いしています このキャラ自身の思考回路も感情もなくセクハラの対応は「誰かがそう設定した」ということ 僕は国家資格情報技術者です pic.twitter.com/1x4OTC3fkM

2020-03-18 22:21:43
拡大
ごりら抜刀債暁美 @homurc_main

この程度の人工無能をこの時代でよくぞ人工知能などと詐称できたなぁと思いますねぇ 製作者は当然のようにセクハラされることを想定してプログラムし、製作者の好みで回答するようになっています。ゆえに「やめてください!」などとはいいません。 作者の人となりが想像できますね。趣味の産物です

2020-03-18 22:24:40
ごりら抜刀債暁美 @homurc_main

こういった人工知能の問題を「中国語の部屋」ともいい、現在でもほぼ未解決の難問です。 かいつまんで説明すると、この駅員キャラはそもそも投げかけられた日本語すら理解していないのです。

2020-03-18 22:26:43

「人工知能」と「人工無能」はどう違う?

人工知能(AI)とは、Wikipediaに寄ると
「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」を指す語。
と書かれています。

これは、要約すると
「人工的にコンピュータ上などで人間と同様の知能を実現したもの」
即ち、コンピューター自身が

  • 人間が使用する言語を理解し論理的な推論を行える事
  • 経験などから新たなプログラムを自分の中に構築する事が出来る事

この二つの条件を満たす物を人工知能(AI)と言います。

人工無能とは会話ボットあるいはおしゃべりボット、チャットボットなどと呼ばれる、主にテキストを用いた会話をシミュレートするコンピュータプログラムの事を指します。
人工無脳の応答は、一見して知性を感じることもありますが、収集した文章からキーワードを抽出(構文解析)し、内部のデータベースとマッチング(探索)して応答を返しているだけです。
GoogleアシスタントやAmazonアレクサなどのバーチャルアシスタント、Facebookメッセンジャーや微信などのメッセージアプリ等は、人工知能(AI)と思われがちですが実際には人工無能です。

2015年に登場し話題になった「りんな(人工知能)」という女子高生AIもAI(人工知能)を自称していますが、厳密にはチャットボット(人工無能)です。

人工無能はあくまで表層の「会話」を目的としていますが、人工知能は人間の思考(脳)そのものをコンピューターで再現し、コンピューターに人間の様な感情を持たせる事を目的としています。

Аеолия @aeolia_sch

@homurc_main 我々「人工知能?音声認識モデルに機械学習を利用しているのかな?」 一般人「へえ〜これがAIかあ!」

2020-03-19 09:21:06
新美晴生☝️消費税廃止最賃1500韓国と仲良く変化模索中 @hniimi1949

@homurc_main @yokyun68k Q&Aを検索しても出てこない内容を機械に聞いても、わかりません用語を変えて質問して下さい。という使えないのも「人工無能」なのでしょうか。

2020-03-19 09:39:23
ゆづへけ @yuzuheke

@homurc_main 辞書アプリみたいなのかな?

2020-03-19 10:16:08
A氏 @19650830akira

@homurc_main 女性型お手伝いアンドロイドのイラストを表紙にする某誌と同じ感性の方が問答想定集を作成したみたいですね。 キモいっす。

2020-03-19 15:58:57
A氏 @19650830akira

@homurc_main 文頭に“まるで”が抜けていました。 すみません。 勿論同じ方が作成しているわけではないと思います。

2020-03-19 16:30:27
たかしでゅくし@Wanna be ヒモ @narushitakashi

@homurc_main 素人で申し訳ないのですが、質問させてください(批判とかではないです) ①別ツイで「りんなはAI」じゃないと仰っていましたが機械学習がシステムにあってもAIではないのでしょうか? ②AIか定型文に反応するか、は見ただけで判別できるのでしょうか?それともシステムもどこかで見れるのでしょうか?

2020-03-19 16:47:02
たかしでゅくし@Wanna be ヒモ @narushitakashi

@homurc_main りんな機械学習はこの記事を参照しました りんな機械学習の記事 lp.fanp.me/blog/chatbot_a…

2020-03-19 16:47:33
さくら・あい @sakura_ai_dq10

@homurc_main 記者の質問には多くが「お仕事に関係する質問へお答えしたいです!」との返事だった。(略)なぜ女性駅員は返事が変わったのかははっきりしないがこうした質問が多くてAIが学習した可能性news.livedoor.com/article/detail…引用終 AIも人も学習するんです!

2020-03-19 16:48:54
Zuika @monocrow8

@homurc_main 誰かがキャバクラ設定を故意にしたのならば余計にタチが悪いですね

2020-03-19 18:32:42
かずちゃん813歳 @kazuchan813sai

@homurc_main @nasukoB 「伺か」の発展型なら未だしも劣化型( ゚д゚)

2020-03-19 18:35:01
べべ @GonbeMou

@homurc_main 結局本物の人工知能(AI)を作るには本物の脳を作ってみるしかないのか…?

2020-03-19 20:49:11
hibiki @1hibiki

@homurc_main でも、人工知能と謳っているので、本当に学習して、独自のリアクションを取り出すかも🤓 それは…

2020-03-19 21:21:05
ハイソなラーメン @hiroyuki_yanaga

@homurc_main ごみの対応に有能な人材が使われる始末。

2020-03-19 21:31:48
矢口海人 @yaguchi_kaito

@homurc_main 情処の資格保有者なんてそれこそ腐るほどいますよ。一番にそれが出てくるあたり、大した技術者でない証拠です。

2020-03-19 22:58:45
クモノコウジ◕BBQ行きたい @CANDRA5050

@homurc_main 全くその通りですね 現在のAIは「Aと問われたらBと答える」の積み重ねでしかありませんから、本当に思考する人口知能が誕生するのは何時になるのでしょうね…

2020-03-18 23:56:28
みっふぃ@イベント参加未定 @udomyon_69

@CANDRA5050 Aと問われたら該当する答えを蓄積したデータのなかから探してBと返すのがAIの仕事です。 Aと問われたらBと返すを多量に登録しているのは人工無能です。 スリーサイズを聞くのがセクハラに該当すると認識して返しているならAIです。 スリーサイズを噴く文章を無視する、なら人工無能でしょうけどね

2020-03-19 18:12:52
クモノコウジ◕BBQ行きたい @CANDRA5050

@udomyon_69 残念ながら現状は蓄積した物から探すといっても自己判断してる訳ではなく、AならB、但しAに条件Cが付く場合はD、といったようにプログラム判別しているだけですので、本質的に同じものですよ スリーサイズを聞くのがセクハラだと認識出来るAIは現在は存在しません(そう見えるだけのものはありまが)

2020-03-19 18:24:36
みっふぃ@イベント参加未定 @udomyon_69

@CANDRA5050 まぁそこはそうですね。解答や分析の部分は色んな推論モデルをプログラムで実現してるだけなので。 スリーサイズを聞くのがセクハラだと認識させるには学習データを用意してあげないといけませんね。 学習すらなく条件文構成なら正しく人工無能でしょう

2020-03-19 18:34:26
くまぽ @kumapo33

@udomyon_69 @CANDRA5050 横から失礼します。元ツイの人工無能は言いすぎかと思いますよ pic.twitter.com/nRNrAqE16c

2020-03-19 22:48:07
拡大
みっふぃ@イベント参加未定 @udomyon_69

@qm5_mb もっぱら現代におけるAIは学習データと数学モデルを用いた機械学習のアルゴリズムとその解なのですが、ツイート主さんは処理を記述されたものはAIと呼ばないと言いたい人なのかと思います。 このスタンスならばそもそも前提が噛み合わないのでお互いの立場の意見程度にとどめた方がよいでしょうね。

2020-03-19 23:15:55
くまぽ @kumapo33

@udomyon_69 なるほど😓レスありがとうございました🙂

2020-03-19 23:32:14
残りを読む(28)

コメント

ヘルマン @bookman17 2020年3月23日
人口知能だろうが人口無脳だろうが、セクハラだなんだのクレームは的外れないちゃもんでしかないいうのは変わらん
23
aioi_au @aioi_au 2020年3月23日
人工無脳と言えば、"アレ以外の何か"かな。
5
かにたま大臣 @pokkaripon 2020年3月23日
人工無脳って単語ジオシティーズ時代以来な気がする
5
稟@馬主ライフ @Rin_chaaaaaaaan 2020年3月23日
「僕は国家資格情報技術者です」というのは何か言論を強化するものなの?本当に知ってる人なら基本か応用かくらいは書くのが普通だし嘘なんだろうけど。
6
たけ @Eo554IijYfHOQqw 2020年3月23日
「スリーサイズ教えて」→「聞こえなかったことにしますね」 をキャバクラ設定って呼んでる人いるけどキャバクラってこうなの?
7
koumi@社交不安 @say_koumi 2020年3月23日
コメ欄間違えてる人多いけど人工無能だよ。
1
ゆきやけ @yukiyake_ 2020年3月23日
無能ではないし、脳ほど高性能な処理をしてないから無脳と言われてる
3
すみ27 @sumi_nina 2020年3月23日
良いか悪いかは別として、ぶっちゃけ日本ではこの手のものは一切合切全部ひっくるめて「人工知能(AI)」と呼ぶ。だってそっちのほうがわかりやすくキャッチーだもの。
6
ロックな子 @hardde6975 2020年3月23日
sumi_nina 実際、「人工無能」という名称が造語に近い部分はあって、日本で言う所の「人工無能」は欧米等では「チャットボット」と呼ばれて人工知能(AI)とは完全に別物として切り分けられています。ただ、チャットボットの基本プログラムには人工知能開発の過程で作られた物が使われていたりもするので、人工知能であるとも言えるし人工知能ではないとも言えるグレーな位置にある"Bot(ボット)の一種"ですね。
8
ロックな子 @hardde6975 2020年3月23日
hardde6975 それを人工知能と呼んだ方が、人工知能と人工無能の違いが判らない人には「人工知能みたいな物」と解り易い説明ができてキャッチ―なのも事実ですが。
0
ロックな子 @hardde6975 2020年3月23日
bookman17 人工知能に人格(人権)を認めるか否かという点の話になると、人工知能は「人工的にコンピュータ上などで人間と同様の知能を実現したもの」なので、人工知能に人格(人権)を認めるか否かは議論になる所です。「お前らは人工知能に人権を与えるのか?」みたいな指摘をフェミに対してしている反フェミがいましたが、その反論の仕方は、人工知能と人工無能の違いが解って無くてやばいなと。
1
ロックな子 @hardde6975 2020年3月23日
hardde6975 人工無能(チャットボット)の受け答えは、「Aと質問されたらBと返す」という様に質問に対する答えが開発した会社からこの場合JRに"納品"されている訳で、セクハラ云々というクレームは「納品した会社のコンプライアンス」という話になるので、人工知能の人格(人権)がどうこうという、技術の話に争いを持ち込まず、飛び火させず「納品した会社のコンプライアンス」という土俵の中だけで争って欲しいなとどっちつかずな第三者として思います。
1
名前はまだない @774rider 2020年3月23日
人工脳に略しちゃえば両方含められるぞw
1
ロックな子 @hardde6975 2020年3月23日
774rider 人工脳だとブラックゴーストのあれや、怪盗紳士の三代目と戦ったクローンのあれまで含められそう。
1
しばカワ系👺 @sibacawa 2020年3月23日
伺か と思ったら違うのか
0
瀬賀或 @Kesizumi 2020年3月23日
人工痴能うずらとか一時期言語解析系が流行りましたね懐かしい 会話系の人工知能をちょっと馬鹿にしつつ謙遜も込めて人工無能と言ってるだけでそれ自体は基本的には人工知能なんじゃないかなーと
0
エリ・エリ・レマ・サンバディトゥナイ @mtoaki 2020年3月23日
Kesizumi 構文解析して定型応答してるだけだからなぁ。インテリジェンスはないと思う。ボッコちゃんも「アタマはからっぽ」だし。
0
ヘルマン @bookman17 2020年3月23日
hardde6975 そんな議論が現実であるのね。きちんとした定義の人口知能だろうとAIさくらだろうと「人権が〜」なんて言う奴らなんてツイフェミみたいな香ばしいのしかおらんと思ってた
0
ビッター @domtrop0083 2020年3月23日
辞書で卑猥な言葉を引く人へ、「それは辞書へのセクハラだ」と言う人。 「辞書へのセクハラとは?」と聞き返すと「辞書に卑猥な言葉をのせる必要性を問題視している」とか言い出す人。 これらは、はっきり言って狂人だけど。 辞書をAIに変えたら狂人じゃなくなるらしい。
18
フルバ @furubakou1 2020年3月23日
犬の肛門を凝視したら犬へのセクハラになんのかね。
1
nekosencho @Neko_Sencho 2020年3月23日
「人工知能」の定義なんて、簡単に実現されるようになったらそれは人工知能ではないって定義の変更していってるだけだからなあ。 今の定義だとそうなるってだけで、きっとそのうち今AIだともてはやされてる囲碁でプロ破ったようなあれも人工知能ではなくなるんだ、単に定義の変更で。
0
瀬賀或 @Kesizumi 2020年3月23日
mtoaki まとめにもありますが、強いAI弱いAIとはまた別かなと インテリジェンスの有無で決めるならその定義をしないといけないですし
0
かじ @micking_bird 2020年3月23日
domtrop0083 AIにセクハラな質問をするというのは、ただ壁に向かって言葉を投げているというのとは違うんだよ。質問者はAIという「人間を模したもの」に対して質問して、“反応”を期待している。Siriでも他のでもいいけど、セクハラ質問に対して、なんらかの特定の応答をするからさらにセクハラ質問が続けられる。これが「よくわかりませんでした」となるなら最初の一回で終わりだよね。この「インプットして相手の反応を愉しむ」という会話の要素こそが、一方的にインプットして調べる辞書との決定的な違いだと思う。
1
フルバ @furubakou1 2020年3月23日
micking_bird そこに違いがあったとしてなにが問題なんだ?所詮AIだってモノだろう。
2
ヘルマン @bookman17 2020年3月23日
micking_bird 結局のところどう違おうと人権やセクハラうんぬん言う奴らはおかしいという事に変わらないけどね
9
儀狄_2nd @2ndGiteki 2020年3月23日
bookman17 bookman17 AI駅員にセクハラ質問できる→現実の女性にもセクハラ質問できて当たり前だと勘違いする→現実の女性にセクハラ質問して職場をクビになる→生活苦→わたるが死んじゃう! という事態を防ぐためにも、セクハラかどうかは別にして、あのようなAI駅員は無くさなければなりません。(ネタ通じます?)
4
SA♥️NO @sano810114514 2020年3月23日
「僕は国家資格情報技術者です」この唐突な自分語りは発言を権威付けるためなんですかね
5
かじ @micking_bird 2020年3月23日
bookman17 私のコメントは「辞書に対する行為とAIに対する行為の機能的差異」について述べているはずなのですが、どこをどう読んで「人権やセクハラうんぬんいう奴らはおかしい」という言葉が出てきたのか(確かに私はセクハラという言葉を使っていますが私以外の他の方も使っていますし、そもそも人権という言葉に関してはこのコメ欄で誰も使っていないのにいきなり出てきたので、一体何を読んでいるのだろうとビックリしました)不思議に思いますし、それを私の宛てにリプライする思考の機序には大変興味があります
0
かじ @micking_bird 2020年3月23日
furubakou1 私の主張は「両者に対する行為に本質的な違いはあり、辞書のアナロジーは不適切」だけですので、「何か問題でも?」と言われても「逆にアナロジーが不適切だったなら何か問題でも?」と聞き返すほかありませんし、あなたが仰った「そこに違いがあったとしても」という部分が本筋ですので、そこ以外に関することを聞かれても「論点にもしてないことを返答してくるなんてどこをどう読み取ったのだろう」という感想しか抱かないですね。
0
柵檻 @SAKUOLI 2020年3月23日
人間を模したものでも、例えばマネキンにバカって罵倒しても別に大した問題ではないですよね・・・
5
フルバ @furubakou1 2020年3月23日
ガンプラのダメージ表現とかヤバいことにならん?
4
柵檻 @SAKUOLI 2020年3月23日
人を模したものは人と同じ扱いでなければならないとするならば、人形を捨てる事にすら捨て子と同じような倫理的な問題が生まれてしまいます。これはかなり無茶な話です
3
mikaka @michando1 2020年3月23日
作ってる人も趣味なわけじゃなくて仕事だからやってんだよ。セクハラしてくるバカがいるからうんざりしながら当たり障りのない回答をいちいち用意してるんだよ でないと正答率が下がるから
0
名前はまだない @774rider 2020年3月24日
セクハラ質問に対して警告とかの答えを用意したら、クレームで喚き立てるじじいが出てくるだろうなぁ
0
🈂トリ @satori_Lv35 2020年3月24日
AIに思考回路も感情があると思ってるほうが異常なのだが、感情・・・?、感情があると思ってたの?、ばっかじゃねえの。
2
北邑直希 @naoki_ng08 2020年3月24日
sano810114514 「僕はものすごく原子力に詳しいんだ」と何ら変わりない……。
2
ボンズリ @buront026 2020年3月29日
基本情報技術者ってそんなドヤ顔でイキれるレベルの資格か…? 就活に多少+評価はあるだろうけど社会人2年くらいまでしか自慢できんやろ
0