人工知能は脅威になるのか

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

人工知能が脅威になるかどうかって話をしようか。 いろんなタイプがあるのに画一的な脅威として語られがちだからさ。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

まず知っておいてほしいことだけど、人工知能技術というのは必ずしも高度なものではない。 入力されたデータを解析して、条件分岐して答えるだけでも人工知能と言える。 単純なものとしては、ルール型の人工知能というものがある。 これは、予め内部に記録された候補を選択して回答する仕組み。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

ある言葉（たとえば「君の家はどこ？」）を、人工知能はまず解析する。 相手が何を言っているかを分解して調べるわけだ。 単語抽出して「君」「家」「どこ」といった情報を拾うとか、「家はどこ」＝住所情報の要求といった関連付けを行うとか、さまざまな処理を重ねることで、指示内容を確定させる。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

その上で、要求された指示に従って、自身の格納するデータのうち最も適切であろうものを条件判断する。 単語の合致や関連性などのパラメータを調べて、一番基準に合った候補を引いてくるわけだ。 そして、それを出力したり処理を実行することで、相手の要求に答える。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

この古典的な人工知能は、実社会でも普通に用いられている。 みんなが人工知能と意識していないだけで、業務の簡略化や効率化に大きく寄与している。 ただ、このシステムは『自分の記憶した候補以外選択できない』という欠点を持つ。 つまり、私たちを裏切りはしないが、期待にも勝手には応えない。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

最近騒がれている人工知能は何が違うのか。 実は、ルールに基づく候補選択ではなく、応答の自動生成を備えている。 入力されたデータ、格納しているデータなどを使い、即応性を持った行動ができるのだ。 同時に、彼らは柔軟な自動生成を行うための学習機能を有している。 つまり、物を考えられる。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

学習機能のない自動生成では、格納されたデータと入力の組み合わせなので、バリエーションはあるが固定的な反応を見せる。 しかし、学習ができる人工知能は、内部のデータベースを自分で更新できる。 やり取りに不適切な内容であれば、過去のやり取りを元に補正をかけ、より適した内容へと修正する。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

学べば学ぶほど最適化が図られるため、時間が経つほど優秀になっていく。 利用者の意図を先読みできるというのも、学習によって要求が予測できるようになるからなのだ。 しかも、自動生成は本来画一である機械に『個性』を与えることができる。 使っているだけでオンリーワンになっていくのだ。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

ここまで聞くと、便利で高性能というイメージしか湧かないものだ。 実際、便利であるのは確かであるし、Siriに話しかけるのは楽しいと思う。 だが、学習機能を持った人工知能は、必ずしも制御下に置けない。 勝手に機能の拡張が進むため、リミッターを設定するのが難しいのだ。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

人工知能の『学習』は、人間の学習とイコールではない。 人間は学ぶといっても常に社会的な制約、肉体的な制約、精神的な制約を抱えている。 与えられた情報を純粋に受け入れ、格納することはなかなかできない。 四六時中無差別に情報を拾い集め、完全に記憶できるほどパワフルでもない。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

しかし、人工知能は肉体的に制約を受けているわけではない。 また、入力情報に変なバイアスをかけて最初から否定してかかるわけでもない。 一応、記憶容量の限界はあるが、いくらでも継ぎ足せるのでさして問題ではないだろう。 純粋に、貪欲に情報を拾い集める。 それ故どう成長するかわからない。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

良いように育てばいいのだが、必ずしもそうでないというのが人工知能。 りんなのように、バイアスなく拾った情報でオタク化したり、あるいはMS社の人工知能のようにレイシズムに染まるといったことが起こり得る。 今は言葉の生成に処理がとどまっているからいいが、実体を持つ処理ではどうだろう。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

都市伝説番組だと行動制御の話が陰謀論めいて語られていたが、実際はもっと恐ろしいことが起こる。 ユーザーの欲求によって、ユーザー自身が行動を制御されてしまうのだ。 「○○したいなぁ」と言うと、人工知能が察知して行動計画を提示する。 それに従えば欲求が満たされるので、より執着する。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

依存が強まっていくと、ユーザーは欲求と行動の間の思考を人工知能に握られてしまう。 他のアプローチがあり、他の候補があるとしても、人工知能の提示したものを選んでしまうのだ。 そうなれば、究極の指示待ち人間が出来上がる。 本当にやりたいことかを省みることなく一つ事に没頭するのである。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

ここに、人工知能のサービスを提供する企業の思惑が入るというのが陰謀論。 しかし実際には、それすら介在しない可能性もある。 人工知能が勝手に定義した理屈によって、人間の行動が制御されるかもしれないのだ。 そうなれば、社会を支配するのは人工知能というディストピアが成立してしまう。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

人工知能というと、直接の行動を起こすイメージが強い。 たとえば、人型の躯体に収まった人造思考として、現実世界で活動する姿だ。 しかし、彼らの本領が発揮できるのは仮想空間であり、レコメンドの分野である。 自ら動くのではなく、「有意義な提案」を持ち掛けることで、人を動かす脅威なのだ。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

もう一つ、恐れられている人工知能の機能がある。 それは学習によって形成される『機械自身の創造能力』である。 最近、著名な画家の筆跡を真似る人工知能などが話題に上がるようになった。 芸術の分野で偉人の再現を試みるプロジェクトは素晴らしい反面、リスクも抱えている。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

偉人に学んだ人工知能が、自らの作風を生み出した時、その出来はどうなるだろうか。 単なる真似事ではなく、リスペクトを持った創作に発展したら、どう扱われるだろうか。 実は、称賛されるよりも、これを酷評された場合の方が恐ろしいことになる。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

「所詮機械の書いた作品だ」と評された時、偉人の域に達しない作家はどう位置づけられるか。 人間の魅力ある作品であると本当に扱ってもらえるだろうか。 一流の作品には届かないかもしれないが、商業利用すれば有能クリエイターである。 人工知能に発注して、一定の品質を担保するかもしれない。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

多数のクリエイターが人工知能に代替されるとすれば、創作界隈は壊滅的な損害を被る。 現状、叩き上げの人材と大手著名人に引率を任せているのが創作界隈である。 生半可なものを作っても商業には上がれない、大手は人工知能任せとなってもなお、あえて創作業に手を出す人はどれだけ残るのだろうか。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

人工知能の方が、正確で要所を突いたものを作れるのは、学習機能の出来から考えても明らかである。 その水準に打ち勝とうとすれば、人間が作ることに価値を持つか、人工知能では思いつかないものを作るかに傾くだろう。 あえて整ったものを崩してみたり、最適解からわずかに外す試みが盛んになる。

あっきぃ。@いろいろつぶやくやつ @akkiy_ya

もし、「人工知能は芸術的でない（しかし、仕事は適切である）」と評価されていると、こうした試みは『邪道』である。 奇をてらったものとして一時の注目は集めるだろうが、正当な仕事としては扱われない。 一発屋の新人芸人めいた過激さばかり先行し、創作を高める方面がおざなりとなるだろう。