AIをテーマとして書いた自身の楽曲をふり返りつつ、AI兵器に関する国際会議について言及するLOVEさんの連ツイまとめ

LOVE @loveyanen

「過ちのサニー」って曲書いてデビューしちゃった私は、AIについてはこの12年間、架空のフィクション小説から、現実のAI開発の記事まで、たぶん一般女子よりはバリバリ読んで来ました。ちなみにサニーは、開発者の博士の良心から生まれたAIって設定で書いたから、ブレーキを仕組んで書いたんだよね。

LOVE @loveyanen

まさにそのブレーキについての国際ルールについて、国連で国際定義をつくろう、の会議が今週進行中とのこと。2014年から始まって7回目で、次回は8月。年2のペース。もはや私の中には草案があるんだけどな！笑。 分ければいいんだよー、AIの「心」と「体」を。

LOVE @loveyanen

サニーで書いた「心」の三原則は「笑う、待つ、許す」としました。人間の好奇心から開発される全ての技術に関して、楽しみに許容すればいいと思うんです。技術者、開発者自体が、人間を裏切って誰かを傷つけたいわけじゃないもん。介護、会話、作業系の向上。多くのAIは平和利用ができると思います。

LOVE @loveyanen

ここまでがAI「心」の仕事。続いて、そのあとの決断以降がAIの「体」の仕事。「体」については「沈黙のスコーピオ」って曲に書きました。こっちはこの技術を使う際に「決める、守る、動く」三原則を持ちます。プログラムなので倫理、歴史や文化理解や直感など、人間らしさが投影できなくなります。

LOVE @loveyanen

国際会議では軍事利用について、まさに「決めて守って動く」の部分でどこまでにします？って決めたいんだそうです。まず、人工知能AIの言葉の定義を法律で決めるとこからやってほしいんだ！実はAIって言葉の定義が定まってないんだよん。

LOVE @loveyanen

アランチューリングさんて数学者が初めて第二次世界大戦時にナチスの暗号を解くアルゴリズムを開発した以降、今多くのAI研究者が目指す「人間のように思考すること」というAIについてのふんわり定義が生まれたわけですが、こう定めてくれたなら、話は早いのになあと。

LOVE @loveyanen

そしたら、AIの「体」の部分は人間のようには絶対思考できないから、いっそ国際的にAIとは呼ばないとか。平和利用でも軍事利用でもアウト。人間が最終決断して使い方決めれる仕組みしか作っちゃダメにしようねって決めてほしいなあ！

LOVE @loveyanen

兵器なら、無人で飛んで対象探してマシンが何かしか銃撃できるとしても、確認できたらボタンは必ず人間がリアルタイムで押しましょう。マシンが「やっときましたんで！」「えっ！違うよ、それ違う人撃っちゃってるよ！」ってもう中東で米軍ドローンが実際に。なんともやりきれないし、あと何よりさ。

LOVE @loveyanen

ミスが起きたときに人が責任がとれないものは商品にしちゃダメだし、まず技術者や開発者の方々がどうしたいか、プロの声が一番反映されるべきだから、世界中の開発者さんにアンケートとりたい！笑。きっと一番素人にもわかりやすいデータになるから次回8月までに、とかって無理でしょうか😅だあああ

LOVE @loveyanen

ちなみにこの会議は、核融合に科学者たちが成功したときにはなかった会議だからとってもとっても貴重。ルールがあれば、原爆だって使用阻止できたかも？参加される方々、なにより国連で開催されるということで議長さんとか、ほんと頑張って欲しい！^_^