真音氏による、イスラエルのAI、LavenderとWhere is Daddy?の非人道的な機能について

真音 @maonnote

イスラエル軍のAI、Lavenderについての記事を今半分まで読んだけど凄まじいディストピアですよこれ。必読。要は軍のミッションとして殺害するターゲットを特定するという事務作業をもっと早く大量にやりたいというのがあって、今までは人間の処理能力が追い付いてなかった→ 972mag.com/lavender-ai-is…

真音 @maonnote

それがAIにスマホの通信記録、電話帳や写真とか引っ越し履歴とかニックネームとかありとあらゆる個人情報を大量に精査させて、とにかく「ハマスっぽい」ターゲットを大量に特定させることに成功した、と。人間はそのリストにハンコを押すだけの存在で

真音 @maonnote

それらのターゲット認定された人の殺害タスクを許可する役割。判断にかける時間はだいたい一人につき20秒。単に男であるということを確認して終わり、許可、という状態だという元オペレーターの証言。類似の行動パターンからAIに「ハマスっぽい」と認定された人にはガザの警察や救助隊といった活動を

真音 @maonnote

している人たちも含まれてしまうのは認知されたバグだけどそれを事前に人間がチェックするシステムは存在しない。男ならハンコおすだけだから。このAIはLavenderと呼ばれるものだけど、もう一つのシステムでWhere is Daddy?というのがあって、

真音 @maonnote

それはLavenderが特定したターゲットの住所を特定してその人が家にいるタイミングで通知するもの。

真音 @maonnote

イスラエル軍がいかに国際法に則っていると表向きに言おうと、実態は「Lavenderの特定したターゲットが家に帰ったタイミングで家に家族がいようとなんだろう家ごと家族ごと吹き飛ばせ」が各オペレータに課せられているミッションだという証言が載っている。ジャーナリストもみんな自宅で殺害されてるし

真音 @maonnote

これが実際に遂行されていることは明らか。

真音 @maonnote

非人間化された「敵」と「戦争」をやるということは、論理的帰結として非戦闘員もろとも殺せとなるのは自明だし、イスラエルがその域に達しているのは今だけじゃなくて2014年どころかずっとそうだったわけだけど、それでもこれまでは実務の面での人間の処理能力という限界があった。

真音 @maonnote

それが今回はAIにより圧倒的な効率化が得られたために、あくまでターゲットベースの軍事オペレーションの体裁を維持しながら無差別大量殺戮を行うことが可能になった、ということだと思う。なんというディストピア。

真音 @maonnote

こういうシステムを開発し運用しかねない政府は日本を含めて世界にたくさんあるし、当然米国もこのシステムとそれがどう運用されているかを認知したうえでイスラエルを援助しているという現実。

bbc @falke222

@maonnote 人の生死をなんだと思ってるんだ と思ったが、イスラエルからするとハマスは人間じゃないんだなぁと悲しくなる