炎上を避けるためには「ブラックリスト」が必要→その表現がもうすでにNG？！言葉の選択を適切に行うにはどうしたらいいのか……

chokudai(高橋 直大)@AtCoder社長 @chokudai

「生娘シャブ漬け」の話、いくら何でもその表現は自分は使わないけど、いつの間にかボーダーが変わってたら怖いなーとは思う。「中毒」とか「依存症」とかは平気で使っちゃうけど、20年後くらいにこれらの単語で怒られないという確証があんまり持てないし、感覚を適切にアップデート出来るか分からない

chokudai(高橋 直大)@AtCoder社長 @chokudai

自分は「どういう言葉の選択をしたか」じゃなくて「実際にどういう活動をしているか」が本質だと思ってるので、「若い女性をターゲットに習慣化を狙う」って言いかえれば問題ない活動なのであれば、個人的にはそんな大きな話ではないと思うのだけど、世の中的には言葉の選択めちゃめちゃ重要よね。

chokudai(高橋 直大)@AtCoder社長 @chokudai

パワポやテキストを読み込ませると「炎上リスクのある表現」をリストアップしてくれるソフトウェア、有償でもめちゃめちゃ企業に売れそうだし、ビジネスチャンスなんじゃね？？って思いながらツイートしてたんだけど、単純なブラックリストにはできなくて、使用方法まで出てくるのがかなり難しい。

ころんびあ @colum2131

Jigsawコンペのtoxic-bertの日本語版が待たれるのかも？👀 huggingface.co/unitary/toxic-… twitter.com/chokudai/statu…

ころんびあ @colum2131

データセットさえ作っちゃえば解決可能な問題ではありそうだし，domainによって変わるだろうけどまあ日本語toxic-bertさえ作っちゃえばfine-tuningでよしなに感はある？

Koichi Hukami @lordrymight

ちょっと意味合いは違うかもしれないけど、ゲーム業界は過去こういう事に敏感な時期があったから、単純なNG用語を抜き出すだけならバンダイ系やコナミは自社で用意してたなあ。 今だとソシャゲはほとんど用意してるよね。名前入力で弾いたりしなきゃいけないし。 twitter.com/chokudai/statu…

くらいず @gurencrize

燃えそうなフレーズをハイライトするだけでもある程度効果ありそう 表現として燃えそうかは人の判断に委ねることになるけど twitter.com/chokudai/statu…

chokudai(高橋 直大)🐙🔥@AtCoder社長 @chokudai

そうそう。すでにアップデート出来てないかは置いといてこれは思った。 単純に「この単語は避けるべき」ってだけなら、ブラックリスト作ってその単語が使われているか判定するだけだから簡単だよね、って思ったんだけど、結局その単語の使い方なので、単純に判定できない。 twitter.com/kzlogos/status…

2022-04-20 11:56:08

アッシー @ashitsunokara

n-wordなんかはたとえ外国語で全くコンテクストの関係のない場合でさえ不適切であると文句を言われる場合もあるので、（ウマ娘で「なんちゃら黒魔法」が「マズマズ黒魔法」に変わったのとか、）単語の使い方だけ問題にすればいいわけでもないのが難しい。 twitter.com/chokudai/statu…

がじらんむ @kzlogos

レッドブルの「『人権』はスラングとして使われてて～」って話もそうだけど、単語が問題になっているわけではなく不適切な表現をしているのが問題なのでセーフかどうかを用語で線引しようとしている時点で既にアップデートできていないですね twitter.com/chokudai/statu…

chokudai(高橋 直大)@AtCoder社長 @chokudai

そうそう。すでにアップデート出来てないかは置いといてこれは思った。 単純に「この単語は避けるべき」ってだけなら、ブラックリスト作ってその単語が使われているか判定するだけだから簡単だよね、って思ったんだけど、結局その単語の使い方なので、単純に判定できない。 twitter.com/kzlogos/status…

きると @whileTrue398

界隈によってはセーフでも炎上して外に出るとアウトな表現もあるしむずかしそう twitter.com/chokudai/statu…

ǝunsʇo ıɯnɟɐsɐɯ / メタバース炎上対策専門家 @otsune

かなりマジレスしますけど。 ネット炎上はTPOに相当左右されるので「無名のサラリーマンが似たような投稿をしてもスルーされてたけど、公的な立場の人が投稿したら、お前がいうなと炎上した」という事例が多いので、単純な辞書的なチェック対応だとかなり精度が低いです。 twitter.com/chokudai/statu…

ǝunsʇo ıɯnɟɐsɐɯ / メタバース炎上対策専門家 @otsune

あと「11年前は疑われた悲しいおじさんの嘆きあるあるネタ投稿として扱われたが、2022年になって性被害者への配慮と想像力に欠けた投稿をしている芸人」みたいな時間差炎上もあったりする。

@__dAi00 @__dAi00

公開するまえに一歩立ち止まってくれれば良いので偽陽性は気にしなくてもよさそう 実際「用法によってはヤバくなりうる表現」なんてめったにないだろうし、波線で溢れるみたいなことにもならなそう ちなみにこのツイートの場合は「ブラックリスト」に波線が引かれます twitter.com/chokudai/statu…

chokudai(高橋 直大)@AtCoder社長 @chokudai

このツイート見て「ブラックリスト」って単語がそもそも引っかかりそう、ってリアクションしてる人複数人いるんだけど、その辺の感覚みんなすごくない？ って感じで波線引いてもらえると予想外の発見があったりするので、擬陽性のものがあってもガンガン指摘する系がよさげ。 twitter.com/__dAi00/status…

CWD_C @Caf_cwd

そもそも細かくしていくと「ブラックリスト」も引っかかる気がする それはまぁおいておいて、あの件について表現が致命的にミスってるでしょは性別問わず割と多くの人が思ったかなと 言いたかった内容に関しては噛み砕けば大きく問題ある内容ではないと思うけど、言い方に関して大きな問題があった twitter.com/chokudai/statu…

Shu@ImamuraCorp @ShuImamuraCorp1

グローバル企業では3年ぐらい前に、ブラックリストはDeny List（拒否リスト）、ホワイトリストはAllow List（許可リスト）にするように通達来てましたね。文化はアップデートされてよりよい方向へ変えていくという価値観の中でビジネスは進んでいきます。 twitter.com/chokudai/statu…

旅ガエル @cruz116

正直、海外で奴隷やら差別やらした結果、海外で言葉狩りみたいなことしてるものはアップデートにも限界があるよなとは感じる。 ITやってなかったら、遊戯王くらいでしか「あらゆるブラックという単語で怒られうる」とかわからんかったし。 (米版のブラック・ホールはDark Hole) twitter.com/chokudai/statu…

旅ガエル @cruz116

ブラックマジシャンを例に出した方が分かりやすかったかもしれん 結局Darkに変えられてるんやけど。

旅ガエル @cruz116

そして単語じゃなく熟語やな…