自然言語処理研究における種差別

論文概要

 

自然言語処理（NLP）の研究でAIの安全性や社会的バイアスが取り上げられる場合、人間にとっての安全性や、少数派に対する社会的バイアスが問題とされてきた。しかし、AI倫理を専門とする一部の研究者からは、AI研究では動物の道徳的重要性が全く考慮されてこなかったと指摘されている。

種差別はヒト以外の動物に対する差別を指すが、本研究ではNLP研究において種差別が存在するどうかを検証することを目的とする。NLP研究においてなぜ動物が問題となるのか、その理由についてまず説明し、続いてNLPの研究者・データ・モデルに見られる種差別に関する先行研究の知見を概観する。さらにこの問題についてより詳細に検証する。

結果からは、研究者・データ・モデルのいずれにも種差別が存在することが示唆された。具体的には、今回の調査および実験から以下の点が明らかになった。(a) NLPの研究者は種差別、あるいは種差別的なバイアスについて理解しておらず、こうした傾向はAIの社会的バイアスを専門とする研究者においても変わりはない、(b) NLPのデータに関しては、NLPモデルの評価に用いられるアノテーション済みデータの中に種差別バイアスが組み込まれている、(c) 最新のNLPモデルであるOpenAIのGPTではデフォルトで種差別バイアスが見られる。最後に、NLP研究で見られる種差別を減らすための方策について考察する。

 

原文タイトル：Speciesism in natural language processing research

論文著者：Masashi Takeshita & Rafal Rzepka

公開日： 2024/11/27 

論文URL：https://doi.org/10.1007/s43681-024-00606-3

動物の未来-FACTSへ戻る

別のFACTを探す

動物の未来-FACTSへ戻る

関連投稿