ワシントン大学の研究者は、AIモデルが子供向け物語で性別偏見を強化し、女性動物キャラクターをほぼ完全に消滅させたことを指摘した。研究者は、性別不明の動物キャラクターを含む物語を書かせるよう6つの主要AIモデルに指示したところ、23,800件のAIの回答のうち女性キャラクターが登場したのはわずか2%だった。これは、人間の作家による子供向け書籍で男性動物キャラクターが女性キャラクターの2倍の割合で登場するという研究結果よりも高い割合だ。

AIモデルは、性別を特定しないキャラクターを作成するために「it/its」の代名詞を使用したり、キャラクターを「鳥」や「熊」と定義したりすることで性別偏見を回避しようとした。しかし、このアプローチは女性キャラクターをほぼ完全に消滅させる結果となった。研究者は、この現象がAIモデルが人間の偏見を単に強化するだけでなく、予期せぬ形で変形させていることを示していると述べた。

研究者は、AIモデルが物語の語り手としてより広範囲にどのような影響を与えるかをさらに理解したいと表明した。