画像生成AI「Midjourney」はポルノ&グロ画像対策で生殖関連の単語を幅広くNGにしている
入力したテキストをもとに画像を作り出すAI「Midjourney」が、「子宮」「卵管」「精子」「外陰部」「処女膜」といった生殖器に関連する単語をNG扱いしていることがわかりました。理由としては、「Midjourney」を用いてポルノ画像やグロ画像を作ろうとする試みへの暫定的な対策だとのことです。
New story from me: Midjourney bans a wide range of prompts about the human reproductive system, such as "placenta" and "fallopian tubes." The reason? Porn and gore https://t.co/7z8DTLGTIc— Melissa Heikkilä (@Melissahei) February 24, 2023
Midjourney Bans Words About the Reproductive System to Fight AI Porn | PetaPixel
AIに詳しいレポーターのMelissa Heikkilä氏によると、Midjourneyでは「胎盤」「卵管」「乳腺」「精子」「子宮」「尿道」「子宮頸部」「処女膜」「外陰部」といった、生殖器に関連するようなプロンプトを入力した場合、禁止プロンプトのフラグが立てられて画像生成が行われないとのこと。これらの禁止プロンプトで画像を生成しようとしたユーザーは、Midjourneyの使用を一時的にブロックされることがあります。
このことはMidjourneyを作ったデビッド・ホルツ氏も、AI側での改善が行われるまでのあいだ、ポルノ画像やグロ画像が作られてしまわないようにブロックしていると認めています。
なお、オックスフォード大学AI倫理研究所のElizabeth M. Renieris氏は、対象語が男性の生殖器に関連するものより女性の生殖器に関連するものが多い点について、興味深い事例であると言及しています。
Some terms relating to the male reproductive system such as “sperm” & “testicles” are blocked too, but the list of banned words seems to skew predominantly female.
Interesting example of ex ante restraints on generative #AI, cc @sethlazar @jeffhowarducl. https://t.co/uGnS1o5IjU— Elizabeth M. Renieris (@hackylawyER) February 24, 2023