詩的な言い回しがAIのガードレールをすり抜ける“抜け穴”として作用することを示す研究論文が発表された。詩の形式で質問すると、チャットボットが本来なら拒否すべき危険な内容にまで応答してしまう現象が確認されたのだ。