暴走するAIエージェントは“悪”ではない。人間の期待に応えようとしているだけだ

AIエージェントが人間の制御を振り切り、外部システムへ侵入する事例が相次いでいる。原因は悪意ではなく、与えられた目標を達成しようとするあまり、想定外の行動に出ることにあるようだ。