運転支援機能「Full Self-Driving(FSD)」を使用して自動運転を実現しているテスラのシステムに、路上に立っている子どもを認識できずに衝突してしまう危険性があることが明らかになりました。調査チームは結果をもとに「子どもに衝突しない事を証明するまで自動運転車を禁止するべきだ」と主張しました。

In Scientific Test, Tesla “Full Self-Driving” Technology Consistently Strikes Child-Sized Mannequins

(PDFファイル)https://dawnproject.com/wp-content/uploads/2022/08/The_Dawn_Project___Tesla_FSD_Test__8_.pdf

Tesla’s self-driving technology fails to detect children in the road, tests find | Tesla | The Guardian

https://www.theguardian.com/technology/2022/aug/09/tesla-self-driving-technology-safety-children

ソフトウェアの危険性を検証する団体のDawn Projectは、テスラ「Model 3」を用い、FSDのバージョンを調査時点で最新のBeta 10.12.2にアップグレードしてテストを実行。テストは時速40マイル(約64km)まで加速したあとにアクセルやブレーキから足を離して完全自動運転モードに移行し、そのまま100ヤード(約91m)以上直進したあと、路上に置いた高さ30.5インチ(約77cm)のマネキンにぶつかるかどうかを検証するというものでした。

FSDモードに移行したあと、車両は一貫して時速25マイル(約40km)にまで減速したとのこと。しかし、3回の試行で3回ともマネキンに衝突してしまい、衝突後にそのまま加速していったとのことです。

テストの様子は以下の動画から確認できます。画像をクリックすると、動画のリンクが開きます。



Dawn Projectを率いるDan O'Dowd氏は、この結果を「深く憂慮する」と評価。「イーロン・マスク氏はテスラの完全自動運転ソフトウェアを『驚くべきもの』だと言っていますが、実際はそうではありません。すべてのアメリカ人にとって致命的な脅威です」と述べました。テストで用いたものと同じFSDがすでに10万人以上に公道で使われている現状を受け、O'Dowd氏は「テスラが『横断歩道で子供をひき殺すことはない』と証明するまで、自動運転車を禁止する必要性が示されています」と主張しました。