「最後まで人間だと認識できず」UberのAI車、初の死亡事故が起きた理由（平和博） - エキスパート - Yahoo!ニュース

歩行者をはねたAIは、最後までそれが「人間」だと認識できなかった――。 米国家運輸安全委員会（NTSB）は、2018年3月に米アリゾナ州フェニックス郊外で起きたウーバー（Uber）の自動運転車による歩行者死亡事故に関する報告書を公表した。 米国内ではこのほかにテスラの自動運転車による２件の死亡事故が明らかになっているが、いずれも犠牲となったのは運転していたドライバー。自動運転車による死亡事故で歩行者が犠牲になったのは、この件が初めてだった。 440ページにのぼる報告書では、ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかったことが、明らかにされた。 また、急ブレーキも作動しないなど、様々なシステムの欠陥の連鎖があったことが指摘されている。 一方、この死亡事故の余波で、フェニックス郊外の別の街ではグーグル系列の自動運転車に対し、

[hirolog634]

AIの問題ではないじゃないか。AIを試験、強化中なのに運転手がhulu見てたってことか。そう書いてよ。

[theatrical]

中途半端な自動運転が、運転手が油断するから一番危険というのはなしの実例だと思う。

[Fushihara]

全体的に数字おかしくない？「2.6秒前に人までの距離500メートル」「衝突0.2秒前で距離35メートル」比率はあってるから、単位を間違ってる気がする。時速630km/hくらい出てる事になる。報告書では0.2秒前に40マイル/時≒64km/h

[mats3003]

試験中にhulu見てたってのが、一番問題では。AIの誤作動もダメではあるが。

[timetrain]

車道に人間が出てくると認識してないって、そもそも要件定義というか、学習させる条件を根本から間違ってるだろ。識別エンジン全部作り直しになるんじゃないのか

[augsUK]

この仕様と運用の杜撰さで、よく公道の許可を出して、事故後も再許可したな。悪い例として想定されるだめな要素が全部詰まってるような話だぞ。静止物にフルスピードで当たる仕様の時点で狂ってるでしょ

[kagobon]

人間じゃなくても障害物と認識しないAI

[Delete_All]

痛ましい事故だ。AI車には乗せている人間がマトモかボンクラかを認識できるようにしてもらいたいものだ。→”ドライバーは、よそ見どころか、ウーバー車の運転席で「フールー」の視聴をしていたのだ。”

[eru01]

テスト中に動画見てるのは論外としても、そもそも人だろうがチャリだろうがOtherだろうが、路上になんかある認識自体はできてんのに回避しないってロジックに問題があるやろこれ。Uber（笑）

[kotetsu306]

運転席に座ってHulu見てた奴もクソだが、AIもアカンやろ。「自動車か自転車か迷ったから減速しなかった」って、どっちでも減速しろよ。公道試験していいレベルに達してないよ

[blacksorcery]

距離修正しているけど、秒のほうが変なんじゃない？0.2秒前に警告されて、0.02秒前に自動運転解除って凄まじい反射神経なんだけど、Hulu見てた人。

[daybeforeyesterday]

うーむ

[kikiki-kiki]

人間がルールを破ることを想定してないシステムは問題だけど、逆走とか予想外なルール無視をするのも人間だからプログラムされた設定で動くAIには限界はあるよね。人間を排除できない以上補助的に使うが正解っぽい

[yamada_shirou]

フールーって初めて聞いた時はfoolって書くのかなとか思ってた。

[nakakzs]

『レイフォース』のバックストーリーみたいのだと、この後同じような事件が各地で発生するパターン。

[aya_momo]

ウーバーの技術がだめなのは本当なんじゃないの？

[hihi01]

中途半端な自動運転の一番の危険性は運転者の油断。もうちょっとAIが人間をサポートする位置づけで便利さがぐっとます機能設定があると思う。　https://hpo.hatenablog.com/entry/2019/11/09/091533

[and_hyphen]

“安全確保のためのドライバーは、よそ見どころか、ウーバー車の運転席で「フールー」の視聴をしていた”

[quick_past]

今のAIレベルじゃ自動走行車なんてまだまだ路上に出しちゃいけないと思う。時期尚早

[konekonekoneko]

人かどうかじゃなく路上で動く物体にぶつかる時点でどう考えても駄目だ。

[adwhing]

自転車ひいてたからってのが運が悪かったな。タイヤがあると歩行者として認識されにくい。

[Cujo]

『だが、人を人として認識できないAIによって、人の命が奪われた、という事実は残る』［SFではない］

[takilog]

よく分からないんだけど，LIDARとかミリ波のレベルで見落としたのか，AIが見落としたのか．中身は読んでないです．センセーショナルな煽りタイトルは害しかない

[adramine]

（影の薄い人は実在しないモノとする）という所まで想像したのに、こんなオチじゃダメだ。

[panda_q]

むしろ自動運転ではこういう運転手がたくさん出てくることも想定しないと。これでAI運転の評判は一気に落ちるんだろうな本質ではなくとも。

[dada_love]

僕も職場で人間として認識されていません。

[mkhp]

自動運転は絶対に人が歩かない道路を周遊する場合だけでいいのでは？一般道路は精度のよい衝突回避装備で十分だと思うけど...

[technocutzero]

人災やないかい

[tsutsumi154]

可視光以外も使えないもんかね

[econcon]

基本的に見てるだけでいざと言う時だけハンドルするのめちゃくちゃ難度高くない？30分交代ぐらいじゃないと無理やろ

[beginnerchang]

その点鉄道ってすげーよな、異常を検知したら先ず停止信号が出るもん (ものによっては自動停止システムが義務付けられてるんだぜ)

[mory2080]

ウーバーイーツの配達員も人として見られてないかも知れないな。

[zzteralin]

ロボットの叛乱ｷﾀ━━━━(ﾟ∀ﾟ)━━━━!!

[Dragoonriders]

"車道にいる歩行者を想定していなかった" 「かもしれない運転」のロジックをなんで入れなかったのか。まあ、AIも運転手もダメダメだったの掛け算かな。

[kisato_mii]

なんなのこれひどい

[narwhal]

人間と自動車とは共存できない。我々が自動車を滅ぼすか、自動車が我々を滅ぼすか、そのどちらかだ。

[FTTH]

自動運転のテスト中でも見ちゃうぐらい面白いのはHuluだけ、みたいな感じで広告に使っていけ

[beed]

AIでの公道テスト走行もすでに相当な距離・時間だろうから、人が運転してる他の車全体と事故率を比べたらどうなんだろうか。

[crexist]

あの映像見たけどぶっちゃけ人間でも相当反射神経ある人じゃないと跳ねると思う

[hatebutabooboo]

運転手が最初から人の命を意識出来てない。