Uberの自動運転カーが女性をはねて死なせた事故は、ソフトウェアが歩行者を「誤検知」と判断したためと判明

◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。
・https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road
・https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/
・https://i.gzn.jp/img/2018/05/08/uber-fatal-crush-software-bug/00_m.jpg
・https://i.gzn.jp/img/2018/03/22/uber-accicent-driver/00_m.jpg
・https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/
・https://asahi.5ch.net/test/read.cgi/newsplus/1525785530/

2 ：名無しさん : ：2018/05/08(火) 22:20:49.62 ID:FQ04tQuk0.net

気になってた
自動運転は是非実現してほしいけど安全性がなきゃ意味ない

改良して研究を続けてほしい


4 ：名無しさん : ：2018/05/08(火) 22:22:30.70 ID:WpKLzEWw0.net

コンピューター3台で多数決とかはやらないのか


11 ：名無しさん : ：2018/05/08(火) 22:26:31.50 ID:kmQHNuSA0.net

誤検知か・・・


86 ：名無しさん : ：2018/05/08(火) 23:29:40.48 ID:yuPsn17N0.net

>>11
誤検知ではなく誤判断やろ…コンピュターが人では無いと判断したんやからな、
カメラの解像度や処理速度が人間より段違いで劣っている証拠や、
3歳児でも間違えへんで、



20 ：名無しさん : ：2018/05/08(火) 22:29:18.31 ID:F+FDEcVh0.net

AIに少しムスカが混ざっただけ


211 ：名無しさん : ：2018/05/09(水) 06:51:33.10 ID:4NZn7t+g0.net

>>20
ではAIにパズーを混ぜればつり合いが取れるのか

バルス！



24 ：名無しさん : ：2018/05/08(火) 22:29:39.37 ID:VDBRlanV0.net

自動運転車から認識されやすいリフレクターや
信号を出すデバイスを開発して、歩行者や
自転車に付けてもらうようにしないとな。


256 ：名無しさん : ：2018/05/09(水) 07:48:47.87 ID:gRf7g8x50.net

>>24
冗談じゃなく踏切と同じでこうなるだろう



27 ：名無しさん : ：2018/05/08(火) 22:31:47.77 ID:pMR+3dez0.net

で、結局誰が罪に問われるの？


63 ：名無しさん : ：2018/05/08(火) 23:00:30.59 ID:r5vlcUDs0.net

歩行者にも電波発する物をもたせて
絶対に誤検知ではないっていう証明にすれば事故は減ると思う


66 ：名無しさん : ：2018/05/08(火) 23:03:34.60 ID:8dazY+mC0.net

>>63
歩行車が多い場所で終わる



70 ：名無しさん : ：2018/05/08(火) 23:11:07.11 ID:q5zIWtYN0.net

自動車に突っ込んでくるようなのは
轢いてもしゃあないだろ

そこまで面倒見るほうがおかしい


73 ：名無しさん : ：2018/05/08(火) 23:11:54.63 ID:daRK7Cud0.net

誤検知って言葉の言い様だね
真正面でセンサーに無反応だぞ


78 ：名無しさん : ：2018/05/08(火) 23:20:01.08 ID:UIQ/fLzK0.net

疑わしきは止まれよｗ


79 ：名無しさん : ：2018/05/08(火) 23:22:00.60 ID:L+B72npy0.net

車道をノロノロ歩いてる人も悪いと思う
これ手動の運転でも回避できないでしょ


92 ：名無しさん : ：2018/05/08(火) 23:35:57.60 ID:SdkWt9Em0.net

つうか、
これ同乗者がよそ見してたよね
はねてびっくりしてたよね。

何のための同乗者だよ　ブレーキ踏めよ。


132 ：名無しさん : ：2018/05/09(水) 00:52:30.72 ID:EenNP3ah0.net

>>92
実績作りに
底辺を運転席に座れせていただけだと
バレたてことだろうなｗｗｗ



100 ：名無しさん : ：2018/05/08(火) 23:49:05.68 ID:NrxbyE2A0.net

今のシステムだと道路に酔っ払いが寝てたらそのまま轢くだろ


101 ：名無しさん : ：2018/05/08(火) 23:52:51.77 ID:8dazY+mC0.net

>>100
車へのダメージ考慮して回避するだろ



104 ：名無しさん : ：2018/05/08(火) 23:58:38.21 ID:7Wy5x4JY0.net

膨大な数の車について
メーカーが全責任を担えるはずがない。

持ち主とかメーカーかのケースバイケースになるかもだが、
それだと事例が複雑化しすぎて警察でさばき切れんだろうな。


109 ：名無しさん : ：2018/05/09(水) 00:05:01.38 ID:BG+cFJSA0.net

>>104
責任負えないなら撤退しろ。これまでだって車側の問題ならリコールなりで対応してるのだから。



105 ：名無しさん : ：2018/05/09(水) 00:00:38.72 ID:BRriYs730.net

レーダー的なものを搭載してるから、光量は関係ないよ


116 ：名無しさん : ：2018/05/09(水) 00:22:50.94 ID:l3Ga9y210.net

ひかれた人はどういう動きとかしてたんだろ
服とか


121 ：名無しさん : ：2018/05/09(水) 00:31:36.60 ID:m220mC0r0.net

こええな…
やっぱり自動運転の未来は遠いのかねえ…


147 ：名無しさん : ：2018/05/09(水) 01:37:44.18 ID:0QelJKsJ0.net

>>121
少なくとも「高速道路の自動運転」は着実に実現に向かってるよ
警察でもよそ見運転も許可する方針。



130 ：名無しさん : ：2018/05/09(水) 00:47:35.39 ID:53mPFeia0.net

どっちがはねられた人なんだろね
https://i.gzn.jp/img/2018/03/22/uber-accicent-driver/00_m.jpg


137 ：名無しさん : ：2018/05/09(水) 00:57:11.66 ID:JC+il4yk0.net

やっぱりこのぐらいじゃ運転アシスト機能ぐらいにしかならないのかもな
判断を全て任せて人は運転しないと言う訳には行かないね


150 ：名無しさん : ：2018/05/09(水) 01:42:00.69 ID:20AYMq2L0.net

人間だって誤検知するじゃん
AIもするよ


161 ：名無しさん : ：2018/05/09(水) 02:26:20.57 ID:w5pBKFnG0.net

自動運転で車内は座敷みたいになって4人でこたつを囲みながら空を飛んで渋滞無し、
みたいな未来予想図は1970年代の子供向け図鑑からあったから、
それからすると技術の進歩が遅すぎるな。


171 ：名無しさん : ：2018/05/09(水) 03:35:27.21 ID:xIUNErac0.net

まあ１台の車に判断任せたらどこまでいっても起こるだろうな
昨日のクロ現みたいに歩行者も他の自動車もすべて統合して管理できるシステム作らないと


214 ：名無しさん : ：2018/05/09(水) 07:05:08.67 ID:XxK+Z47R0.net

>>171
ハッキングで企業テロし放題になる
踏み台、pcロック、鯖落とし、成りすまし

今のネットと同じ事が起こるのは明白



192 ：名無しさん : ：2018/05/09(水) 05:58:13.92 ID:ro7Y+lJu0.net

運転者の心神喪失か耗弱にあたるから無罪的な


225 ：名無しさん : ：2018/05/09(水) 07:21:43.15 ID:dl1QZmfr0.net

俺が前から言ってることだよ
安全性のマージンをどれだけとるか
安全を追求すればノロノロ運転になる

運転の補助ならまだうまくいくだろうが
完全自動運転となるとなかなかハードルは高い


231 ：名無しさん : ：2018/05/09(水) 07:25:19.73 ID:dGRCp0+v0.net

>>225
運転の補助で十分だわ

高速疲れるしな
アシストしてくれるだけでも助かる



235 ：名無しさん : ：2018/05/09(水) 07:28:31.42 ID:dl1QZmfr0.net

でもまあこういう事故が起こって
検知力が強化されていくんだよな


257 ：名無しさん : ：2018/05/09(水) 07:49:06.74 ID:sUdICPx/0.net

風に飛ばされてきたビニール袋や道路脇の空き缶
普通によけるけど余裕があれば


296 ：名無しさん : ：2018/05/09(水) 08:24:05.93 ID:GrvaqRVF0.net

誤検知なら製造者責任としてメーカーが責任を負わなきゃいけなくなるな
市販できそうにもないね


300 ：名無しさん : ：2018/05/09(水) 08:26:12.31 ID:JHgOGEhA0.net

>>296
法律が時代に追い付いてないんだよね
自動運転のほうが遥かに効率いいのに
いまだ手動運転を前提とした法律になってる



304 ：名無しさん : ：2018/05/09(水) 08:31:37.01 ID:JHgOGEhA0.net

線路に飛び込むような愚か者は
容赦なく轢いちゃえばいいのよ


326 ：名無しさん : ：2018/05/09(水) 08:42:40.25 ID:Ly1+xS+j0.net

トレードオフは構わんけど、結果として無関係の人を死なせたことに対する責任はだれがどうやってとるの？


341 ：名無しさん : ：2018/05/09(水) 08:51:36.24 ID:HyAmiQ190.net

じゃ、プログラムを修正すれば二度と起こらない事故だったんだな。
こうやって進歩していく。


348 ：名無しさん : ：2018/05/09(水) 08:54:13.91 ID:JHgOGEhA0.net

>>341
あんな不意打ちのような角度で割り込まれたら無理だと思うよ？
扇風機に指をつっこんで怪我したのはメーカーが悪いみたいな話だからね
しかも安全カバーをはずしておいて



362 ：名無しさん : ：2018/05/09(水) 09:01:26.80 ID:LfWmx4X70.net

サーモカメラも載せた方が良いんじゃね？
体温に近い温度で、それなりの大きさがあったらやばいって判断を加えれば
画像だけの判断よりも正確になるでしょ


364 ：名無しさん : ：2018/05/09(水) 09:03:16.73 ID:Zk9Fatcy0.net

>>362
夏とかどうするの？辺り一面体温だよｗ



370 ：名無しさん : ：2018/05/09(水) 09:14:30.70 ID:aeDjsnEG0.net

自動運転の開発やってる人間は、家族親類を道路に放り出しても自動運転車が100%事故を回避するまで出てくんな


373 ：名無しさん : ：2018/05/09(水) 09:18:18.71 ID:JHgOGEhA0.net

>>370
これが昭和脳なんだろうね
今の時代に合わせるとこう

「自動運転の開発やってる人間は、家族親類が車道に出さないよう教育を徹底しろ」