A Cruise „visszahívja” a Robotaxist az ütközés után, de a visszahívás rossz mechanizmus

Júniusban a General Motor San Franciscóban éjjel pilóta nélküli robotaxist üzemeltető, szolgáltatásbővítés előtt álló „Cruise” egysége könnyű sérüléseket szenvedett, amikor balra kanyarodás közben megállt, és egy száguldó szembejövő autó. üsse az oldalára. Ez mind abból a szempontból érdekes, hogy mi romlott el a balesetben, de abból a szempontból is, hogy a szoftverjavítást az Országos Közlekedésbiztonsági Ügynökség kérésére „visszahívásnak” nevezték el.

Cruise a héten bejelentette, hogy ők lesznek bővítik szolgáltatásukat San Franciscóban, és nyitnak Phoenixben és Austinban is az 2022 végére.

Valószínűleg ez az első olyan baleset, amelyben biztonsági vezető nincs, a vezetési rendszer meghibásodott, és harmadik személyek is megsérültek (mind az utasok, mind a másik járműben tartózkodók).

A Balesetről

Cruise járműve hibázott, de Cruise szerint a másik jármű volt a „leghibásabb”, mert 40-el ment egy 25-ös zónában, és mert a jobbra kanyarodó sávban közeledett, de ahelyett, hogy kanyarodott volna. jobb oldali áttért az átmenő sávba, és nagy sebességgel átment a kereszteződésen. Néhány részlet megtalálható a CA DMV jelentés. Nem adtak ki idézetet, de lehet, hogy az esetet még vizsgálják.

Az esemény rekonstrukciói azt sugallják, hogy a Cruise autó balra kanyarodást remélt – a híres „védtelen baloldalon”, amelyet sok csapat kihívásnak talált. Egy Prius közeledett egy balra kanyarodást igénylő sávban, kivéve a buszokat és a taxikat, és a Cruise személygépkocsi azt feltételezte, hogy az autó valóban jobbra fog kanyarodni, és előbb be tud fordulni, mielőtt a Prius odaérne. A Prius nem taxi volt, de nem tudni, hogy a Cruise biztos volt-e ebben, vagy arra alapozott döntéseket. Valószínűnek tűnik, hogy a Cruise azt jósolta, hogy az autó lassulni fog, így maradt ideje a kanyarra, és elkezdte a kanyart.

A Prius nem lassult, így a Cruise előrejelző motorja úgy ítélte meg, hogy ha a Cruise autó folytatja a kanyart, és a gyors Prius is fordul, akkor a Prius belefut a Cruise-ba. Tehát a Cruise azt tette, amit konzervatív helyesnek tartott, vagyis keményen megállt a kereszteződésben, ami lehetővé tette a Prius számára, hogy igazat tegyen.

A Prius nem ezt tette. Valójában visszatért az átmenő sávba, és továbbment a kereszteződésbe. Feltételezhető, hogy mindig egyenesen akart menni, és most megpróbálta elkerülni a kereszteződésben megálló autót. Nem, és a Cruise jármű hátuljának ütközött, mindkét autóban könnyű sérüléseket okozva.

Cruise elismerte, hogy a szoftverük helytelenül működött bejelentést az NHTSA-nál, bár a Priust okolta a balesetért a nagy sebességért és a rossz sávba járásért. A Cruise Bolt megakadályozhatta volna a balesetet, ha nem áll meg és nem teljesíti a kanyarját, vagy ha nem próbálja meg először megfordulni. A legtöbb robocar konzervatív, és nem egészen alkalmas arra, hogy gyorsítással elkerülje a baleseteket, mivel ez más problémákhoz vezethet.

Cruise nem volt hajlandó válaszolni a legtöbb kérdésre az eseménnyel kapcsolatban, azon túl, ami az irataikban szerepel. Ahogy a bejelentés szerint az autó „vezető nélküli autonóm üzemmódban” volt, és a cruise megerősíti, ez azt jelenti, hogy nem volt biztonsági vezető a fedélzeten. Rendőrségi jelentések szerint 3 utas (ingyen utazott) a Bolt hátuljában ült, és egy rövid időre kórházba került könnyű sérülésekkel. A Priusban ketten voltak, akiket a helyszínen elláttak. Mivel ez az utas nem jelentkezett a sajtónak, lehetséges, hogy Cruise arra ösztönözte ezt a személyt, hogy ne tegye meg. A körutazás nem igényel NDA-t a versenyzőktől.

Cruise szerint ez a probléma nagyon ritka, és csak egyszer fordult elő több mint 120,000 3 védtelen balra kanyarból. (De lásd alább, hogy kiderüljön, ez jó-e.) XNUMX nappal később kiadtak egy szoftverfrissítést, amely szerintük megoldja a problémát. Elismerik, hogy kötelességük többet tenni a balesetek elkerülése érdekében, még akkor is, ha a többi közlekedő rosszul viselkedik, és ez egy jó filozófia. A legtöbb önvezető csapat megpróbál szituációkat létrehozni a szimulátorban szokatlan más vezetőkkel, és megpróbálja megtalálni ezeknek minden lehetséges változatát. Ez a szituáció most biztosan ott van a Cruise szimulátorában, és minden más nagyobb csapat szimulátorában is, akik olvassák a híreket, ha még nem lennének.

A visszahívásról

Érdekes módon Cruise ezt a szoftverfrissítést „visszahívásnak” nevezte, és tényleges visszahívási értesítést nyújtott be az NHTSA-hoz. A Cruise és az összes többi csapat folyamatosan szoftverfrissítéseket végez a problémák megoldása érdekében, bár természetesen nagyon ritkán sikerül olyan hibát kijavítani, amely balesetet okozott – szerencsére. Nem teszik ezt át a visszahívási mechanizmuson. A visszahívási mechanizmus sok okból rosszul illeszkedik:

1. A Cruise valójában nem hívott vissza járműveket, pl. kérje meg őket, hogy vigyék vissza egy szervizközpontba a javítás érdekében. Csak a szokásos, vezeték nélküli szoftverfrissítési folyamatot használta.
2. A GM/Cruise soha nem adta el ezeket a járműveket, tulajdonosa és üzemelteti őket, így nem igazán lehet visszahívni őket az ügyféltől.
3. A visszahívási folyamat bonyolult és bürokratikus, és határozottan nem használható minden szoftverfrissítéshez, még a biztonsági problémát javító frissítésekhez sem. Szinte minden szoftverfrissítés kijavít bizonyos biztonsági problémákat, csak azt nem, amely ténylegesen összeomlást okozott (ahelyett, hogy okozhatna).

Értelemszerűen jelenteni kell ezeket a baleseteket és a javításaikat, és ezt a balesetet már jóval a visszahívás előtt jelentették a kaliforniai DMV-nek, a rendőrségnek és az NHTSA-nak. Az NHTSA visszahívást kért vagy fogadott el néhány más szoftverváltoztatáshoz, ezért felül kell vizsgálnia és egyszerűsítenie kell ezt a folyamatot. Míg az NHTSA felhatalmazással rendelkezik az Egyesült Államokban értékesített autók biztonságának szabályozására, kevésbé egyértelmű, hogy milyen felhatalmazása van a nem értékesített autókra. Érdemes megjegyezni, hogy a baleset előtti napon a Cruise engedélyt kapott – de még nem kezdte meg –, hogy autóiban fuvarokat árusítson, és ésszerű lenne szabályozni azokat az autókat, amelyekben a fuvarokat értékesítik (bár ez inkább egy állapot számít, ha nem keresztezik az államhatárokat.)

Korábban, amikor a Pony.AI balesetet szenvedett az egyik pilóta nélküli járművében, a DMV visszavonta a működési engedélyét abban az állapotban. Pony esetében ez egy egyéni autóbaleset volt, egyértelműen a járművük hibája. A különböző körülmények a DMV eltérő intézkedését vagy tétlenségét eredményezhették.

A Robocar balesetek különbözőek

Ez a baleset elárul nekünk valamit a robocarok különböző baleseti mintáiról. A kezdeti reakciók azt mutatják, hogy a Cruise kevésbé érett lehet a kívántnál. A Waymo 2016-ban, 7 éve a projektjükben, balesetet szenvedett, ahol ez hiba volt, bár sérülések nélkül. Azóta nagyon keveset hajtottak végre, bár csak mostanában vezettek nehézkesen egy olyan területen, mint San Francisco. A Cruise-nak az utóbbi időben egy csomó kínos bugja volt, beleértve a szokatlan rendőri megállást, a szerver kommunikációs hibája miatt megállt autók csoportjait, egy tűzoltóautóval történt incidenst, panaszokat a fel- és leadásról az állomás közepén. utcában, és a Today Show riporterének útja elején lefagyott. Ez több, mint amit Waymo és mások esetében hallottunk, és mint ilyen, reméljük, hogy ezek csak fogzási fájdalmak. Minden csapatnak lesznek zűrzavarai, sőt, minden csapatnak lesznek összeomlásai, és az számít, hogy milyen gyakorisággal fordulnak elő.

A Cruise szeptember 12-én kijelentette, hogy körülbelül 300,000 250,000 mérföldet robotaxival végeztek San Franciscóban biztonsági vezető nélkül, és júniusban kevesebbet tettek volna. Ez nem nagyszerű, mert az emberi sofőrök minden millió kilométernyi vezetés után általában szenvednek sérülést. Bár Cruise-nak kevesebb hibája van, mint a Prius vezetőjének, ez nem olyan jó rekord, mint szeretnénk. (Egy baleset mondjuk 4 4 mérföld után nem jelenti azt, hogy nem tesznek meg egymillió mérföldet a következő előtt, de ez nem jó előjel.) Másrészt, általában XNUMX millió mérföldet tettek meg (biztonsági vezetőkkel). Mivel a biztonsági sofőrök bármilyen problémával közbeavatkoztak a XNUMX millió mérföldön, nem tudjuk, hogy mi volt a valós baleseti ráta ennek a rendszernek – amely szintén régebbi és gyengébb rendszer volt a legutóbbihoz képest. jót tesz a TeslánakTSLA
arról számolt be, hogy ügyfelei 30 millió mérföldet tettek meg biztonságosan a nagyon rossz minőségű Tesla FSD-vel, és nem érkezett jelentés súlyos balesetről, különösen sérülésekről.

A robotok egyedi jellemzőit azonban fentebb megjegyeztük. A Cruise 3 nap alatt megoldotta ezt a problémát, és ez nem fog megismétlődni, legalábbis így nem. Valószínűleg a többi cég is berakta ezt a szimulátorába, és velük sem fog megtörténni. A vállalatok hatalmas könyvtárakat építenek fel a szimulációs forgatókönyvekből (sőt, egy projektben, amiben segítettem, meg is cserélik őket). Amikor ezt megteszik, algoritmusaik vannak a forgatókönyv „befuttatására”, ami azt jelenti, hogy az összes paramétert különböző módokon módosítják. Kipróbálják ezt a másik autóval változó sebességgel, vagy különböző időpontokban váltanak sávot. Kipróbálják a Cruise autóval, ami másképp működik. Kipróbálják a gyalogosokkal, akik különböző dolgokat csinálnak a kereszteződésben, hogy teszteljék, nem fordul elő probléma több ezer változatban.

Ez nem olyan, mint az emberek. Ha valakit ilyen baleset ér – és így is történik –, az illető leckéi nem tanítják meg a többieket. Legjobb esetben a város idővel javíthatja a sávokra vagy sebességre vonatkozó szabályokat, de ez sok incidenst igényel. Bármilyen hibát is elkövetnek a robotok, általában csak jobbak lesznek.

Az emberek egyre rosszabbak. Míg a legtöbben azt várják, hogy a fiatal sofőrök a legvadabbak, és esnek a legtöbb balesetbe, valójában a 80 éves sofőrök öngyilkosok a legtöbben – a grafikon tragikus „U” alakú. Ennek részben az az oka, hogy az idősebb sofőrök gyengébbek, de az is kiderült, hogy képességeik csökkenésével egyre több balesetet szenvednek. Különösen és furcsa módon több olyan balesetet szenvednek el, ahol az autó elüti őket, nem pedig az elütő autót, bár ez még mindig az ő hibájuk, az ilyen helyzetek miatt a védtelen balkanyarokban. A robotoknak kitűnően kell megítélniük ezeknek a helyzeteknek a fizikáját, de Cruise rendszere túl sok feltételezést fogalmazott meg.

Ez is egy klasszikus példa az előrejelzési problémára. Míg a robocar világban állandóan szenzorokról beszélünk, az érzékelés nem a cél, hanem eszköz a valódi cél, vagyis az előrejelzés felé. Nem számít, hol van most minden, az számít, hogy hol lesz a közeljövőben. Cruise tévesen ítélte meg, hová kerülhet a Prius, és azt is, hogy mit tegyen, ha megváltozik a helyzet. Gyanítom, hogy Cruise autója nincs arra programozva, hogy előre száguldjon, hogy elkerülje a balesetet, vagy akár hátráljon. Arról nincs adatunk, hogy volt-e autó a Cruise Bolt mögött, de egy dolog, amit a robotok tesznek, hogy egyszerre minden irányba néznek, és ha világos lenne mögötte, az autó sokkal gyorsabban cselekedhetett volna, mint egy ember. meg kell nézni a tükröt és el kell jutni a sebességváltóhoz. Egy elektromos autó, és nagyon gyorsan és időben felgyorsul, a robotizált elektromos járműveknek nagyon ügyesen kell elkerülniük a baleseteket – ha mernek.

Azért mondom, ha mernek, mert a legtöbb cég nagyon konzervatív. Nem akarnak olyan hirtelen mozdulatokat tenni, amelyek ronthatják a helyzetet, még 360 fokos látás esetén sem. Különösen sok ilyen hirtelen lépés technikailag illegális, és nem akarják szándékosan megsérteni a törvényt, különösen, ha esetleg rosszul sül el. Például a gyalogosok bármikor váratlanul kiléphetnek a dolgok mögül. Ha eléd ugranak, az nem a te hibád, de ha a járdán vagy, hogy elkerüld a balesetet, az egy másik történet. (Nem, az autók soha nem próbálják kiválasztani, kit ütjenek el, ha két ember között kell választaniuk, ez egy általános mítosz és bosszantó kérdés, nem olyasmi, ami valóban megtörténik.)

Idővel a robotoknak jobbá kell válniuk ebben a helyzetben, mint az emberekben. Jobban megjósolják majd, hogy más autók mit fognak tenni. Az autónak folyamatosan azt kellett volna mondania: „Mit csináljak, ha ez a fickó nem úgy fordul meg, ahogy a szabályok megkövetelik”, és meg kellett volna bizonyosodni arról, hogy van-e tennivaló – beleértve a gyorsítást a kanyarban vagy a tolatást. Ha nincs olyan művelet, amely működhetne, és a kockázatnak elég nagy a valószínűsége, akkor az autó várna, de ideális esetben lesz lehetséges akció. El kell viselni bizonyos balesetveszélyt, amikor mások szabálytalanul cselekszenek. A védekező vezetés jó, de egy teljesen védekező vezető óvatosan blokkolja az utakat, ami nem oldja meg a problémát.

Itt olvashat / hagyhat megjegyzést