Tesla, która w 2021 r. rozwiązała swój zespół ds. public relations, nie odpowiedziała na prośbę WIRED o komentarz. Systemy kamer, których badacze używali w swoich testach, zostały wyprodukowane przez firmy HP, Pelsee, Azdome, Imagebon i Rexing; żadna z tych firm nie odpowiedziała na prośby WIRED o komentarz.
Chociaż NHTSA przyznaje, że występują problemy w „niektórych zaawansowanych systemach wspomagania kierowcy”, badacze nie mają wątpliwości: nie są pewni, co ma wspólnego zaobserwowany efekt świateł awaryjnych z problemami z autopilotem Tesli. „Nie twierdzę, że wiem, dlaczego Tesle zderzają się z pojazdami uprzywilejowanymi” – mówi Nassi. „Nie wiem, czy jest to nadal luka w zabezpieczeniach”.
Eksperymenty badaczy dotyczyły również wyłącznie wykrywania obiektów w oparciu o obraz. Wielu producentów samochodów korzysta z innych czujników, w tym radaru i lidara, aby pomóc w wykrywaniu przeszkód na drodze. Mniejsza grupa twórców technologii – w tym Tesla – twierdzi, że systemy oparte na obrazach uzupełnione wyrafinowanym szkoleniem w zakresie sztucznej inteligencji mogą umożliwić nie tylko funkcjonowanie systemów wspomagających kierowcę, ale także całkowicie autonomicznych pojazdów. W zeszłym miesiącu dyrektor generalny Tesli, Elon Musk, powiedział, że system wizyjny producenta samochodów umożliwi w przyszłym roku samochody autonomiczne.
Rzeczywiście, to, jak system może zareagować na migające światła, zależy od tego, jak poszczególni producenci samochodów projektują swoje systemy zautomatyzowanej jazdy. Niektórzy mogą zdecydować się na „dostrojenie” swojej technologii, aby reagować na rzeczy, co do których nie jest do końca pewne, czy faktycznie stanowią przeszkody. W skrajnym przypadku taki wybór może prowadzić do „fałszywie pozytywnych wyników”, w przypadku których samochód może gwałtownie zahamować, na przykład w reakcji na kartonowe pudełko w kształcie małego dziecka. Inni mogą dostroić swoją technologię tak, aby reagowała tylko wtedy, gdy jest bardzo pewna, że to, co widzi, jest przeszkodą. Z drugiej strony, wybór ten może prowadzić do tego, że samochód nie zahamuje, aby uniknąć kolizji z innym pojazdem, ponieważ nie będzie wiedział, że jest to zupełnie inny pojazd.
Badacze z BGU i Fujitsu opracowali poprawkę oprogramowania dotyczącą problemu z migaczami awaryjnymi. Nazywany „karacetamolem” – połączenie słów „samochód” i środka przeciwbólowego „Paracetamol” – ma na celu uniknięcie problemu „napadu padaczkowego” dzięki specjalnemu przeszkoleniu w zakresie identyfikacji pojazdów z migającymi światłami awaryjnymi. Naukowcy twierdzą, że poprawia to dokładność detektorów obiektów.
Earlence Fernandes, adiunkt informatyki i inżynierii na Uniwersytecie Kalifornijskim w San Diego, który nie był zaangażowany w badania, stwierdził, że wygląda to „dźwiękowo”. „Tak jak człowiek może zostać chwilowo oślepiony przez światła awaryjne, tak kamera działająca w zaawansowanym systemie wspomagania kierowcy może zostać chwilowo oślepiona” – mówi.
Dla badacza Bryana Reimera, który bada automatyzację i bezpieczeństwo pojazdów w MIT AgeLab, artykuł wskazuje na szersze pytania dotyczące ograniczeń systemów jazdy opartych na sztucznej inteligencji. Mówi, że producenci samochodów potrzebują „powtarzalnej, solidnej walidacji”, aby wykryć martwe punkty, takie jak podatność na światła awaryjne. Martwi się, że niektórzy producenci samochodów „wprowadzają technologię szybciej, niż są w stanie ją przetestować”.
