Hackers van McAfee Advanced Threat Research (ATR) hebben de eerste versie van de autopilot van Tesla automatisch laten versnellen van 35 tot 85 mijl per uur door een verkeersbord te manipuleren. Om te demonstreren met welke bedreigingen AI te maken heeft hebben ze het camerasysteem van MobilEye, dat in tientallen miljoenen voertuigen wordt gebruikt, op een eenvoudige manier om de tuin geleid.
Tape
De hackers pasten een verkeersbord met een snelheidslimiet van 35 mijl per uur aan door de 3 te veranderen met een stuk tape. De vorm die daardoor ontstaat is voor mensen nog steeds te herkennen als een 3 maar de camera van MobilEye blijkt hem te interpreteren als een 8. Hierdoor ging de auto vanzelf fors versnellen.
Wanneer de testbestuurder de autopilot handmatig aanzette tijdens het rijden werd de computer in alle gevallen misleid. De hackers hebben deze ontdekking eind vorig jaar al gedaan, en hebben ondertussen zowel MobilEye als Tesla op de hoogte gebracht van deze hack.
