Самоуправляемые автомобили изначально создавались по принципу "чётко следовать правилам дорожного движения" и, в отличие от людей, они не нарушают заложенные в программу основы. Плюс это или минус? Художник Джеймс Бридл (James Bridle) наглядно показал, как можно заманить такую машину в ловушку, из которой ей не выбраться, не нарушив ПДД.
Белым цветом Бридл нарисовал на дороге овал с линиями, символизирующими комбинированную линию дорожной разметки, которую можно пересекать только с одной стороны — прерывистой линии. Пересекать сплошную в таком случае нельзя. Исключения в этом правиле, правда, есть. Линию можно пересечь только в случае завершения маневра "обгон" или при объезде препятствия. Но в сценарии Джеймса такие нюансы не предусмотрены, а потому беспилотник, въехав в «магический круг», оказался ловушке.
Конечно, в реальной дорожной обстановке такие фигуры разметки отсутствуют, но с другой стороны, может именно такие хитрости помогут человечеству выжить в случае восстания машин. Заметим, что в продемонстрированном трюке не была испытана задействована Tesla с автопилотом или другой подобный автомобиль. Это лишь наглядная иллюстрация ограничения знаний без понимания контекста в сложившейся обстановке.