우버 셀프

Jun 13, 2023

안녕하세요. Eye on AI에 다시 오신 것을 환영합니다. 저는 Jeremy를 대신한 Sage Lazzaro입니다.

대부분의 사람들이 또 다시 무더운 여름 주말을 즐기기 위해 금요일 저녁에 로그아웃하면서, AI가 실제 물리적 피해에 직접적으로 연루되었을 때 누가 책임을 져야 하는지에 대한 획기적인 법적 소송이 마침내 5년 만에 끝났습니다.

2018년 애리조나주 템피에서 보행자를 치어 사망시킨 자율주행 우버 테스트 차량의 운전사 라파엘라 바스케즈(Rafaela Vasquez)는 한 건의 위험 혐의에 대해 유죄를 인정했습니다. 마리코파 카운티 고등법원 판사 데이비드 가르바리노(David Garbarino)는 유죄 인정 거래를 수락하고 그녀에게 3년의 감독 보호관찰을 선고하고 사건을 영원히 종결했습니다. 바스케스는 원래 최대 8년의 징역형을 선고할 수 있는 중범죄인 과실치사 혐의로 기소됐다.

Elaine Herzberg라는 여성이 자전거를 타고 길을 건너다가 사망한 2018년 충돌사고는 완전 자율주행차와 관련된 최초의 치명적인 충돌이었습니다. Uber와 Vasquez는 전례가 없을 뿐만 아니라 작업자가 점점 더 AI 기계를 모니터링하고 알고리즘의 지시를 따르며 최전선에 앉아 있는 세상에서 책임에 대한 몇 가지 질문을 제기하는 상황에 대해 Uber와 Vasquez가 각각 비난을 회피하려고 노력하면서 관찰자들을 사로잡았습니다. 기업 엔지니어가 구축한 불완전한 AI 시스템.

작년에 발표된 Wired와의 심층 인터뷰에 따르면 처음 충돌이 발생했을 때 Vasquez는 Uber가 자신의 뒤에 있을 것이라고 생각했습니다. 그녀는 급성장하는 산업에 대해 진심으로 흥미를 느꼈고 자신을 회사의 자랑스러운 청지기로 여기며 회사의 자율 주행 차량이 연습 마일을 쌓는 동안 모니터링하는 일을 하고 있습니다. 실리콘 밸리 회사로부터 더 많은 사업을 유치하기 위해 제한을 완화하고 있던 애리조나는 캘리포니아가 Uber 차량 등록을 취소한 후 최근 Uber의 도로 테스트 프로그램의 안식처가 되었습니다. 검시관은 공식적으로 Herzberg의 죽음을 사고로 분류했으며 Uber는 처음에 Vasquez에게 변호사를 제공했지만 Wired에 따르면 그녀의 상사와의 상호 작용은 빠르게 "위안에서 불안"으로 바뀌었습니다.

조사 결과 벨라스케스의 개인 휴대폰이 사고 당시 TV 쇼인 The Voice를 스트리밍하고 있었던 것으로 밝혀지면서 상황은 크게 바뀌었습니다. 대시캠 영상에는 그녀가 충돌 직전에 아래를 내려다보고 있는 모습도 나와 있었고, 나중에 경찰 분석에 따르면 바스케즈가 제때에 차를 장악할 수 있었을 것으로 판단하고 사건을 "완전히 피할 수 있었다"고 간주했습니다.

사건이 재판에 회부되지는 않았지만 바스케스의 변호는 고용주의 과실을 지적하는 주장으로 가득 차 있었다. 법적 서류에서 Vasquez는 Uber의 지침에 따라 허용되는 The Voice를 시청하지 않고 듣기만 한다고 주장했습니다. 그리고 아래를 내려다보니 업무용 기기에서 슬랙 메시지를 확인하기 위해서였는데, 실시간으로 모니터링이 필요하다고 하더군요. 이는 역사적으로 두 번째 운영자가 처리했지만 Uber는 최근 모든 차량에 두 명의 테스트 운영자를 두어야 한다는 요구 사항을 취소했으며 이제는 Vasquez와 같은 백업 드라이버가 혼자 작업하도록 했습니다. 이는 운전자가 운전 시스템에 대한 피드백을 입력하는 방식을 포함하여 업무의 역학을 변화시켰으며 일반적으로 사고나 개입의 필요성 없이 동일한 도로를 돌며 외롭고 긴 교대 근무를 하게 되었습니다.

재판 전 변호의 또 다른 핵심 부분에서 Vasquez의 변호사는 자동차가 Herzberg를 보행자로 식별하지 못해 브레이크를 작동하지 못했다는 국가 교통 안전위원회의 판결을 인용했습니다. 이사회는 또한 Uber가 "부적절한 안전 문화"를 갖고 있으며 테스트 운영자 사이에서 "자동화 안주"를 방지하지 못했다는 사실을 발견했습니다. 이는 자동화 시스템을 모니터링하는 임무를 맡은 작업자가 기계가 제어하고 있다고 믿고 중지하는 잘 문서화된 현상입니다. 주목. 또한, 회사의 전직 운영 관리자는 사고가 발생하기 불과 며칠 전에 자율주행차 부문의 안전 관행이 부실한 패턴에 대해 내부고발자 신고서를 제출했습니다.