▲

테슬라, 치명적 사고에서 주요 데이터가 없다고 했지만 해커가 찾아냄

 (washingtonpost.com)
1P by GN⁺ 3일전 | ★ favorite | 댓글 1개
  • 테슬라는 자동운전 사고와 관련해 핵심 데이터가 없다고 주장
  • 그러나 해커가 내부 데이터를 찾아내면서 논란이 발생함
  • 이로 인해 테슬라의 증언 신뢰도와 데이터 보유 실태에 대한 의문이 제기됨
  • 테슬라의 법적 책임과 증거 제출 태도가 재조명되는 상황임
  • 자율주행 기술의 위험성과 투명성 문제가 다시 한 번 부각됨

테슬라 사고 데이터 은폐 논란 개요

  • 테슬라는 한 치명적 자율주행 사고와 관련해, 회사가 해당 사건의 핵심 데이터에 접근할 수 없다고 주장함
  • 그러나 한 해커가 테슬라 내부 시스템에서 관련 데이터를 찾아내, 이전에 없다고 한 데이터가 실제로 존재한다는 점을 입증함
  • 이를 통해 테슬라가 법정 증언에서 진실을 숨겼거나, 적어도 내부 데이터 관리 시스템에 대한 이해가 부족하다는 의문이 제기됨
  • 이 사건은 법적 책임 소재, 증거 제출 의무, 그리고 자율주행차 데이터 관리 투명성 등 여러 이슈를 촉발함
  • 또한, 자율주행 기술의 신뢰성 및 향후 사고 대응 과정에서 테크 기업의 태도에 대한 관심이 높아지는 계기가 됨
▲
GN⁺ 3일전  [-]
Hacker News 의견

  • 아카이브 링크 공유함

  • 내 이해가 맞는지 궁금함. 사고 데이터가 자동으로 Tesla로 전송되고, 전송되자마자 바로 삭제로 표시되는 것임? 이런 구조라면 데이터 접근 권한을 Tesla가 독점하게 되고, 원하는 대로 활용 여부를 결정할 수 있게 됨. 법정에서 이런 방식이 통할 리는 없어 보이지만, 지금까지는 그런 것 같음. 그리고 당연히 Tesla 서버에서 사고 데이터 삭제에 대한 감사 기록이 있어야 한다고 기대하지만, 실제로는 존재하는지 아무도 확인하지 않은 상황임

    • 차량 데이터는 Tesla뿐 아니라 모든 제조사가 독점적으로 관리함. 표준화된 데이터 로깅이나 조회 방법이 없고 부품별 로그도 각 공급업체만 해석 가능함
    • 좀 더 긍정적으로 해석하면, 사고 후에는 외부인이 차량과 메모리에 접근해 차주/운전자 개인정보가 노출될 위험성 있음. 또 차량 상태 데이터가 공개되면, 제시 주체에 따라 왜곡될 수 있으니 공식 전문가만 접근하도록 해야 한다고 봄. 항공기 블랙박스 현장 처리와 비슷한 개념임
    • 또 하나의 이유는, Tesla에 업로드되는 다른 종류의 데이터 업로드 코드와 충돌이 있을 수 있다는 점임. 첫 번째 데이터(임의 데이터)의 경우, Tesla 서버에 저장됐다는 확인이 오면 차량 내에서 데이터를 지워 저장공간을 확보하는 게 합리적임. 사고시에는 최적이 아니지만 삭제가 악의적이라고 단정할 수만은 없다고 생각함
    • 상황이 "통화 품질 향상 목적 녹음"과 비슷하다고 봄. 규제당국이 요구해서 고객에게 알리지만 실제로는 자신들에게 불리하면 녹음이 없었다고 하고, 유리할 때만 녹음을 공개함. Tesla는 엄청난 양의 고객 데이터에 대해 허술하게 다루는 사례가 많았고, 최근엔 차량 내부 영상까지 사무실 내에서 공유된 일도 있었음. 한 포르노 배우가 자율주행 Tesla에서 영상을 찍은 일이 있는데, 그 영상은 "품질향상" 목적이라면서 여기저기 다 돌았을 거라고 생각함
    • 이전에는 차량 텔레메트리 데이터 요청을 위해 Tesla를 상대로 소송해야 했던 사례가 많았음. 자신에게 불리하게 활용하지 않고 교통사고 소송에 쓰려던 건데도 Tesla는 데이터를 공개하지 않았음. 반면 Tesla는 본인 동의 없이 언론에 텔레메트리 데이터를 공개해 자신을 방어하거나 심지어 거짓으로 몰고가기도 했음. 예를 들어 "차량이 운전자에게 주의하라고 경고했다"고 하지만, 조사해보면 실제로는 충돌 18분 전에 1회만 알림이 있었다는 식임

  • 과거에 eBay에서 model3 인포테인먼트 유닛을 구매해 해킹해본 경험이 있음. 내부에 저장된 데이터 양이 엄청남. 시스템 접근 후 차량 VIN을 얻고, 그 차량이 나왔던 폐차 경매까지 찾아낼 수 있었음. 기록된 위치 정보로 차주가 살던 곳, 근무지, 자주 가는 상점 등 생활 패턴이 고스란히 보였음. 마지막으로 기록된 GPS 위치는 North Carolina의 T자형 교차로였고, Street View로 해당 차량이 부딪혔을 나무까지 볼 수 있었음

    • 하드웨어가 궁금함. 리눅스 기반 컴퓨터에 SD카드 또는 SSD를 사용하는 구조인지, 어떤 파일 시스템을 쓰는지 궁금함
    • “차주 생활의 단편을 봤다”는 말… 혹시 죽음까지 포함된 건 아닌지 농담을 덧붙임

  • 법정에서 재생된 주석 비디오에 따르면, Tesla가 170피트 거리에서 차량을, 그리고 그 후 116피트 거리에서 보행자를 감지함. 하지만 Tesla는 이들이 서있던 곳, 신호와 표지판이 있는 도로 끝 바로 그 지점을 관통하는 경로를 계획함. 즉 차량과 보행자를 감지하고도 그 사이를 뚫고 지나가려고 한 셈임. 이 소프트웨어 상태가 도대체 어느 정도로 심각한지 의문임

    • 실제로 이 정도로 문제가 있다는 사례 영상 첨부함: vimeo.com/1093113127/e1fb6c359c. 단순히 보행자를 감지하고 그쪽을 지나가려 한 게 아니라, 보행자를 실제로 친 뒤에도 그대로 경로를 이어가버림
    • AI가 세상을 혁신하고 스카이넷처럼 될 거라지만 실제 경로탐색은 Counter-Strike 봇 수준임
    • 'dog/pig problem'이라고 생각함. 이런 시스템의 문제는 "객체 영속성(object permanence)"이 없음. 170피트 거리에서 차량을 감지해도 가까이 오면 감지가 유지되지 않고, 보행자도 마찬가지임. Tesla 시스템은 고정물(정지 차량/표지판)을 필터링하는데, 타 브랜드도 주행보조 시스템에서 흔하게 있는 일임(단, 주차 보조 모드 제외). 다만 대부분의 타사 운전자는 시스템을 과신하지 않는 반면, Tesla 운전자들은 보조 기능을 과도하게 신뢰하는 경향이 있음. 관련 영상 링크: The Mitchells vs. the Machines 장면
    • 내 추측에는, 실제로 감지된 차량과 보행자는 피해자와 다른 존재였던 것 같음. (피해자라면 "a vehicle"이나 "a pedestrian"라고 표현하지 않았을 것임)

  • “2019년 4월 25일 9:14PM 사고 직후, 결정적 데이터가 자동으로 Tesla 서버에 업로드되고 중앙 DB에 저장됨. 본사에서는 충돌 스냅샷을 수신했다는 자동화 메시지를 차량으로 전송함. 잠시 후, 동일 데이터가 현장에서 ‘unlink’ 처리, 즉 차량 내부 복사본이 삭제 처리됨. Tesla는 사고시 이런 절차가 일반적이라고 법정에서 설명함.” 이 모든 절차가 충격적임

    • 사람들이 이 회사에 이렇게 큰 신뢰를 쉽게 준다는 게 놀라움. EV 선두주자로 남았든, AI/로봇 분야의 새로운 강자가 되었든, 이런 기업 행태는 사실 상상 이상임. 이런 식의 부도덕함은 마치 아퍼처 사이언스(Aperture Science) 같은 느낌임
    • 해당 절차가 정당하게 변호될 수 있고 문제를 일으키지 않는 경우가 상상되지 않음. 컴플라이언스, 법적 요건, 데이터 보관 등에 의문이 크고, 이런 코드를 누가 배포에 포함시켰는지도 궁금함. 한 명의 실수가 아니고 팀 차원의 결정이었다는 점을 강조함
    • 더 큰 문제는, Tesla에서 중앙 서버의 데이터까지 “적극적으로 삭제”한 사실임
    • 내가 인용한 부분(차량 내 데이터 삭제)은 별로 이상하지 않고, 서버에서 삭제된 부분이 더 충격적임
    • 사건 사고 관련 이전 HN 글의 최상위 댓글은 위자료가 과하다고 언급했었음. 이번 스레드에서는 논의가 좀 다를지 주목함

  • Volkswagen이 배출가스 조작으로 적발되었을 때 CEO가 해고되고 기소됨. Tesla도 그래야 하지 않겠냐는 의문 제기함

    • 디젤 게이트의 특이점은 실제로 누군가가 처벌받았다는 점임. 기업이 특히 형사적으로 처벌받는 일은 매우 드물다고 봄
    • 담당 판사가 판결문에서 “Tesla가 데이터를 처음에 제출하지 않은 것이 고의적이라는 충분한 증거는 없었다"고 판단했고, 대신 원고가 직접 데이터 수집에 쓴 비용을 Tesla가 보상하도록 판결함
    • Big Tobacco 소송처럼 민주당 주 법무장관들의 연합이 필요하다고 생각함
    • CEO 해고는 이사회 권한임. Tesla 이사회는 회사 가치가 비정상적으로 높고, CEO와 가치가 직접 연결돼 있다고 믿음
    • 이 사건은 VW와 완전히 다른 상황이고, 공통점은 둘 다 자동차 회사라는 점뿐임. Tesla CEO가 해고·기소돼야 할 수도 있지만, VW 사건이 선례라는 이유로 그런 건 아님

  • Tesla가 secure boot 기술을 갖추면, 앞으로는 누구도 그들의 허점을 찾아내기 어렵게 됨. 그렇게 되면 사고 데이터 '유실' 가능성이 더 커지고 경찰이 바디캠 영상을 ‘잃어버리는’ 것과 마찬가지가 될 것임

    • 이 댓글에 극히 공감함. 해커들이 문제를 밝혀낼 수 있었던 건 secure boot나 암호화 이미지가 적용되지 않았던 덕분임. 임베디드 개발자는 MCUboot 같은 걸 다 알고 있음. 다만 관리자들은 복잡해서 도입을 꺼리지만, 승인만 떨어지면 모든 펌웨어가 Signal 채팅처럼 제조사만 열 수 있게 될 거임. PSA 규격 하드웨어는 심지어 다중 비트 글리치 공격에도 강해야 해서, 이제 해커는 접근 불가임

  • Tesla 직원의 법정 증언 번복에 대한 내용을 인용하며, “사실상 거짓 증언했다는 말”이라고 봄

    • 내 가장 큰 궁금증은 실제로 이런 거짓말을 한 직원들에게 어떤 처벌이 내려질지임. 시스템상 그들이 회사 대리로 행동했다는 이유로 오히려 보호받게 되는지 의문임

  • 이번 기사를 읽고 Tesla를 절대 사지 않겠다는 결심임. 해킹을 시도한 greenthehacker에게 칭찬을 보냄. 앞으로 Starbucks 벤티 핫초코를 오래 마시며 행복하길 기원함

    • 오늘 이전에 이미 Tesla를 구매할 생각이 있었는지 궁금함. 그 전에도 여러 건의 자율주행 인명사고가 있었는데, 이번 사건이 특별히 다르게 느껴지는 이유가 뭔지 궁금함. 나에게는 Florida에서 Tesla가 대형 트럭 밑으로 들어가서 운전자가 참변을 당한 사건이 계기였음
    • “Starbucks 벤티 핫초코”를 오래 마시라는 건, 사실상 당뇨가 오라고 기원하는 것 아니냐고 유쾌하게 반응함
    • Musk가 과거 독일 공군(루프트바페)를 소환한다고 농담했던 일도 Tesla 구매 의사에 영향을 못 끼친 거냐고 묻는 농담도 있음

  • 지금 일어나는 일들이 Elon의 성격을 제대로 파악한 사람이라면 전혀 놀랄 일이 아니라고 생각함. 기능, 일정, 심지어 비디오게임 랭킹조차 허언… Twitter 인수 역시 자신만의 기만을 확장하기 위한 움직임으로 봄

답변달기