전반적으로 자율주행차가 앞으로 도로 사망자를 줄여주길 기대함
마지막 관문은 규제임. 제조사가 “운전자가 없다”는 이유로 책임을 피하고, 자율주행차가 만든 피해를 사회에 떠넘기게 해서는 안 됨
문제는 공정성을 어떻게 맞추느냐임. 사람이 차량 과실치사를 저지르면 엄하게 처벌받는데, 자율주행차는 어떻게 해야 하나? 1천만 달러 벌금? 임원 징역? 주행거리 X마일당 1천만 달러 벌금이 그냥 사업 비용으로 받아들여지면 어떻게 하나?
공정성/응보/정의를 기준으로 삼으면 도로 사망자가 줄어드는 미래를 얻지 못할 수 있음
차량으로 인한 사망 확률은 언제나 존재하고 0%가 될 수 없음. 자율주행차가 사망을 일으킬 확률이 인간 운전보다 여러 자릿수 낮다면, 우리는 그 미래를 선택해야 함
이런 조건에서 제조사 임원을 감옥에 보내거나 개인에게 금전 책임을 지우면, 전체 사망자가 줄어들더라도 자율주행차는 출시되거나 대중화되지 못할 것임. 공정성·정의·응보 감각은 기분을 낫게 할 수 있지만 전체 사망자는 늘릴 수 있음
논리적으로는 기준이 필요함. 예를 들어 제조 차량 y대당 사망 x건 같은 식이고, 기준을 넘으면 회사에 큰 벌금을 부과함. 기술이 좋아질수록 기준은 낮출 수 있음. 고의나 중대한 과실로 사망을 일으킨 경우가 아니라면 무시해야 할 수도 있음
인류가 이걸 받아들일 수 있는지는 또 다른 문제임
미국에서는 현재 10억 마일당 11명 사망, 연간 약 4만 7천 명 사망이 괜찮은 비용처럼 받아들여지고 있음
스웨덴이나 스위스 같은 곳보다 마일당 두 배 이상 높고, 캐나다·호주·독일 같은 곳의 10억 마일당 6~8명보다도 꽤 높음. 개선 여지가 없는 게 아니라, 사회나 정부 차원에서 그 비용을 감수할 가치가 없다고 보는 것뿐임
이를 금전 비용으로 바꾸면 윤리적 성격은 조금 달라지겠지만, 엄청난 전환은 아닐 것임
우리는 운전을 연간 1조 달러 조금 넘게 보조하고 있음. 주된 이유는 부주의 처벌이 약해서 책임이 운전자의 피해자에게 전가되기 때문임[1]. 이 문제들을 다루는 한 방법은 운전자가 전체 손해를 부담하게 하는 것임
또 하나의 단순하고 효과적인 조치는 벌금을 절대 금액이 아니라 소득 비율로 바꾸는 것임. 지금은 자전거 전용차로 주차가 보통 사람을 죽이지 않으니 운전자는 작은 벌금을 작은 확률로 낼 뿐이라고 생각함. 하지만 연소득의 0.1% 같은 벌금 가능성이 생기면 Waymo 기술은 마법처럼 그런 행동을 하지 않게 될 것임
사적 소송권까지 붙이면 집행력이 충분히 높아져 개선이 빨라지고, 모든 도로 이용자의 안전과 이동 시간도 나아질 것임
괜찮아 보임. Waymo를 많이 쓰는 편이고 344회 탑승했으며 좋아하지만, 안전이나 사고 통계에 잡히지 않는 방식으로 교통법규와 상식적인 도로 예절을 모두 어기는 경우가 있음. 딱지는 모델을 개선해야 할 지점을 알려주는 좋은 신호일 수 있음
예를 들어 Waymo가 내 아파트에서 나를 태울 때마다, Uber 운전자가 늘 쓰는 훨씬 한적한 옆길로 들어오는 대신 아주 붐비는 도로의 한 차로를 통째로 막음. 이런 낮은 수준의 성가심 상당수는 집계된 사고 통계나 탑승 시간만 보는 사람에게 보이지 않을 것 같음
여러 면에서 인공지능의 미래는 우리가 측정할 수 있는 것에서는 더 나아지지만, 통계로 읽히지 않는 것들에서는 더 나빠질 수도 있음
360도 영상을 전부 갖고 있지 않나? 지금은 우선순위가 낮은 문제일 수는 있어도, 통계로 읽히지 않는다고 해서 그런 문제가 “보이지 않는다”고 하긴 어려움
캘리포니아에 살지 않고 이 이슈를 따라가진 않았지만, 평범한 관찰자로서는 다른 차량 운전자처럼 위반 딱지를 받지 않은 채 도로 주행이 허용됐다는 게 충격적임
완전히 동의함. 이런 기반 체계도 없이 운행 허가를 내준 게 어떻게 가능했나? 그것도 몇 년 전부터였던 것 같은데
무인차에 딱지를 끊는 것은 좀 이상한 방식임
위반이 의도적이고 쉽게 고칠 수 있다면, 자율주행차가 규칙을 지키지 않으면 운행을 전면 중단하도록 법이나 규제를 만들면 됨
위반이 의도적이지 않고 특이한 예외 상황에서 드물게만 발생한다면, 땅콩버터에 극소량의 설치류 털을 허용하는 것처럼 낮은 빈도 기준을 정하면 됨. 기준을 넘으면 처음엔 벌금을 물리고 결국 허가를 취소하면 됨. 이건 개별 위반 딱지가 아니라 연간 기준 초과에 대한 연간 벌금이어야 함
위반이 의도적이지만 쉽게 고칠 수 없다면, 예를 들어 15블록 안에 합법적으로 정차할 곳이 없어서 금지된 곳에 서는 경우라면, 법과 규제가 나쁜 것임. 딱지는 사실상 불공정한 세금이 됨. 우리 도시에서는 이삿짐 트럭이 사실상 불법인데, 이중주차가 불법이지만 합리적인 거리 안에 가구를 나를 수 있는 합법 주차 공간이 보통 없기 때문임. 그래서 이사 비용에는 부당하더라도 주차 딱지라는 “세금”이 포함된다는 걸 모두 알고 있음
마지막으로 위반이 의도적이지 않지만 항상 발생한다면, 그 자율주행 회사는 소프트웨어가 형편없으니 허가를 잃어야 함
그래서 개별 위반마다 자율주행차에 딱지를 끊는 게 왜 말이 되는지 모르겠음. 자율주행 회사가 교통 규칙을 계속 어기고 고치지 못한다면 금지해야 한다는 뜻임. 딱지는 답이 아님. 차량을 충분히 높은 기준으로 다루는 게 아니라, 가끔 딱지만 내고 소프트웨어를 개선하지 않아도 빠져나가게 해주는 방식임
합법적인 좋은 선택지가 없는 경우를 빼면, 당신이 말한 상황들에서 딱지는 제안한 방식을 적용하는 더 쉬운 수단임. 회사가 위반률을 가능한 한 낮추도록 직접적인 유인을 줌. 수수료 없는 최소 허용량을 두지는 않지만, 그게 그렇게 큰 문제 같진 않음
자율주행차와 땅콩버터의 가장 큰 차이는 자율주행차에는 이미 준수 체계가 있다는 점임. 바로 경찰임. 자율주행차에 맞게 설계된 체계는 아니고, 처음부터 설계한다면 그렇게 만들진 않겠지만, 기존 체계 위에 완전히 별도의 준수·감시 체계를 새로 만드는 것보다 불완전함을 받아들이는 편이 훨씬 나음. 이득이 그만큼 크지 않음
먼 미래에 차량 대부분이 자율주행이 되면 새 체계로 갈아엎을 가치가 있을 것임. 그때쯤이면 문제가 매우 드물어져 아예 별도 체계가 없고, 큰 문제가 드물게 생길 때만 법적 절차를 쓰게 될 것 같음
그 전까지는 교통 위반에는 딱지를 끊는 방식이 충분히 괜찮아 보임
좋은 지점들이 있지만 반론도 있음
번호판 기반 딱지 발부, 결제 처리, 징수 같은 기존 인프라가 이미 있음
당신은 법 개정을 말하고 있는데, 거기에는 절차적 장벽이 많이 필요함. DMV가 여기서 한 것처럼 기존 인프라에 연결되는 새 규칙을 공표하는 편이 훨씬 쉬움
그리고 정부가 위반이 의도적인지 아닌지를 어떻게 평가해야 하나? 딱지는 엄격책임. 의도나 이유와 무관하게 했으면 받는 방식이라 행정이 쉬움
딱지를 끊는 게 맞다고 봄. 법을 정하고, 그 법을 어기는 각 사례마다 돈이 들게 하면 자율주행 회사는 위반 수를 줄일 유인을 갖게 됨
초콜릿 속 바퀴벌레 수를 0으로 만들 수 없듯 위반 수를 0으로 만들 순 없겠지만, 그 0이 아닌 양은 0 위반이라는 목표에 가까워질수록 줄일 수 있는 규제 비용임
물론 법을 노골적으로 무시하고 딱지 비용만 감수하는 차량은 퇴출할 수 있어야 함. 그런 운전자에게 하는 것처럼 말임. 다만 그건 일반적인 금전 벌금, 즉 딱지가 실패했을 때의 두 번째 방어선이어야 함
딱지는 방금 설명한 모든 것에 대한 아주 단순한 대리 지표처럼 보임
기존 법에 이미 집행 장치가 있는데 왜 새 법을 천 개나 만들어야 하나?
자율주행차의 개별 위반에 인간 운전자처럼 딱지를 끊는 것이 유일하게 공정한 방식임
개인용 무인차는 어떻게 할 건가? 개조 여부가 있는 경우도 포함해서, 내 개인 차량이 나를 태우러 오는 길에 위반을 저지르면 어떻게 적용되나?
“시작”이라고? 지금까지 안 하고 있었다는 뜻인가? 그건 잘못된 것 같음
이게 안전을 높이려는 건가, 아니면 수입을 늘리려는 건가? 사람들이 잊는 2차 효과는 딱지가 도시와 경찰서의 수입원이기도 하다는 점임. 무인차 회사들은 딱지 몇 장 정도는 감수하고 문제를 빨리 고칠 것임
그래서 미래에 도로와 자동차가 모두 자동화되고 이 수입원이 마르면 도시 재정이 어떻게 될지 궁금함
통행료, 매출세, 기술이 좋아져도 딱지가 나오게 만드는 더 엄격한 규칙들이 생길 듯함
도시 재정 문제는 도시 안에서 운행하려면 주행 마일당 몇 센트씩 내는 식의 세금으로 해결할 수 있을 것 같음. 아니면 주 단위 등록 비용을 더 높일 수도 있음
더 걱정되는 건 대규모 자율주행 Uber 차량군이 일상 이동을 처리하고, 처음엔 저렴하게 시작하면서 개인 차량 소유가 비현실적으로 보이는 미래임. 사회가 의존 단계에 도달한 뒤에도 가격을 낮게 유지할 만큼 경쟁이 충분할까, 아니면 회사들이 이익률을 올리려고 가격을 끌어올리면서 이용자가 쥐어짜이게 될까?
경찰서는 이미 교통 단속에서 민사 몰수로 넘어갔음. 한 10년 전쯤부터임
문제를 빨리 고치거나, 법을 어겨 얻는 수익이 벌금보다 커지는 지점까지 최적화할 수 있음. 마지막으로 읽었을 때 캘리포니아에서는 “승객들이 하차를 위해 자전거 전용차로에 들어가길 원한다”는 입장을 유지하고 있었음
아마 도시·주 세금이 더 높아질 것임. 연금 포함 연봉 20만 달러 넘는 경찰관이 급여 대부분을 교통 딱지로 벌고 있진 않음
지금까지 안 그랬다고? 젠장, 로봇으로 살기 좋은 시대네
특허도 “같은 건데 컴퓨터로 한 것”이면, 불법 복제도 “FAANG의 모델 학습”이면 그냥 넘어가는 것처럼, 기술에는 프리패스가 주어지는 듯함
자전거 전용차로가 흥미로운 예외 상황으로 드러남
Waymo는 현재 자전거 전용차로에서 승객을 태우고 내려주고 있는데, 위험하기 때문에 불법임. 다만 많은 차량 호출 운전자들도 그렇게 함. 자전거와 보행자 입장에서 자주 다니는 사람으로서, 자율주행차가 이 이용자층에게 많은 것을 더 안전하게 만들 가능성에는 기대하고 있음
그렇지만 법에 대한 이런 “사회적 이해”를 어떻게 코드화할지는 걱정됨. 고속도로에서 탄 Waymo는 제한속도를 약간 넘는 데 거리낌이 없었고, 정지 표지판에서는 법 조문을 그대로 따르기보다 약간 공격적으로 지나가려는 듯했음
로봇에게 특정 법을 때때로 어기는 법을 가르쳐야 한다는 건 우스꽝스럽지만, 자전거 전용차로 주차나 보행자 양보 같은 법은 인간 운전자들이 항상 어기는 법이기도 함. 기사에서 언급된 장치들이 로봇에게 반사회적이지만 흔한 행동을 프로그래밍하도록 가르치는 일을 막아주길 바람 https://futurism.com/future-society/waymo-bike-lanes-traffic
꽤 미묘한 문제임. 어디에 선을 그어야 할지 모르겠음
예를 들어 교통량이 많은 4방향 정지 교차로는 법이 현실과 잘 맞지 않는 흥미로운 예임
누구도 오늘 사고를 당하고 싶지 않으니 순서를 맞추는 건 분명 중요함. 하지만 법은 보통, 주마다 운전법이 다르긴 해도, 순서에 대해 매우 구체적이고 단순한 규칙을 말함. 먼저 온 차가 먼저 가고, 순서가 불명확하면 오른쪽 차량에 양보하며, 항상 교차로가 완전히 비워질 때까지 기다렸다가 진행하라는 식임
종이 위에서는 깔끔하고 좋아 보임. 설명하고 적어두기 쉬운 체계였을 것임
하지만 현실은 매우 다름. 4방향 정지는 운전자들이 동시에 움직이면서도 충돌하지 않는 정교한 춤임. 서로 마주 보는 직진 차량 두 대는 동시에 지나가도 괜찮고, 네 방향 모두 우회전도 동시에 가능함. 마주 보는 좌회전도 동시에? 가능함. 다른 차들이 우회전하는 동안에도? 왜 안 되겠나
어떤 움직임을 할 공간이 있고 충돌이 생기지 않는다면 그 움직임은 잘 작동함
우리는 이런 교차로가 원래 어떻게 작동해야 하는지 배웠지만, 결국 현실이 실제 작동 방식을 보여줌. 그리고 그 춤은 작동함. 효율적이고, 안전하게 그 춤을 춘다고 딱지를 받는 사람도 없음. 대체로 그 춤을 모르는 소심한 준법 운전자도 결국은 지나가게 됨
주된 문제는 그 춤을 충분히 설명하고 적어서 법으로 코드화하기 어렵다는 것임
그래도 시도해볼 만할지도 모름
예전에 읽은 기사에 따르면, Waymo가 언급한 방식으로 더 공격적으로 바뀐 건 법 조문을 그대로 따를 때 다른 운전자들에게 꽤 성가셨기 때문이라고 함. 교통 흐름을 따르는 것도 나름 의미가 있음
자율주행차가 어느 정도 임계 규모에 도달하고 인간 운전자가 자율주행 교통에 맞춰야 하는 단계가 되면, 다시 더 엄격한 규칙 준수로 돌아갈 수 있을 것 같음. 지금은 자율주행차가 인간 교통에 맞춰야 하는 상황임
Hacker News 의견들
전반적으로 자율주행차가 앞으로 도로 사망자를 줄여주길 기대함
마지막 관문은 규제임. 제조사가 “운전자가 없다”는 이유로 책임을 피하고, 자율주행차가 만든 피해를 사회에 떠넘기게 해서는 안 됨
문제는 공정성을 어떻게 맞추느냐임. 사람이 차량 과실치사를 저지르면 엄하게 처벌받는데, 자율주행차는 어떻게 해야 하나? 1천만 달러 벌금? 임원 징역? 주행거리 X마일당 1천만 달러 벌금이 그냥 사업 비용으로 받아들여지면 어떻게 하나?
인간 운전자에게 적용되는 기준은 이미 바닥을 뚫고 내려간 수준임
차량으로 인한 사망 확률은 언제나 존재하고 0%가 될 수 없음. 자율주행차가 사망을 일으킬 확률이 인간 운전보다 여러 자릿수 낮다면, 우리는 그 미래를 선택해야 함
이런 조건에서 제조사 임원을 감옥에 보내거나 개인에게 금전 책임을 지우면, 전체 사망자가 줄어들더라도 자율주행차는 출시되거나 대중화되지 못할 것임. 공정성·정의·응보 감각은 기분을 낫게 할 수 있지만 전체 사망자는 늘릴 수 있음
논리적으로는 기준이 필요함. 예를 들어 제조 차량 y대당 사망 x건 같은 식이고, 기준을 넘으면 회사에 큰 벌금을 부과함. 기술이 좋아질수록 기준은 낮출 수 있음. 고의나 중대한 과실로 사망을 일으킨 경우가 아니라면 무시해야 할 수도 있음
인류가 이걸 받아들일 수 있는지는 또 다른 문제임
스웨덴이나 스위스 같은 곳보다 마일당 두 배 이상 높고, 캐나다·호주·독일 같은 곳의 10억 마일당 6~8명보다도 꽤 높음. 개선 여지가 없는 게 아니라, 사회나 정부 차원에서 그 비용을 감수할 가치가 없다고 보는 것뿐임
이를 금전 비용으로 바꾸면 윤리적 성격은 조금 달라지겠지만, 엄청난 전환은 아닐 것임
또 하나의 단순하고 효과적인 조치는 벌금을 절대 금액이 아니라 소득 비율로 바꾸는 것임. 지금은 자전거 전용차로 주차가 보통 사람을 죽이지 않으니 운전자는 작은 벌금을 작은 확률로 낼 뿐이라고 생각함. 하지만 연소득의 0.1% 같은 벌금 가능성이 생기면 Waymo 기술은 마법처럼 그런 행동을 하지 않게 될 것임
사적 소송권까지 붙이면 집행력이 충분히 높아져 개선이 빨라지고, 모든 도로 이용자의 안전과 이동 시간도 나아질 것임
괜찮아 보임. Waymo를 많이 쓰는 편이고 344회 탑승했으며 좋아하지만, 안전이나 사고 통계에 잡히지 않는 방식으로 교통법규와 상식적인 도로 예절을 모두 어기는 경우가 있음. 딱지는 모델을 개선해야 할 지점을 알려주는 좋은 신호일 수 있음
예를 들어 Waymo가 내 아파트에서 나를 태울 때마다, Uber 운전자가 늘 쓰는 훨씬 한적한 옆길로 들어오는 대신 아주 붐비는 도로의 한 차로를 통째로 막음. 이런 낮은 수준의 성가심 상당수는 집계된 사고 통계나 탑승 시간만 보는 사람에게 보이지 않을 것 같음
여러 면에서 인공지능의 미래는 우리가 측정할 수 있는 것에서는 더 나아지지만, 통계로 읽히지 않는 것들에서는 더 나빠질 수도 있음
캘리포니아에 살지 않고 이 이슈를 따라가진 않았지만, 평범한 관찰자로서는 다른 차량 운전자처럼 위반 딱지를 받지 않은 채 도로 주행이 허용됐다는 게 충격적임
무인차에 딱지를 끊는 것은 좀 이상한 방식임
위반이 의도적이고 쉽게 고칠 수 있다면, 자율주행차가 규칙을 지키지 않으면 운행을 전면 중단하도록 법이나 규제를 만들면 됨
위반이 의도적이지 않고 특이한 예외 상황에서 드물게만 발생한다면, 땅콩버터에 극소량의 설치류 털을 허용하는 것처럼 낮은 빈도 기준을 정하면 됨. 기준을 넘으면 처음엔 벌금을 물리고 결국 허가를 취소하면 됨. 이건 개별 위반 딱지가 아니라 연간 기준 초과에 대한 연간 벌금이어야 함
위반이 의도적이지만 쉽게 고칠 수 없다면, 예를 들어 15블록 안에 합법적으로 정차할 곳이 없어서 금지된 곳에 서는 경우라면, 법과 규제가 나쁜 것임. 딱지는 사실상 불공정한 세금이 됨. 우리 도시에서는 이삿짐 트럭이 사실상 불법인데, 이중주차가 불법이지만 합리적인 거리 안에 가구를 나를 수 있는 합법 주차 공간이 보통 없기 때문임. 그래서 이사 비용에는 부당하더라도 주차 딱지라는 “세금”이 포함된다는 걸 모두 알고 있음
마지막으로 위반이 의도적이지 않지만 항상 발생한다면, 그 자율주행 회사는 소프트웨어가 형편없으니 허가를 잃어야 함
그래서 개별 위반마다 자율주행차에 딱지를 끊는 게 왜 말이 되는지 모르겠음. 자율주행 회사가 교통 규칙을 계속 어기고 고치지 못한다면 금지해야 한다는 뜻임. 딱지는 답이 아님. 차량을 충분히 높은 기준으로 다루는 게 아니라, 가끔 딱지만 내고 소프트웨어를 개선하지 않아도 빠져나가게 해주는 방식임
자율주행차와 땅콩버터의 가장 큰 차이는 자율주행차에는 이미 준수 체계가 있다는 점임. 바로 경찰임. 자율주행차에 맞게 설계된 체계는 아니고, 처음부터 설계한다면 그렇게 만들진 않겠지만, 기존 체계 위에 완전히 별도의 준수·감시 체계를 새로 만드는 것보다 불완전함을 받아들이는 편이 훨씬 나음. 이득이 그만큼 크지 않음
먼 미래에 차량 대부분이 자율주행이 되면 새 체계로 갈아엎을 가치가 있을 것임. 그때쯤이면 문제가 매우 드물어져 아예 별도 체계가 없고, 큰 문제가 드물게 생길 때만 법적 절차를 쓰게 될 것 같음
그 전까지는 교통 위반에는 딱지를 끊는 방식이 충분히 괜찮아 보임
번호판 기반 딱지 발부, 결제 처리, 징수 같은 기존 인프라가 이미 있음
당신은 법 개정을 말하고 있는데, 거기에는 절차적 장벽이 많이 필요함. DMV가 여기서 한 것처럼 기존 인프라에 연결되는 새 규칙을 공표하는 편이 훨씬 쉬움
그리고 정부가 위반이 의도적인지 아닌지를 어떻게 평가해야 하나? 딱지는 엄격책임. 의도나 이유와 무관하게 했으면 받는 방식이라 행정이 쉬움
초콜릿 속 바퀴벌레 수를 0으로 만들 수 없듯 위반 수를 0으로 만들 순 없겠지만, 그 0이 아닌 양은 0 위반이라는 목표에 가까워질수록 줄일 수 있는 규제 비용임
물론 법을 노골적으로 무시하고 딱지 비용만 감수하는 차량은 퇴출할 수 있어야 함. 그런 운전자에게 하는 것처럼 말임. 다만 그건 일반적인 금전 벌금, 즉 딱지가 실패했을 때의 두 번째 방어선이어야 함
기존 법에 이미 집행 장치가 있는데 왜 새 법을 천 개나 만들어야 하나?
개인용 무인차는 어떻게 할 건가? 개조 여부가 있는 경우도 포함해서, 내 개인 차량이 나를 태우러 오는 길에 위반을 저지르면 어떻게 적용되나?
“시작”이라고? 지금까지 안 하고 있었다는 뜻인가? 그건 잘못된 것 같음
이게 안전을 높이려는 건가, 아니면 수입을 늘리려는 건가? 사람들이 잊는 2차 효과는 딱지가 도시와 경찰서의 수입원이기도 하다는 점임. 무인차 회사들은 딱지 몇 장 정도는 감수하고 문제를 빨리 고칠 것임
그래서 미래에 도로와 자동차가 모두 자동화되고 이 수입원이 마르면 도시 재정이 어떻게 될지 궁금함
더 걱정되는 건 대규모 자율주행 Uber 차량군이 일상 이동을 처리하고, 처음엔 저렴하게 시작하면서 개인 차량 소유가 비현실적으로 보이는 미래임. 사회가 의존 단계에 도달한 뒤에도 가격을 낮게 유지할 만큼 경쟁이 충분할까, 아니면 회사들이 이익률을 올리려고 가격을 끌어올리면서 이용자가 쥐어짜이게 될까?
지금까지 안 그랬다고? 젠장, 로봇으로 살기 좋은 시대네
자전거 전용차로가 흥미로운 예외 상황으로 드러남
Waymo는 현재 자전거 전용차로에서 승객을 태우고 내려주고 있는데, 위험하기 때문에 불법임. 다만 많은 차량 호출 운전자들도 그렇게 함. 자전거와 보행자 입장에서 자주 다니는 사람으로서, 자율주행차가 이 이용자층에게 많은 것을 더 안전하게 만들 가능성에는 기대하고 있음
그렇지만 법에 대한 이런 “사회적 이해”를 어떻게 코드화할지는 걱정됨. 고속도로에서 탄 Waymo는 제한속도를 약간 넘는 데 거리낌이 없었고, 정지 표지판에서는 법 조문을 그대로 따르기보다 약간 공격적으로 지나가려는 듯했음
로봇에게 특정 법을 때때로 어기는 법을 가르쳐야 한다는 건 우스꽝스럽지만, 자전거 전용차로 주차나 보행자 양보 같은 법은 인간 운전자들이 항상 어기는 법이기도 함. 기사에서 언급된 장치들이 로봇에게 반사회적이지만 흔한 행동을 프로그래밍하도록 가르치는 일을 막아주길 바람
https://futurism.com/future-society/waymo-bike-lanes-traffic
예를 들어 교통량이 많은 4방향 정지 교차로는 법이 현실과 잘 맞지 않는 흥미로운 예임
누구도 오늘 사고를 당하고 싶지 않으니 순서를 맞추는 건 분명 중요함. 하지만 법은 보통, 주마다 운전법이 다르긴 해도, 순서에 대해 매우 구체적이고 단순한 규칙을 말함. 먼저 온 차가 먼저 가고, 순서가 불명확하면 오른쪽 차량에 양보하며, 항상 교차로가 완전히 비워질 때까지 기다렸다가 진행하라는 식임
종이 위에서는 깔끔하고 좋아 보임. 설명하고 적어두기 쉬운 체계였을 것임
하지만 현실은 매우 다름. 4방향 정지는 운전자들이 동시에 움직이면서도 충돌하지 않는 정교한 춤임. 서로 마주 보는 직진 차량 두 대는 동시에 지나가도 괜찮고, 네 방향 모두 우회전도 동시에 가능함. 마주 보는 좌회전도 동시에? 가능함. 다른 차들이 우회전하는 동안에도? 왜 안 되겠나
어떤 움직임을 할 공간이 있고 충돌이 생기지 않는다면 그 움직임은 잘 작동함
우리는 이런 교차로가 원래 어떻게 작동해야 하는지 배웠지만, 결국 현실이 실제 작동 방식을 보여줌. 그리고 그 춤은 작동함. 효율적이고, 안전하게 그 춤을 춘다고 딱지를 받는 사람도 없음. 대체로 그 춤을 모르는 소심한 준법 운전자도 결국은 지나가게 됨
주된 문제는 그 춤을 충분히 설명하고 적어서 법으로 코드화하기 어렵다는 것임
그래도 시도해볼 만할지도 모름
자율주행차가 어느 정도 임계 규모에 도달하고 인간 운전자가 자율주행 교통에 맞춰야 하는 단계가 되면, 다시 더 엄격한 규칙 준수로 돌아갈 수 있을 것 같음. 지금은 자율주행차가 인간 교통에 맞춰야 하는 상황임
https://www.youtube.com/watch?v=bzE-IMaegzQ
Waymo가 “차량 호출 기사들도 그러니까”라는 이유로 불법인 곳에서 그렇게 한다는 증거는 못 봤음
정말 웃긴 일은 어느 주가 지방정부 수입 흐름을 유지하려고 자율주행 회사에게 소프트웨어 버그를 남겨두라고 법으로 강제하는 첫 순간일 것임
차량이 영상을 집행 프로그램으로 보내 처리하게 해서 벌금도 자동화해야 함. 자율주행, 자율딱지임
제조사가 품질을 개선하고 덜 숨기도록 압박하는 데 도움이 될지도 모름