나쁜 소프트웨어 디자인은 군함도 충돌하게 만든다
(imseongkang.wordpress.com)2017년 8월 21일, 미 해군의 배수량 9천톤급 이지스 구축함 존 매케인(DDG-56) 호가 싱가포르 부근 말라카 해협에서 적재량 3만톤급 유조선 알닉 엠씨(Alnic MC) 호와 충돌해 승조원 10명이 사망하고 5명이 다치는 사고가 발생했습니다. 이 사고는 번잡한 항로에서 존 매케인 호의 조작권한을 넘기는 과정이 약 3분간 지연되어 발생했습니다. 해당 함정이 소속된 미 해군 7함대의 사령관 조셉 오코인(Joseph P. Aucoin) 중장은 이 사고 직후 경질되었습니다.
사고를 조사한 미국 NTSB(연방교통안전위원회)의 보고서에서는 원인으로 여러 가지를 지목하였는데, 이 중에는 사고 1년 전 존 매케인 호에 탑재된 IBNS(통합함교운항시스템)의 부적절한 디자인도 있습니다. 전함을 현대화하는 과정에서 배를 조향하고 추진하는 조작 인터페이스를 터치스크린 기반 소프트웨어로 바꾸었는데, 이 인터페이스의 전반적인 UI가 부적절해서 복잡도가 크게 높아졌기 때문에 사람이 실수하기 쉽고 이를 바로 알아차리기 어려운 환경이 된 것이 사고에 기여했다는 것입니다. 이 때문에 미 해군은 터치스크린 기반 조작 인터페이스를 폐기하고 도로 전통적인 기계식 조작장치로 돌아가기로 결정했습니다.
이걸 얼핏 보면 단순히 터치스크린을 채택한 것이 잘못이라고도 볼 수 있지만, 실제로는 잘못된 UI 때문에 복잡도가 높아진 것이 근본적인 문제였습니다. 이와 관련하여 [멜트다운: 편리한 위험의 시대](크리스 클리어필드·안드라크 틸시크, 2019)라는 책을 보면 시스템의 복잡도나 결합도가 높아지는 것이 얼마나 위험한지를 여러 사례를 들어 설명하고 있지요. 링크한 글에서는 위에서 언급한 IBNS의 사용자 인터페이스 디자인을 중심으로 어떤 부분이 좋지 않았는지를 상세히 설명하고 있습니다. (한국어)
위에서 언급한 책 [멜트다운]에는 UI/UX 관련 문제로 참사가 일어난 사례들에 대해서도 실려 있습니다. 예를 들면 2009년 발생한 [에어프랑스 447편 대서양 추락 사고]는 경험이 적었던 부조종사가 돌발 상황이 닥치자 패닉에 빠져 조종간을 계속 당기고 있었기 때문에 벌어진 사고였는데, 사고에 기여한 원인 중에는 위기를 파악한 조종사가 직접 조종간을 잡았지만 부조종사가 계속해서 조종간을 당기고 있었다는 사실을 너무 늦게 눈치채었던 점도 있습니다. 기장의 조종간과 부기장의 조종간에서 서로 다른 명령이 입력되고 있다는 경보음이 울리긴 했지만, 이미 여러 가지의 경보가 동시에 울리고 있었던 상황이라서 그 점을 눈치채었을 때에는 너무 늦었던 상황이었던 거죠.
에어프랑스 447편 대서양 추락 사고 :
https://rhfvm1111.blog.me/220275551718
위 책에 실려 있는 사례는 아니지만, 잘못된 조작 인터페이스나 소프트웨어가 사고를 일으킨 사례는 위에서 언급된 것과 같은 항공 분야에만 해도 여럿 있습니다. 예를 들어 1994년 발생한 [중화항공 140편 나고야 공항 추락 사고]의 경우 조종사가 실수로 건드리기 쉬운 레버를 잘못 조작한 상황과 심각한 버그가 있는 자동조종 소프트웨어를 업데이트하지 않은 상황이 겹쳐져 대참사가 발생했지요. 근래에 [라이온에어 610편 추락 사고]와 [에티오피아항공 302편 추락 사고]가 연달아 일어나 이슈가 되었던 보잉 737 MAX 기종의 경우에도 사고가 발생한 핵심 원인은 자동조종 소프트웨어 때문에 형성된 SPOF(단일 실패점) 때문이었습니다. 보잉 737 MAX 기종은 자동조종 소프트웨어에 특정 상황에서 조종사의 의지와 상관없이 수평 꼬리날개를 조작하는 기능을 충분한 설명 없이 추가했는데, 이 기능은 비행기에 설치된 2개의 센서 중 하나의 센서값만 사용하고 있었기 때문에 그 센서가 고장나자 비행기가 추락하는 쪽으로 비행방향이 강제로 고정되는 바람에 끝내 추락에 이르게 된 것입니다. 게다가 두 개의 센서가 서로 다른 값을 가리킬 때 경고하는 기능은 원래 내장되어 있었지만, 이걸 보잉에서 추가 옵션으로 바꿔 팔아먹은 바람에 조종사들은 제대로 된 경고를 받을 수 없었습니다.
중화항공 140편 나고야 공항 추락 사고 :
https://rhfvm1111.blog.me/220226606257
보잉 737 MAX 기종의 결함 :
https://namu.wiki/w/%EB%B3%B4%EC%9E%89%20737%20MAX/%EA%B2%B0%ED%95%A8
유저 인터페이스의 문제와 인적 오류가 결합한 다른 대표적인 사례로는 1988년 미 해군의 이지스 순양함 빈센스(CG-49) 호가 이란의 민항기를 전투기로 오인하여 격추한 사건도 있지요. 미국과 이란의 긴장이 다시 고조되는 시국을 보니 생각났습니다.
USS 빈센스 호 이란항공 655편 격추 사건 :
https://namu.wiki/w/…
안타까운 사례들이 많내요. 사람 생명이 달려있는 분야는 무엇보다 신뢰성, 직관성이 중요한 것 같습니다.
UI/UX 개선하는 것도 이런 분야는 심미성, 편의성 보다도 이 부분을 중점으로 둬야겠지요.
최근에 중화항공 140편 나고야 공항 추락 사고의 재연 영상이 나왔습니다. 실수하기 쉬운 조작 인터페이스, 결함 있는 안전장치, 결함을 제때 수정하지 않은 항공사의 늦장, 조종사들이 자동화 기능을 올바르게 이해하지 못한 점 등 여러 요인이 겹쳐 실수한 지 불과 2분도 채 되지 않아 대참사가 발생하는 장면이 재연되어 있습니다.