3P by kunggom 2020-01-10 | favorite | 댓글 2개

얼마 전 이란 테헤란 인근에서 발생한 우크라이나 국제항공 752편 추락 사고는 이란의 미사일 오인 발사 때문에 발생했을 가능성이 높아 보입니다. 당시 미국은 이란과의 마찰 때문에 B-52 전략폭격기 6대를 이란 인근으로 전진배치하고 있었는데, 이러한 긴장 고조 때문에 이란군 방공부대가 자국 영토에서 출발하는 민항기를 자국 공항을 공격하려는 미군기로 착각했을 가능성이 있습니다. 공교롭게도 비슷한 상황, 비슷한 지역에서 미군의 실수로 이란 민항기가 격추된 [USS 빈센스 호 이란항공 655편 격추 사건]이 문득 오버랩되는데, 이 사건의 원인으로는 심리적 긴장 상태에서 연달아 발생한 인적 오류와 부적절한 사용자 인터페이스 등이 꼽힙니다.

이렇듯 인간은 긴장하거나 예기치 못한 급박한 상황에 놓이면 혼란에 빠져 잘못된 판단을 하기 쉬운데, 많은 사람들은 그 대책으로 기계에 의한 자동화 또는 인간의 개입이 최소화된 자율화를 거론합니다. 인간이 착각하거나 혹은 미처 반응하지 못한 상황에서 기계가 자동적으로 어떤 조치를 선제적으로 취해야 한다는 것이죠. 일리 있는 이야기입니다만, 문제는 그 기계를 만드는 사람은 여전히 불완전한 존재라는 겁니다. 따라서, 그 기계도 불완전할 가능성이 높죠. 따라서 기계가 수행하는 자동화된 조치가 실은 잘못된 것일 가능성이 있습니다. 또, 그 기계를 운용하는 사람이 자동화를 올바로 이해하지 못한다면 그 자동화가 오히려 문제를 키우는 원인이 될 수도 있지요.

패트리어트 지대공 미사일이 잘못 발사된 사례를 통해 자율 시스템의 부정적인 면에 관해 설명하는 글을 발견하였습니다. (영어) 패트리어트 미사일에는 적의 탄도 미사일을 요격할 능력이 있지만 이걸 사람이 조작하기에는 너무 복잡하고 시간이 촉박하기 때문에, 스위치만 켜면 레이더에서 탄도 미사일이 감지되자마자 자동으로 발사되어 요격을 시도하는 [자동 모드]가 도입되었습니다. 이 자동 모드는 걸프전에서 스커드 미사일을 잘 격추하는 것처럼 보여서, 미군은 안일하게 이걸 믿게 되었지요. 그런데 이라크전에서 자동 모드로 된 패트리어트 미사일이 아군 전투기를 격추하는 일이 2번이나 발생했습니다. 레이더에서 전파 간섭으로 인해 실제로는 존재하지 않는 탄도 미사일이 감지되자 자동으로 패트리어트가 날아갔고, 미사일은 지정된 목표물을 찾을 수 없자 가장 가까이 있는 물체인 전투기를 목표물로 간주하여 격추해 버린 것입니다.

패트리어트 미사일 자동 모드의 사례는 치명적 자율무기(Lethal Autonomous Weapon: 인간의 개입 없이 스스로 목표물을 선택하고 공격하도록 설계된 자율무기)의 문제점을 그대로 보여 줍니다. 실세계의 애매모호한 상황에서 자율화된 시스템이 올바르게 판단할 수 있는 능력이 생각보다 낮다는 것이죠. 비단 치명적 자율무기가 아니더라도, 자율화된 시스템은 점차 우리의 일상 생활에 영향을 주고 있습니다. 예를 들어 YouTube는 머신 러닝으로 아동용 컨텐츠를 자동 식별하여 엉뚱하게 분류된 유튜버들의 원성을 사고 있으며, 한국에서는 오는 7월부터 레벨 3에 해당하는 부분 자율주행 기능이 들어간 자동차를 출시할 수 있게 됩니다. 점차 인간의 개입이 줄어드는 기계들의 시대가 찾아오고 있는데, 유사시 인간의 개입은 여전히 필요하다는 것을 명심하고 있어야 하겠습니다.

참고 - 위 글에 대한 한국어 발췌 요약 :
https://gall.dcinside.com/war/1022228

nezz1204 2020-01-10  [-]

영상이 떴는데 진짜 미사일을 맞은것 같네요.
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html

kunggom 2020-01-11  [-]

결국 이란이 이번 사고가 자국군의 미사인 오인 발사 때문에 일어났음을 인정했습니다. 고인들의 명복을 빕니다.
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111