GN⁺: 컴퓨터는 절대 책임을 질 수 없습니다.
(simonwillison.net)- 1979년 IBM 내부 교육에서 나온 전설적인 페이지가 AI 시대에 적절함
A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
컴퓨터는 절대 책임을 질 수 없습니다.
THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
따라서 컴퓨터가 관리 결정을 내려서는 안 됩니다. - 트위터에서 원본 출처에 대한 정보를 요청했는데, Jonty Wareing이 답변함:
- 누군가가 아버지의 작업 문서에서 발견되었고, 이후 홍수로 파괴됨
- IBM 아카이브와의 교신에서 찾을 수 없었음. 지사에서 아카이브되지 않은 자료를 생산하는 것이 일반적이었음.
- Jonty가 IBM으로부터 받은 답변
- 이미지가 처음 온라인에 공유된 것은 2017년 2월 @bumblebike의 트윗
- 1979년 내부 교육 자료에서 나온 것임을 확인함
- 2021년 12월 @bumblebike의 또 다른 트윗: 2019년 홍수로 대부분의 물건과 함께 파괴됨
- 은퇴자 클럽 줌 미팅에서 문의했으나 적절한 연령대의 사람이 거의 없음
Hacker News 의견
-
컴퓨터 사용이 책임 회피의 수단으로 사용됨을 지적함. Neil Postman의 책 <i>Technopoly</i>에서 인용된 문구를 통해 설명함. 컴퓨터가 마치 진정한 권위의 원천인 것처럼 보이게 하여, 책임을 회피하는 경향이 있음
-
자율주행차에 대한 의문을 제기함. 책임이 운전자에서 제조사로 이동하게 되며, 제조사가 그 책임을 원할지 의문임
-
칩 카드의 도입이 은행의 책임을 사용자에게 전가하기 위한 것임을 주장함. 보안이 강화되었지만, 실질적으로는 신용카드 사기 책임을 사용자에게 넘기려는 의도임
-
신원 도용도 마찬가지로 은행 사기임을 강조함. 이를 신원 도용이라 부름으로써 은행의 문제가 아닌 개인의 문제로 전환됨
-
기업은 책임을 싫어하며, 이는 모든 사람이 싫어하는 것임을 언급함
-
어떤 회사에서는 관리자가 책임을 질 수 있기 때문에 결정을 내리지 않으려는 정책이 있음
-
"책임"이라는 단어가 이제는 의미 없는 치료적 언어가 되었음을 지적함. CEO가 책임을 진다고 말하지만 실제로는 아무런 결과가 따르지 않음
-
Norbert Wiener의 책 <i>God & Golem Inc.</i>에서 인용된 문구를 통해, 사람들이 자동 계산기에서 원하는 것은 더 정확한 계산이 아니라 책임을 전가할 수 있는 상자임을 설명함
-
법적 원칙으로는 운영자가 책임을 져야 한다고 주장함. 그렇지 않으면 방화 예방을 위해 성냥을 금지해야 한다는 비유를 사용함
-
"알고리즘"과 관련된 현재의 AI 열풍 이전에도 이미 이런 일이 발생했음을 언급함
-
디지털 포렌식에서 사용되는 원칙이 역으로 적용됨을 설명함. 법정에서 디지털 포렌식 조사관은 기기에서 수행된 작업을 증언할 수 있지만, 누가 그 작업을 했는지는 알 수 없음
-
컴퓨터가 매우 결정론적으로 보이지만, 실제로는 불확실성이 존재함을 전문가가 설명할 때 일반인들이 충격을 받음
-
소매점 보안 경보가 울릴 때, 컴퓨터가 문제를 일으켰다고 사회적으로 정상화된 사례를 언급함. 컴퓨터가 문제를 일으킨 것처럼 보이지만, 실제로는 그렇지 않음