▲GN⁺ 2025-02-05 | parent | ★ favorite | on: 컴퓨터는 절대 책임을 질 수 없습니다.(simonwillison.net)Hacker News 의견 컴퓨터 사용이 책임 회피의 수단으로 사용됨을 지적함. Neil Postman의 책 <i>Technopoly</i>에서 인용된 문구를 통해 설명함. 컴퓨터가 마치 진정한 권위의 원천인 것처럼 보이게 하여, 책임을 회피하는 경향이 있음 자율주행차에 대한 의문을 제기함. 책임이 운전자에서 제조사로 이동하게 되며, 제조사가 그 책임을 원할지 의문임 칩 카드의 도입이 은행의 책임을 사용자에게 전가하기 위한 것임을 주장함. 보안이 강화되었지만, 실질적으로는 신용카드 사기 책임을 사용자에게 넘기려는 의도임 신원 도용도 마찬가지로 은행 사기임을 강조함. 이를 신원 도용이라 부름으로써 은행의 문제가 아닌 개인의 문제로 전환됨 기업은 책임을 싫어하며, 이는 모든 사람이 싫어하는 것임을 언급함 어떤 회사에서는 관리자가 책임을 질 수 있기 때문에 결정을 내리지 않으려는 정책이 있음 "책임"이라는 단어가 이제는 의미 없는 치료적 언어가 되었음을 지적함. CEO가 책임을 진다고 말하지만 실제로는 아무런 결과가 따르지 않음 Norbert Wiener의 책 <i>God & Golem Inc.</i>에서 인용된 문구를 통해, 사람들이 자동 계산기에서 원하는 것은 더 정확한 계산이 아니라 책임을 전가할 수 있는 상자임을 설명함 법적 원칙으로는 운영자가 책임을 져야 한다고 주장함. 그렇지 않으면 방화 예방을 위해 성냥을 금지해야 한다는 비유를 사용함 "알고리즘"과 관련된 현재의 AI 열풍 이전에도 이미 이런 일이 발생했음을 언급함 디지털 포렌식에서 사용되는 원칙이 역으로 적용됨을 설명함. 법정에서 디지털 포렌식 조사관은 기기에서 수행된 작업을 증언할 수 있지만, 누가 그 작업을 했는지는 알 수 없음 컴퓨터가 매우 결정론적으로 보이지만, 실제로는 불확실성이 존재함을 전문가가 설명할 때 일반인들이 충격을 받음 소매점 보안 경보가 울릴 때, 컴퓨터가 문제를 일으켰다고 사회적으로 정상화된 사례를 언급함. 컴퓨터가 문제를 일으킨 것처럼 보이지만, 실제로는 그렇지 않음
Hacker News 의견
컴퓨터 사용이 책임 회피의 수단으로 사용됨을 지적함. Neil Postman의 책 <i>Technopoly</i>에서 인용된 문구를 통해 설명함. 컴퓨터가 마치 진정한 권위의 원천인 것처럼 보이게 하여, 책임을 회피하는 경향이 있음
자율주행차에 대한 의문을 제기함. 책임이 운전자에서 제조사로 이동하게 되며, 제조사가 그 책임을 원할지 의문임
칩 카드의 도입이 은행의 책임을 사용자에게 전가하기 위한 것임을 주장함. 보안이 강화되었지만, 실질적으로는 신용카드 사기 책임을 사용자에게 넘기려는 의도임
신원 도용도 마찬가지로 은행 사기임을 강조함. 이를 신원 도용이라 부름으로써 은행의 문제가 아닌 개인의 문제로 전환됨
기업은 책임을 싫어하며, 이는 모든 사람이 싫어하는 것임을 언급함
어떤 회사에서는 관리자가 책임을 질 수 있기 때문에 결정을 내리지 않으려는 정책이 있음
"책임"이라는 단어가 이제는 의미 없는 치료적 언어가 되었음을 지적함. CEO가 책임을 진다고 말하지만 실제로는 아무런 결과가 따르지 않음
Norbert Wiener의 책 <i>God & Golem Inc.</i>에서 인용된 문구를 통해, 사람들이 자동 계산기에서 원하는 것은 더 정확한 계산이 아니라 책임을 전가할 수 있는 상자임을 설명함
법적 원칙으로는 운영자가 책임을 져야 한다고 주장함. 그렇지 않으면 방화 예방을 위해 성냥을 금지해야 한다는 비유를 사용함
"알고리즘"과 관련된 현재의 AI 열풍 이전에도 이미 이런 일이 발생했음을 언급함
디지털 포렌식에서 사용되는 원칙이 역으로 적용됨을 설명함. 법정에서 디지털 포렌식 조사관은 기기에서 수행된 작업을 증언할 수 있지만, 누가 그 작업을 했는지는 알 수 없음
컴퓨터가 매우 결정론적으로 보이지만, 실제로는 불확실성이 존재함을 전문가가 설명할 때 일반인들이 충격을 받음
소매점 보안 경보가 울릴 때, 컴퓨터가 문제를 일으켰다고 사회적으로 정상화된 사례를 언급함. 컴퓨터가 문제를 일으킨 것처럼 보이지만, 실제로는 그렇지 않음