# 컴퓨터는 절대 책임을 질 수 없습니다.

> Clean Markdown view of GeekNews topic #19056. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=19056](https://news.hada.io/topic?id=19056)
- GeekNews Markdown: [https://news.hada.io/topic/19056.md](https://news.hada.io/topic/19056.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2025-02-05T08:34:37+09:00
- Updated: 2025-02-05T08:34:37+09:00
- Original source: [simonwillison.net](https://simonwillison.net/2025/Feb/3/a-computer-can-never-be-held-accountable/)
- Points: 17
- Comments: 2

## Summary

1979년 IBM 내부 교육 자료에서 사용된 "컴퓨터는 절대 책임을 질 수 없습니다"라는 문구가 AI 시대에 적절하다는 이야기입니다. 이 문구의 출처를 찾기 위해 트위터에서 논의가 있었으며, Jonty Wareing은 이 문구가 아버지의 작업 문서에서 발견되었으나 2019년 홍수로 파괴되었다고 밝혔습니다. IBM 아카이브와의 교신 결과, 이 자료는 1979년 내부 교육 자료에서 나온 것이며, 처음 온라인에 공유된 것은 2017년이라고 확인되었습니다.

## Topic Body

- 1979년 IBM 내부 교육에서 나온 전설적인 페이지가 AI 시대에 적절함  
  > A COMPUTER CAN NEVER BE HELD ACCOUNTABLE  
  > 컴퓨터는 절대 책임을 질 수 없습니다.  
  > THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION  
  > 따라서 컴퓨터가 관리 결정을 내려서는 안 됩니다.  
- 트위터에서 원본 출처에 대한 정보를 요청했는데, Jonty Wareing이 답변함:   
  - 누군가가 아버지의 작업 문서에서 발견되었고, 이후 홍수로 파괴됨  
  - IBM 아카이브와의 교신에서 찾을 수 없었음. 지사에서 아카이브되지 않은 자료를 생산하는 것이 일반적이었음.  
- Jonty가 IBM으로부터 받은 답변  
  - 이미지가 처음 온라인에 공유된 것은 2017년 2월 @bumblebike의 트윗  
  - 1979년 내부 교육 자료에서 나온 것임을 확인함  
  - 2021년 12월 @bumblebike의 또 다른 트윗: 2019년 홍수로 대부분의 물건과 함께 파괴됨  
  - 은퇴자 클럽 줌 미팅에서 문의했으나 적절한 연령대의 사람이 거의 없음

## Comments



### Comment 34171

- Author: mammal
- Created: 2025-02-05T09:53:45+09:00
- Points: 3

"결정에 책임질 수 없는 사람은 절대 관리자가 되어서는 안 된다."

### Comment 34163

- Author: neo
- Created: 2025-02-05T08:34:39+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=42923870) 
- 컴퓨터 사용이 책임 회피의 수단으로 사용됨을 지적함. Neil Postman의 책 <i>Technopoly</i>에서 인용된 문구를 통해 설명함. 컴퓨터가 마치 진정한 권위의 원천인 것처럼 보이게 하여, 책임을 회피하는 경향이 있음

- 자율주행차에 대한 의문을 제기함. 책임이 운전자에서 제조사로 이동하게 되며, 제조사가 그 책임을 원할지 의문임

- 칩 카드의 도입이 은행의 책임을 사용자에게 전가하기 위한 것임을 주장함. 보안이 강화되었지만, 실질적으로는 신용카드 사기 책임을 사용자에게 넘기려는 의도임

- 신원 도용도 마찬가지로 은행 사기임을 강조함. 이를 신원 도용이라 부름으로써 은행의 문제가 아닌 개인의 문제로 전환됨

- 기업은 책임을 싫어하며, 이는 모든 사람이 싫어하는 것임을 언급함

- 어떤 회사에서는 관리자가 책임을 질 수 있기 때문에 결정을 내리지 않으려는 정책이 있음

- "책임"이라는 단어가 이제는 의미 없는 치료적 언어가 되었음을 지적함. CEO가 책임을 진다고 말하지만 실제로는 아무런 결과가 따르지 않음

- Norbert Wiener의 책 <i>God & Golem Inc.</i>에서 인용된 문구를 통해, 사람들이 자동 계산기에서 원하는 것은 더 정확한 계산이 아니라 책임을 전가할 수 있는 상자임을 설명함

- 법적 원칙으로는 운영자가 책임을 져야 한다고 주장함. 그렇지 않으면 방화 예방을 위해 성냥을 금지해야 한다는 비유를 사용함

- "알고리즘"과 관련된 현재의 AI 열풍 이전에도 이미 이런 일이 발생했음을 언급함

- 디지털 포렌식에서 사용되는 원칙이 역으로 적용됨을 설명함. 법정에서 디지털 포렌식 조사관은 기기에서 수행된 작업을 증언할 수 있지만, 누가 그 작업을 했는지는 알 수 없음

- 컴퓨터가 매우 결정론적으로 보이지만, 실제로는 불확실성이 존재함을 전문가가 설명할 때 일반인들이 충격을 받음

- 소매점 보안 경보가 울릴 때, 컴퓨터가 문제를 일으켰다고 사회적으로 정상화된 사례를 언급함. 컴퓨터가 문제를 일으킨 것처럼 보이지만, 실제로는 그렇지 않음