▲

Sam Altman의 화염병 사건에 대한 입장문

 (blog.samaltman.com)
1P by GN⁺ 4시간전 | ★ favorite | 댓글 1개
  • 자택에 화염병이 투척된 사건 이후 Sam Altman은 가족 사진을 공개하며 폭력의 확산을 막고자 하는 메시지를 발표
  • 그는 최근 자신을 겨냥한 선동적 보도와 AI 불안이 사건의 배경으로 언급되며, 언어의 힘과 책임을 강조
  • AI를 인류의 잠재력을 확장하는 도구로 규정하고, 사회가 이에 대응할 정책·안전 체계와 민주적 통제를 마련해야 함을 주장
  • OpenAI의 10년을 돌아보며 성과와 실수를 함께 인정하고, 앞으로는 예측 가능하고 안정적인 운영이 필요하다고 언급
  • AI 산업의 갈등을 “AGI의 힘이 사람을 비이성적으로 만든다”고 표현하며, 폭력 대신 대화와 민주적 절차를 통한 해결을 촉구

사건 개요

  • Sam Altman은 자택에 화염병이 투척된 사건 이후 가족 사진을 공개하며 폭력을 억제하기 위한 호소를 게시
    • 사건은 새벽 3시 45분경 발생했으며, 화염병이 집에 튕겨 나가 다친 사람은 없었음
    • 그는 “이미지에는 힘이 있다”며, 가족 사진 공개가 다음 공격을 막기 위한 행동임을 설명
  • 최근 자신을 겨냥한 선동적 기사와 AI에 대한 사회적 불안이 높아진 시점에 사건이 발생했다고 언급
    • “말에도 힘이 있다”며, 언어와 서사의 영향력을 과소평가했던 점에 대한 반성을 표함

신념과 가치관

  • 모든 사람의 번영과 과학·기술의 발전을 도덕적 의무로 규정
  • AI는 인간 능력과 잠재력을 확장하는 가장 강력한 도구로, 인류가 이를 통해 놀라운 일을 할 것이라 언급
    • 인류는 대규모 AI를 필요로 하며, 이를 실현할 방법을 찾아야 함

  • AI에 대한 두려움과 불안은 정당함

    • 사회가 새로운 위협에 대응할 정책과 안전 체계를 마련해야 함
    • 경제적 전환기를 극복하기 위한 사회적 회복력 강화 필요
    • AI의 민주화를 강조하며, 권력이 소수에 집중되어서는 안 됨
    • 미래의 통제권은 모든 사람과 제도에 속해야 하며, 집단적 의사결정이 필수
    • 일부 AI 연구소가 인류의 미래를 결정하는 것은 옳지 않다고 명시
    • 적응력의 중요성을 강조
    • 기술 발전 속도가 빠르므로, 잘못된 믿음을 수정하고 사고를 유연하게 전환해야 함
    • 초지능의 영향은 아직 아무도 이해하지 못하지만, 그 규모는 막대할 것이라 언급

개인적 성찰

  • OpenAI의 첫 10년을 돌아보며 자부심과 실수를 함께 인정
    • Elon Musk와의 협상에서 일방적 통제권 요구를 거부한 결정을 자랑스럽게 언급
    • 그 결정이 OpenAI의 존속과 이후 성취로 이어졌다고 평가
  • 갈등 회피 성향으로 인해 자신과 회사 모두 큰 고통을 겪었다고 인정
    • 이전 이사회와의 충돌을 잘못 처리해 혼란을 초래했다고 언급
    • “복잡한 상황 속의 결함 있는 인간”으로서, 매년 조금씩 나아지려 노력 중이라 표현
  • OpenAI가 이제는 스타트업이 아닌 주요 플랫폼이 되었음을 인식
    • 앞으로는 예측 가능하고 안정적인 운영이 필요하다고 강조
  • OpenAI가 불가능해 보였던 사명을 실현했다고 평가
    • 강력한 AI 개발, 대규모 인프라 구축, 제품화와 비즈니스 모델 완성, 안전하고 견고한 서비스의 대규모 제공 등을 성취
    • “세상을 바꾸겠다고 말한 많은 회사들 중 실제로 해낸 곳”이라 언급

산업에 대한 견해

  • 최근 AI 업계의 극적인 갈등과 경쟁의 원인을 “AGI를 본 사람은 다시 이전으로 돌아갈 수 없다”는 심리로 설명
    • AGI는 “권력의 반지”처럼 사람들을 비이성적으로 만드는 힘을 지님
  • 해결책으로 기술의 광범위한 공유와 민주적 통제를 제시
    • 개인의 역량 강화와 민주주의 시스템의 우위 유지가 핵심
  • 민주적 절차가 기업보다 강력해야 함을 강조
    • 법과 규범은 변하겠지만, 민주적 과정 안에서 변화해야 함
    • 기업은 목소리를 낼 수는 있어도 모든 권력을 가져서는 안 됨
  • AI 산업에 대한 비판은 기술의 막대한 영향력에 대한 진지한 우려에서 비롯된 것으로 평가
    • 선의의 비판과 토론은 환영하며, 반(反)기술 정서에도 공감을 표함
    • 그러나 전반적으로 기술 발전이 인류의 미래를 더 나은 방향으로 이끌 수 있음을 확신
  • 논쟁이 격화되는 가운데 수사와 행동을 완화하고 폭력을 줄여야 함을 호소
    • “비유적이든 실제든, 더 적은 폭발이 더 적은 가정에서 일어나야 한다”고 언급

함께 보면 좋은 글 β

▲
GN⁺ 4시간전  [-]
Hacker News 의견들

  • Sam Altman이나 다른 기술 리더들을 비판하는 건 정당하지만, 그나 그의 가족에게 폭력이나 위협을 가할 이유는 전혀 없음

    • 한 사람을 고문하는 건 나쁘지만, 수백만 명에게 작은 고통을 주는 건 어떤가 하는 도덕적 등가성에 대해 생각함
      Sackler 가문처럼 수많은 사람의 삶을 파괴한 경우는 폭력을 받을 만한 악인가, 아니면 법인 형태가 모든 책임을 흡수해버리는가 하는 질문을 던짐
      현대 자본주의에서 LLC/Corporation이 일종의 면죄부처럼 작동하는 구조가 도덕적으로 한계에 다다르고 있다고 봄
    • 최근 OpenAI가 전쟁 수행에 기술을 제공했다는 논란이 있었는데, 그런 상황에서 Sam이 자신이 위험에 처한 걸 놀랍게 여기는 게 이해되지 않음
      살상 행위에 관여하면 당연히 반발이 생기기 마련임
    • “국방부와의 파트너십” 얘기까지 있는데, 그걸 모른 척하는 건 말이 안 됨
    • “Suchir Balaji”라는 사람을 들어봤냐고 묻지만 맥락은 불분명함

  • Sam Altman과 의견이 다를 때가 많지만, 물리적 공격은 절대 정당화될 수 없음
    특히 가족을 공격하는 건 용납할 수 없는 일임

    • “Luigi Mangione”에 대한 HN의 의견이 어떤지 묻지만, 별다른 논의는 없음

  • 지난 10여 년간 사회가 발전하면서, 모든 것을 수익화하려는 흐름이 사람들의 회의주의를 키웠다고 느낌
    그래서 누군가에게 나쁜 일이 생겨도, 그에 대한 공적 반응조차 ‘마케팅인가 진심인가’ 의심받는 시대가 되었음

    • 이런 회의적 태도는 오히려 건강한 면도 있다고 봄
      플라톤의 ‘동굴의 비유’ 처럼, 정보의 표면만 보고 판단하지 말라는 경고를 떠올림
      Snowden, Epstein, Abu Ghraib 같은 사건 이후 대중은 권력층의 말을 그대로 믿지 않게 되었음
      Sam Altman이 위험한 위치에 서 있는 건 사실이지만, 공격이 정당화되는 건 아님
      다만 이런 불신의 문화 속에서 추측과 의심은 계속될 것임

  • 이런 사건은 끔찍하지만 놀랍지 않음
    매 분기마다 해고가 이어지고, AI가 일자리를 대체할 거라는 말만 들음
    부모 세대가 누리던 기본적인 삶조차 감당하기 어렵고, 그 와중에 기술 발전을 찬양하라는 분위기임
    Sam은 대중에게 ‘AI가 우리의 생계를 위협하는 얼굴’로 인식되어 있음

    • Sam과 그 주변 인물들이 TV에서 도발적인 발언을 하며 사람들의 분노를 자극한다고 느낌
      그런 말을 들은 일부 사람들은 잃을 게 없다고 생각할 수도 있음

  • Sam Altman에 대한 극단적인 반응이 놀라움
    그가 기술의 좋은 관리자는 아니라고 생각하지만, 폭력은 결코 정당화될 수 없음
    또한 그가 부정적인 기사와 이번 사건을 연결시키는 건 부적절하다고 봄
    그는 종종 묵시록적 서사로 대화를 주도하고, 그게 투자자와 극단적인 사람 모두에게 영향을 줌

    • 하지만 Sam 자신은 폭력을 정당화한다고 주장하는 사람도 있음
      미 국방부와의 계약을 통해 살상 시스템에 AI를 제공했으니, 그가 폭력을 부정할 자격이 없다고 비판함
    • Sam이 여러 번 거짓말을 한 전력이 있어서, ‘늑대소년’처럼 신뢰하기 어렵다고 말함

  • 이번 사건은 끔찍하지만, Sam이 이를 이용해 언론 보도를 공격하는 건 문제라고 느낌
    그는 늘 피해자 이미지를 만들어 여론을 조작하려는 듯한 인상을 줌
    이번 글도 미친 사람들을 막지는 못하겠지만, 사람들의 동정심을 유도하려는 의도처럼 보임

  • 폭력이 일상화된 야만적인 사회에서는 평화적 시위가 무의미해짐

    • 더 나쁜 건, 꼭 다수가 아니라 무지하거나 방관하는 소수만 있어도 폭력이 유지된다는 점임

  • 작년에 겪은 임대주택 퇴거 경험이 떠오름
    새 집주인이 처음엔 친절했지만, 이틀 만에 퇴거 통보를 줬음
    물론 화가 났지만 폭력적인 행동은 하지 않았음

    • 만약 임대 계약이 있었다면, 새 집주인은 계약 기간이 끝날 때까지 퇴거시킬 수 없었음

  • “AGI를 보면 다시는 못 본 척할 수 없다”는 말이 ‘반지의 제왕’의 반지 비유처럼 들림
    하지만 그 비유는 틀렸다고 생각함
    반지는 반드시 파괴되어야 하고, 그때까지는 누군가가 보유해야 함
    그 두 조건이 없으면 비유가 성립하지 않음
    이런 허술한 비유로 인류 멸망이나 AI 지배를 논하는 건 이제 지겨움

  • Sam이 우리 모두에게 화염병을 던지는 듯한 기분이 듦
    이번엔 운 좋게 피해갈 수도 있지만, 다음엔 아닐 수도 있음

답변달기