Hacker News 의견

• 정치적 문제의 본질

  • 이 문제는 기술적인 것이 아니라 정치적인 문제임. 예를 들어, 구소련은 기본적인 기술로도 효과적인 대규모 감시를 수행했음. 미국에서 이러한 일이 일어나지 않은 것은 기술적 능력 부족이 아니라 정치적 관심이 없었기 때문임.
  • 과거에는 상상도 못했던 것들을 금지하는 법이 만들어졌음. 데이터 수집을 불법화하는 것도 큰 법적 도약은 아닐 것이나, 현재 정치적 관심이 전혀 없음.

• 인공지능의 감시 위험성

  • 감시 국가의 현실에서 데이터의 양이 너무 많아 현실적으로 모니터링이 불가능했으나, AI는 이를 요약하여 해결할 수 있음. 이것이 단기적으로 AI의 진짜 위험성으로, 표준에서 벗어난 모든 것을 타겟팅하는 도구가 될 수 있음.

• 기업의 개인 비서 봇

  • 구글, 메타, 마이크로소프트 등의 봇은 웹이나 소셜 네트워크뿐만 아니라 특정 주제와 사람들을 추적할 것임. 이러한 개인 비서 봇은 사용자를 돕는 척하지만 실제로는 기업의 목적에 맞게 정보를 수집하고 조작된 정보를 제공함.

• AI에 의한 대규모 범죄 법 집행

  • 범죄 법은 조사와 기소에 자원이 필요하다는 가정 하에 작성되었으나, AI는 이러한 제한을 없앨 수 있음. AI가 공공 활동을 모니터링하고 법적 절차를 자동화하여 사소한 범죄까지도 기소할 수 있게 됨.

• 검열의 영향

  • 검열의 가능성과 이를 통한 비즈니스 모델이 감시보다 더 우려됨. 예를 들어, 데이팅 앱에서 연락처 교환에 비용을 지불하게 하거나, 소셜 미디어에서 특정 견해를 즉시 삭제하는 것이 가능해질 수 있음.

• 기술의 불가피한 발전

  • 기술이 발전함에 따라 불가피하게 감시와 검열이 일어날 것임. 이를 현실로 받아들이고 적응하는 방법에 대한 논의가 필요함. 법적 규제와 반감시 기술을 통해 불법 감시의 위험을 줄일 수 있음.

• 보안을 위한 얼굴 인식

  • "보안"을 명목으로 곧 자주 얼굴 스캔이 이루어질 것이며, 이는 우리 생활의 많은 부분에서 의무화될 것임.

• 구글의 개인정보 보호 노력

  • 구글은 "Hey Google"이 항상 듣고 있는 것이 아니라, 특정 단어를 인식할 때만 오디오를 전송함. 구글의 개인정보 보호 팀은 올바른 일을 하려고 노력하고 있음.

• AI에 의한 대규모 감시의 현실

  • 대규모 감시는 이미 존재하며, AI는 수십 년에 걸친 모든 사람의 행동 데이터를 추출하는 데 사용될 수 있음. 이 데이터가 범죄 기소에만 사용된다면, 법 위에 아무도 없는 사회가 될 수 있으나, 시스템을 통제하는 인간은 자신에게 유리한 위치를 원함.

• AI 소프트웨어의 자유

  • AI 소프트웨어는 제한되어서는 안 되며, 일반인과 시민 의식이 있는 사람들이 기업 AI에 대항할 수 있는 개인 및 공공 AI 시스템을 개발할 수 있어야 함. AI의 미래는 대립적이며, AI 소프트웨어 개발의 자유는 그 사용이 규제되어야 함.