- Microsoft는 최근 국가 지원 해커들이 자사의 생성형 AI 도구를 공격에 활용하는 것을 적발했음. 보안 커뮤니티에서는 Microsoft가 이를 어떻게 알아냈는지에 대한 의문이 제기됨.
- Microsoft의 행위를 "스파이"라고 특징짓는 것에 대해 일부에서는 반발했음. 클라우드 서비스 제공자가 사용자의 활동을 모니터링하는 것은 당연한 일이며, 이를 스파이 행위라고 부르는 것은 공정하지 않다는 주장임.
- 이는 변화하는 사생활 보호에 대한 집단적 기대치의 한 예로 볼 수 있음. 이를 이해하기 위해 어업에서 배울 점이 있음.
- 20세기 중반, 과도한 어획으로 인해 해양 어류 수가 급격히 감소하기 시작했음. 포경 산업에서도 유사한 감소 추세가 나타남.
- Daniel Pauly는 연구자들이 허용 가능한 어획량을 결정할 때 중대한 오류를 범하고 있다는 사실을 깨달음. 문제는 연구자들이 어류 개체 수 감소의 심각성을 인지하지 못한다는 것이었음.
- Pauly는 각 세대의 연구자들이 현재 통계를 비교하는 기준점(baseline)이 다르며, 각 세대의 기준점이 이전 세대보다 낮다는 점을 지적함. 이를 "기준점 이동 증후군(shifting baseline syndrome)"이라고 명명함.
- 인터넷 감시와 그에 따른 사생활 침해도 같은 궤적을 따르고 있음. 현대 기술의 광범위한 특성으로 인해 감시가 그 어느 때보다 쉬워졌으며, 각 세대는 젊은 시절의 사생활 현상에 익숙해져 있음.
- AI 챗봇은 이러한 현상의 최신 사례임. 챗봇은 사용자의 입력에 응답하여 출력을 생성하지만, 그 이면에는 입력을 추적하는 복잡한 클라우드 기반 시스템이 존재함.
- 기준점 이동은 우리의 집단적 사생활 상실의 핵심임. 미국 대법원은 오랫동안 사생활에 대한 우리의 권리가 사생활에 대한 합리적인 기대에 달려 있다고 판결해 왔음. 그러나 기대는 변동하기 쉬운 것으로, 기준점 이동의 영향을 받음.
- 이제 어떻게 해야 할까? 어업 과학자들은 이제 큰 그림을 바라봄. 그들은 이전 10년과 비교하는 등의 상대적 척도를 더 이상 고려하지 않음. 대신 건강한 해양 생태계와 지속 가능한 어획량이 어떤 모습이어야 하는지 전체적인 관점에서 바라봄.
- 사생활과 보안 분야에서도 같은 접근 방식이 필요함. 기준점 이동과 비교하는 대신, 한 걸음 물러서서 건강한 기술 생태계가 어떤 모습일지 살펴보아야 함.