광고를 팔기 위해 우리는 지옥을 만들고 있습니다 [비디오]

• 인공지능의 위협은 로봇이 아니라 권력자가 인공지능을 사용하는 방법에 대한 우려임
• 디지털 광고와 설득구조는 사용자 개개인의 약점을 파악하고 조종하는 방향으로 진화하고 있음
• 기계학습 알고리듬은 우리가 이해할 수 없는 방식으로 인간 행동을 예측하고 유도함
• 데이터 수집과 알고리듬 조작은 정치, 사회적 영향력 행사에 사용되고 있음
• 우리는 디지털 시스템의 구조를 투명하게 재설계하고, 인간의 가치를 지키는 방향으로 기술을 발전시켜야 함

---

인공지능과 권력: 현실적인 위험

• 인공지능에 대한 진짜 두려움은 터미네이터 같은 로봇이 아니라 권력자들이 인공지능을 조작해 인간을 통제하는 것임
• 조지 오웰의 "1984" 처럼 감시 시스템이 현실화될 수 있음
• 기업들은 개인의 자유와 존엄성을 침해할 수 있는 기술을 개발하고 있음
• Facebook, Google, Amazon, Alibaba, Tencent 같은 회사들이 광고를 통한 데이터 수집과 분석에 집중하고 있음

디지털 광고와 설득 구조의 진화

• 기존 광고는 제한된 물리적 공간과 타겟팅에 의존했지만 디지털 세계에서는 개인별 맞춤형 설득이 가능함
• 인터넷 광고는 우리가 본 것, 검색한 것, 대화한 것을 기반으로 끝없이 따라오는 맞춤형 광고를 생성함
• 물리적 세상과 달리, 디지털 공간은 수십억 개 단위로 실시간 설득구조를 운영할 수 있음

기계학습 알고리듬의 힘과 한계

• 기계학습 알고리듬은 대량의 데이터를 통해 개인의 행동을 예측하고 조작하는 데 사용됨
• 프로그래머조차 알고리듬 내부가 어떻게 작동하는지 완전히 이해하지 못함
• 데이터가 많을수록 알고리듬의 성능은 강력해짐, 따라서 기업은 가능한 많은 데이터를 수집하려고 함

소셜미디어와 정치적 조작

• Facebook과 YouTube는 알고리듬을 통해 정치적 성향을 분석하고 조작할 수 있음
• 예를 들어, Facebook은 비공개 게시판을 이용해 특정 인구집단에게만 정보를 노출시킴
• 간단한 게시글 하나로도 수십만 명의 투표 행동을 변화시킨 사례가 존재함
• YouTube 추천 알고리듬은 사용자를 극단적 콘텐츠로 끌어들이는 "토끼굴" 효과를 발생시킴

디지털 시스템의 재설계 필요성

• 우리는 현재 우리가 어떤 정보를 보는지, 다른 사람들이 무엇을 보는지 모르는 상황에 있음
• 알고리듬은 민족, 정치적 성향, 성적 지향 등 개인적 특성을 파악할 수 있음
• 중국은 안면인식 기술을 이용해 감시 체계를 강화하고 있으며, 서방도 비슷한 위험에 처해 있음
• 디지털 기술을 인간의 가치에 기반해 재구성하고 투명성을 확보해야 함
• 기술, 창의성, 정치 구조까지 포괄적인 변화를 요구함

결론: 디지털 기술과 함께 성장하는 책임

• 디지털 플랫폼은 가치 있는 도구이지만, 동시에 개인과 사회에 심각한 위협이 될 수 있음
• 현재 시스템은 우리가 "상품"으로 거래되는 구조임
• 더 나은 미래를 위해서는 기술의 투명성, 인간 중심의 가치, 그리고 창의적이고 정치적인 변화가 필요함
• "엄청난 잠재력을 가진 기술은 엄청난 위험과 함께 온다"는 인식을 가져야 함

[GN⁺]

Hacker News 의견

• 대부분의 인터넷 광고가 비어있고, 사기성이 있다고 느낌

  • 광고가 위와 같지 않다면 괜찮음
  • 알고리즘이 어떤 광고를 보여줄지 모르기 때문에 Ublock Origin을 사용함
  • 광고가 유료 홍보가 아닌, 사람들이 보고 싶어하는 수준의 좋은 광고로 바뀌어야 한다고 생각함
  • Splendor Song Chalta rahe 같은 광고 음악이 좋아서 계속 듣고 있음
  • 대부분의 광고는 부자가 되는 방법을 팔려는 사기라고 느낌
  • 이런 사기성 강좌 판매자들을 싫어하고, 광고 경제가 사기꾼들 중심으로 돌아간다고 생각함
  • 프라이버시 악몽과 디스토피아를 만드는 것 같음
  • 광고를 끄고 서비스를 사용하고 싶음
  • 비즈니스 고객이 아닌 일반 고객에게서 큰 수익을 기대하지 않음
  • 오픈 소스에 대한 도덕적 의무를 느끼지만, 비즈니스가 자체 호스팅할 수 있어 고민 중임
  • 시스템이 돈에 의해 좌우되고, 돈이 부족하면 도덕성이 무시될 가능성이 높음
  • 경쟁이 너무 많고, 아이디어 차이가 크지 않아 광고를 시도함

• 광고를 피하기 위해 Safari에서 AdBlock Pro와 AdBlock을 사용하고 있음

  • YouTube에서 시간을 많이 보내기 때문에 Premium 구독을 하고 UnTrap for YouTube 확장을 구매해 추천을 숨김
  • BlueSky, Hacker News, YouTube를 자주 방문하지만 X, TikTok, Instagram, Facebook은 사용하지 않음
  • Amazon을 사용하지 않으려 노력 중임

• 소득 불평등에 대해 많이 불평했지만, 많은 부분이 설명됨

  • 사람들이 서비스에 지출할 여유가 없어 주의를 끌어내는 방식으로 돈을 벌게 됨
  • 제품이 무료이기 때문에 사용자 지원에 대한 기대가 없음

• 쿠키를 수락하고 광고를 보고 뉴스레터 팝업을 닫고 광고에 대한 비디오를 봄

  • 정말 핵심을 짚음

• Reddit의 텔레메트리 구현이 매우 공격적임

  • 이벤트 수집을 위한 엔드포인트가 페이지를 로드할 때마다 무작위로 변경됨
  • 모든 이벤트 수집 URL이 다른 용도로 사용되는 유효한 API 엔드포인트임
  • 일반적인 광고 차단 도구로는 차단하기 어려움
  • 악의적이라고 생각함

• 광고 차단기가 존재한다는 댓글이 많지만, 요점을 놓치고 있음

  • 광고 기반 인터넷 경제의 피해는 단순히 광고를 보는 것에 국한되지 않음
  • 인터넷의 전체 콘텐츠와 구조가 이 경제에 맞춰 왜곡됨
  • 검색 엔진, SEO, 콘텐츠 발견 메커니즘, 콘텐츠의 종류와 다양성 등이 더 나아질 수 있었음

• 광고를 소비하는 인간을 스푸핑하여 광고 수치를 무의미하게 만드는 공격을 시작할 수 있을지 궁금함