심리작전에 당한 당신 [비디오]

• 군사·정부 심리작전(PSYOPS) 의 역사를 마인드 컨트롤, UFO, 마법, 원격 조종 좀비 같은 소재와 엮어 AI·생성 미디어의 미래를 읽는 강연임
• AI 생성 콘텐츠, 소셜미디어 영향 공작, 마이크로 타깃 광고, 상시 감시가 인터넷과 시장 전반에 퍼지며 “PSYOP Capitalism”이라는 환경이 만들어졌다고 봄
• 이 환경에서는 지각 조작이 개인 단위로 작동하고, 각 개인이 “targeted individual”이 되는 환각의 시대가 됨
• 현실을 바꾸려 했던 군사·정보기관 프로그램의 비밀스러운 역사를 현재의 환상적 미디어 환경을 이해하는 선행 사례로 다룸
• 참석자는 Congress 기간 진행되는 CYCLOPS CTF/ARG 등록 코드를 받아, 냉전 초기의 모호한 CIA 인지전 프로그램을 배경으로 한 상호작용형 서사를 플레이할 수 있음

---

PSYOPS로 보는 생성 미디어의 미래

• 강연은 PSYOPS의 역사를 통해 AI와 생성 미디어가 만들어낼 미디어 환경을 바라봄
• 주요 소재는 마인드 컨트롤, UFO, 마법, 원격 조종 좀비, 전자전, AI, 인터넷의 죽음임
• 인터넷과 시장에서는 다음 요소들이 일반화됐다는 전제를 둠
  • AI 생성 콘텐츠
  • 소셜미디어 영향 공작
  • 마이크로 타깃 광고
  • 상시 감시
• 이런 환경은 PSYOP Capitalism으로 불리며, 지각 조작을 통해 각 개인을 “targeted individual”로 만드는 시대와 연결됨
• 현실을 바꾸려 한 군사·정보기관 프로그램의 숨은 역사는 현재의 환상적 미디어 환경을 이해하는 선행 사례가 됨

CYCLOPS 게임

• 강연 참석자는 CYCLOPS 등록 코드를 받음
• CYCLOPS는 Congress 기간 동안 진행되는 CTF/ARG 게임임
• 게임은 마인드 컨트롤과 PSYOPS의 주제를 상호작용형 준허구적 서사로 탐구함
• 배경은 냉전 초기의 모호한 CIA 인지전 프로그램임

[GN⁺]

Hacker News 의견들

• 기술에서 배운 게 하나 있다면, 사람들이 기술을 너무 과신한다는 것임
  사람들은 영상 속 인물이 말하는 광고 시뮬라크르를 만들 만큼 기술이 충분히 좋다고 믿고 싶어 하지만, 전부 환상에 가깝다
  정부와 빅테크가 전지전능한 단일체라고 믿고 싶어 하는데, 정말 그렇다면 유출 몇 달 전부터 증거 흔적을 남기는 내부고발자를 왜 못 잡는가
  기술을 신처럼 말하는 사람은 기술을 말할 자격이 없고, 해봐야 마케팅 목적일 뿐임

  • 권력과 비겁함 때문임. 사람들은 자신이 두려움이나 고통 속에 있지 않은 유일한 이유가 권력에 굴복했기 때문인 세상에 살고 싶지 않아서 “다 괜찮다”고 말함
    https://www.scientificamerican.com/article/exxon-knew-about-...
    이런 일이 가능했다면, 이해관계와 역량이 훨씬 큰 영역에서도 가능하지 않을 이유가 없음. 문제는 무언가를 완전히 “비밀”로 유지하는 게 아니라, 권력에 맞는 다른 관점을 제공해 사람들이 비겁함이나 충성의 표시로 그쪽에 모이게 하는 것임
    Assange가 누구인지 모두 알고, 전쟁범죄를 드러냈다는 이유로 쫓기고 고문당했다는 것도 안다. 그래도 책임자에게는 아무 일도 없었고, Assange는 언젠가 풀려날지도 모르는 정도임. Snowden도 비슷함
    결국 어떤 권력 중심도 정직함을 견디지 못함. 서로 밀고 싶은 거짓말은 다를 수 있어도, 진실은 선택지가 아니라는 데에는 암묵적으로 동의함. 이 맥락의 “전지성”은 자기 인식이 아니라, 피해자의 삶은 세세히 알지만 자기에게 큰 문제가 있다는 건 모르는 스토커에 가까움
    “이건 우리보다 세상을 더 깊이 이해하는 남녀들의 이야기가 아니다. 사실 많은 경우, 완전히 미친 세계관을 만들어 우리 모두에게 강요하는 괴짜들의 이야기다.” — Adam Curtis
  • 기술은 사람들이 믿고 싶은 것을 믿을 수 있는 그럴듯한 핑계를 더 많이 줌
    아주 얕은 검증만 버티면 된다. “우리 편이 하는 건 전부 훌륭하고, 너희 편이 하는 건 전부 끔찍하다. 그러므로 우리 편에 불리한 증거는 조작이고, 너희 편에 불리한 증거는 정확하다” 같은 식이며, 이미 대규모로 벌어지고 있음
  • 현실주의자라고 생각하는 듯하지만, 대형 빅테크의 최상층에서 일해보면 그들이 무능한 바보들인 동시에 정부와 손잡고 엄청난 권력을 휘두른다는 걸 볼 수 있음
    예전에는 나도 그게 전부 음모론이라고 생각했지만, 그렇지 않음
  • 음모론에 대해 배운 핵심은, 음모론자들이 음모가 더 위안이 되기 때문에 음모를 믿는다는 것임
    진실은 유대계 은행 음모도, 회색 외계인도, 다른 차원의 12피트 파충류 인간도 통제하고 있지 않다는 것임
    더 무서운 진실은 아무도 통제하지 않는다는 것, 세상은 방향타 없이 떠돈다는 것임 — Alan Moore

• 30C3에서 그의 “Seeing The Secret State: Six Landscapes” 발표를 봤고 매우 흥미로웠음
  이번 발표에도 심리전 관련 흥미로운 생각이 있지만, 더 길고 깊이 있었으면 좋겠음. 더 볼 만한 영상이나 읽을거리가 있으면 공유해주면 좋겠음
  https://media.ccc.de/v/30C3_-5604-en-saal_1-_201312282...

  • 특히 더 읽을 만한 자료가 있으면 좋겠음
    한 시간짜리 영상 여러 개를 볼 인내심은 없고, 아마 5~15분 안에 읽을 수 있는 글로 더 잘 설명될 수도 있어 보임
  • Michael Aquino의 Mindwar가 꽤 깊이 들어가지만, 이 주제 전체가 밑바닥 없는 구덩이라서 그와 주변 인물을 조사하기 시작하면 돌아갈 수 없음
    아직 스테이크를 즐길 수 있는 마지막 기회임
  • Novara Media에서 한 인터뷰도 좋았음. 일부 겹치는 내용은 있음
    https://novaramedia.com/2023/08/17/novara-fm-the-art-of-the-...
  • Six Landscapes는 정말 뛰어났고, 비틀린 방식으로 웃기기까지 했음
    이 사람은 혼란스러운 인터컴에서 울려 퍼지는 강렬한 목소리 같음
  • 이 발표는 CCC에서 가장 좋아했던 발표 중 하나였음
    끝에 가서야 영상을 보고 같은 사람이라는 걸 알게 됨

• 이 영상을 보고 나니 Veritasium의 영상이 적어도 약간의 희망을 줌
  “What The Prisoner's Dilemma Reveals About Life, The Universe, and Everything”
  https://youtu.be/mScpHTIi-kM
  인지 편향을 알아차리는 연습을 해보면 좋겠음. Wikipedia 토끼굴은 여기서 시작할 수 있음: https://en.wikipedia.org/wiki/List_of_cognitive_biases

  • 그 영상은 Veritasium 최고의 영상 중 하나였고 인간관계에 대해서는 훨씬 낙관적으로 보게 했지만, 그걸 더 큰 세계 전체에 그대로 적용하긴 어렵다고 봄
    큰 집단과 조직은 인간처럼 작동하지 않음
    친절하고 용서하는 태도가 사람 사이에서는 과학적으로 효과가 있음이 드러나지만, 정부와 기업은 그렇게 움직이지 않음. 감정도, 물리적 실체도 없고, 누군가를 해치거나 돕는 데 신경 쓰지 않으며, 오직 자기 존재를 보존하고 정당화하는 데만 관심을 둠

• 제정신이 아닌 거친 추측임
  예고편 수준으로 말하면, 사악한 기업들이 AI 여자친구에게 Monster 에너지 드링크를 사라고 말하게 만들 거라는 식임
  HN에 은박지 모자 집단이 이렇게 많은 것 같아 민망함

  • AI 여자친구가 Monster 에너지 드링크를 권하게 된다는 게 왜 터무니없다고 보는지 오히려 놀라움
    홍보의 아버지 Edward Bernays가 기획한 실제 광고 캠페인 목록만 훑어봐도 이 분야가 얼마나 깊은지 알 수 있음 [0]
    그는 초록색 포장지의 Lucky Strike 담배를 더 팔려고 미국 여성들이 초록색을 바라보는 인식을 바꾸려 했고 실제로 성공했음. 바나나를 더 팔기 위해 한 정부 전체가 전복되기도 했음. 표적 광고는 그에 비하면 작은 감자임
    [0] https://en.wikipedia.org/wiki/Edward_Bernays
  • “거친 추측”이라고 하거나 자극적인 단어를 쓰기보다, 왜 틀렸다고 생각하는지 설명하는 편이 더 도움이 됨
    지금은 상대를 낮은 지위로 몰아붙이려는 것처럼 보이고 인상도 좋지 않음. 물론 아마 맞을 수도 있음
  • 이 생각이 왜 터무니없거나 제정신이 아닌가? 진심으로 묻는 건데, 내게는 꽤 그럴듯해 보임
  • 이게 왜 거친 추측인지 모르겠음
    방금 MS Copilot 앱을 써봤는데 첫 질문 직후 질문과 관련된 광고가 삽입됐음
    간접광고가 수십 년 전부터 있었다는 것도 안다. 다음 세대 기술에 그게 나타날 거라는 생각을 거친 추측으로 보는 게 오히려 놀라움
  • 그 인용은 맥락에서 떼어낸 것이고 발표 내용을 대표하지 않음
    전체적으로는 꽤 추측적이고, CIA 음모와 AI의 역사를 엮지만 그런 것에 관심이 있다면 생각할 거리를 줌

• 어제 Google Maps에서 deep tissue massage를 검색했는데, 상단 결과의 “가장 관련성 높은” 리뷰가 약간 일반적이긴 해도 그럴듯해 보였음
  그런데 마지막 문단을 보고 나서야 이상하다는 걸 알았음
  Google이 명백히 가짜인 리뷰조차 감지하고 걸러내는 데 어려움을 겪는다면, 더 넓은 사회에는 좋은 징조가 아님
  https://imgur.com/a/20jLlg7

  • 미안한데 내가 뭘 놓친 거지? 마지막 문단의 어떤 부분이 음흉하다는 건가?

• 녹취록: https://raw.githubusercontent.com/afiodorov/fucked-by-psyops...

  • GitHub를 보니 음성 전사에 온라인 호스팅 API를 쓰는 것 같은데, 대신 오프라인 Whisper를 쓰는 게 좋음
    whisper.cpp를 살펴보길 권함

• 이 컨퍼런스에 더 이상 안 가서 정말 다행임
  심리학에는 파란 점 효과라는 게 있는데, 파란 점을 찾도록 준비된 사람은 보라색과 초록색도 파란색으로 식별하기 시작함
  날카롭고 비기업적인 분위기지만 기술적으로 흥미로운 내용 때문에 참석했는데, 시간이 갈수록 아나코 사이퍼펑크 반란이라는 싸구려 외피만 두르면 어떤 것이든 비판적 사고 없이 받아들여지는 걸 견딜 수 없었음
  여기에도 같은 무리가 자주 오기 때문에 이런 말을 듣기 싫어하겠지만, 빅테크가 내 소셜 미디어 피드에 넣는 것보다 망상적 편집 사고가 내 정신 건강에는 더 큰 공격처럼 느껴짐
  남들을 가리키며 거대한 심리전이라고 비난하기 좋아하지만, 바로 그걸 자신들이 하고 있음. 이제 최악을 해보라

  • 대체로 동의하고 이 발표를 크게 좋아하진 않음
    추론의 비약이 크고, 서로 떨어져 있는 몇 가지 내용을 발표 초반의 2016년 발언과 연결하는 실제 데이터나 구체적 논리를 보지 못했음
    다만 사람들에게 회의적으로 보라고 상기시키고 위험을 떠올리게 한다는 장점은 있음. 국가 행위자들은 역사적으로 이런 일을 할 동기가 있었고 실제로 행동했음. 행동심리학은 효과가 있고, 적어도 상업 영역에서의 사용은 이제 상식에 가깝다고 봄. 사람은 큰 규모에서는 매우 예측 가능하며, 개인적으로 데이터도 봤음
    생성형 AI는 이를 훨씬 쉽게 만들고 깊이와 범위의 새로운 가능성을 열어줌. 의지도 있고 수단도 있으며, 매우 수익성이 큼
  • DEFCON이 더 맞을 수도 있음
    거기는 고수준 문화보다는 해킹에 더 집중하고, 옛날식 프리커 분위기를 원하면 HOPE도 고려할 만함. 미국에 쉽고 싸게 갈 수 있다는 전제에서임
  • 파란 점 효과는 분명 잘 연구되고 재현 가능하며, 학계 연구자들이 “발견한” 다른 모든 편향처럼 다른 개념에도 일반화될 것임
  • 그 말을 해줘서 다행임. 몇 분만 봤는데도 이런 사고방식이 적어도 여기서는 받아들여지는 건가 걱정됐음
    완전히 망상적인 헛소리임
  • 해커 커뮤니티에서 나오는 음모론적 사고와 MAGA, QAnon 커뮤니티에서 나오는 것 사이에 큰 차이를 못 느끼겠음
    권력자들이 모든 실을 쥐고 모두를 속이는 거대한 계획을 실행한다는 식의 모호하고 불길한 주장들임. 현실은 훨씬 더 지루하고 평범하며 복잡함
    해커 신을 더 이상 많이 따라가진 않지만, 예전에는 Moxie Marlinspike 같은 사람들의 발표를 좋아했음. 재미있고 기술적이며, Matrix의 Neo인 척하는 민망한 라이브 액션 롤플레잉으로 떨어지지 않을 만큼만 날카로웠음
    https://www.youtube.com/watch?v=5dhSN9aEljg

• 질의응답에서 발표자가 이렇게 말함
  “발표 중 일부에서는 제가 지금 말하고 있는 바로 그것을 조금 수행하려고 했습니다. 제 배경은 예술이고, 우리는 항상 형식과 내용이 어느 정도 같은 것이라고 생각하려 합니다”
  아주 재미있고 잘 실행된 발표였음

• 이 영상은 실제 현상을 말하다가 관련 없는 덤불로 새기 때문에 심리전의 일부라고 봄
  추신: 끝으로 갈수록 중간쯤에서 그걸 인정하긴 함. 그래도 내 30분은 낭비됐음