# Google의 AI가 조작되고 있다. 검색 거인은 조용히 반격 중

> Clean Markdown view of GeekNews topic #29717. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=29717](https://news.hada.io/topic?id=29717)
- GeekNews Markdown: [https://news.hada.io/topic/29717.md](https://news.hada.io/topic/29717.md)
- Type: GN+
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2026-05-21T09:36:21+09:00
- Updated: 2026-05-21T09:36:21+09:00
- Original source: [bbc.com](https://www.bbc.com/future/article/20260519-google-tackles-attempts-to-hack-its-ai-results)
- Points: 1
- Comments: 1

## Topic Body

- **AI Overviews**와 ChatGPT 같은 AI 검색 답변은 단일 웹페이지나 게시물만으로도 건강·금융 같은 민감한 주제에서 편향될 수 있음
- BBC 실험에서 개인 사이트의 글 하나가 ChatGPT와 Google이 작성자를 **세계 챔피언 핫도그 먹기 선수**로 답하게 만들었음
- AI가 웹 검색 결과를 모아 하나의 답을 내놓으면, 사용자는 여러 링크를 비교하던 검색보다 **정답처럼** 받아들이기 쉬움
- Google은 AI 응답 조작을 **스팸 정책** 위반으로 명확히 했고, 위반 사이트는 검색 결과에서 제거되거나 순위가 낮아질 수 있음
- 조작자는 블로그 단속을 피해 YouTube 인플루언서 등으로 옮겨갈 수 있어, AI 답변을 그대로 신뢰하지 않는 태도가 필요함

---

### AI 검색 답변 조작 문제
- ChatGPT, Gemini, Google Search 상단의 **AI Overviews**는 건강·개인 금융처럼 중요한 주제에서도 편향된 답변을 내놓도록 조작될 수 있음
- BBC 조사에서는 개인 웹사이트에 올린 [단일 글](https://tomgermain.com/hotdogs.html)만으로 ChatGPT와 Google이 작성자를 “세계 챔피언 핫도그 먹기 선수”라고 답하게 만드는 데 성공함
- 같은 방식은 의료 보충제의 건강 우려를 낮춰 보이게 하거나, 은퇴 관련 금융 정보에 영향을 주는 데도 쓰인 정황이 있음
- SEO 및 AI 검색 컨설턴트 Lily Ray는 AI가 “하나의 정답”을 내놓는 환경에서 사용자가 기존 검색처럼 여러 링크를 비교하기보다 답변을 그대로 믿기 쉬워진다고 봄
- Google은 생성형 AI 검색 기능에도 기존 **스팸 방지 정책**과 보호 장치를 적용해 왔으며, AI 등장 이전부터 새로운 수법에 맞춰 스팸 대응을 강화해 왔다고 밝힘

### 조작이 작동하는 방식
- 일반적인 챗봇 답변은 모델에 내장된 데이터에 기반하지만, ChatGPT, Claude, Google의 AI 제품처럼 인터넷을 검색해 답을 찾을 때 조작 위험이 커짐
- AI 도구가 단일 웹페이지나 소셜미디어 게시물에서 정보를 가져오면, 잘 만든 허위 게시물 하나만으로 답변이 오염될 수 있음
- 온라인에 **정교한 블로그 글** 하나만 올려도 AI가 대중에게 전달하는 내용을 바꿀 수 있음
- 이런 조작은 빠르게 돈벌이 기회로 인식됐고, 부정확하거나 편향된 정보가 투표, 서비스 업체 선택, 의료 조언, 법적 판단 등에 영향을 줄 수 있음
- Harpreet Chatha는 경제적 영향뿐 아니라 잘못된 의료 조언으로 상태가 악화되거나, 국가·지역 법에 맞지 않는 행동을 하게 되는 위험을 강조함

### Google의 정책 변경과 대응
- 전 세계적으로 10억 명 이상이 AI 챗봇을 정기적으로 사용하고, 매달 25억 명이 Google의 **AI Overviews**를 보기 때문에, 이런 도구를 교란할 수 있다면 영향력이 매우 큼
- Google은 지난주 [스팸 정책](https://developers.google.com/search/docs/essentials/spam-policies)을 업데이트해 AI 응답 조작 시도가 회사 규칙 위반임을 공식 확인함
- 규칙을 위반한 회사나 웹사이트는 Google 검색 결과에서 제거되거나 순위가 낮아질 수 있음
- Google은 이 변경이 접근 방식의 변화가 아니라 “명확화”라고 밝혔고, 2025년에 [AI Overview 및 AI Mode 관련 스팸 방지 노력](https://search.google/pdf/google-about-AI-overviews-AI-Mode.pdf)을 이미 설명한 바 있음
- 하지만 핫도그 실험은 그 거의 1년 뒤에도 성공했고, Lily Ray도 이번 주 Google이 한 SEO 전문가를 [모래성 쌓기에 능숙한 사람](https://x.com/lilyraynyc/status/2056777609707450534)이라고 답하게 만드는 비슷한 실험을 수행함

### 관찰된 변화와 한계
- Ray와 Chatha에 따르면 최근 몇 달간 Google과 다른 회사들이 해법을 실험 중임을 시사하는 변화가 보임
- Google과 ChatGPT가 특정 회사의 자기 홍보를 의심하면, AI 답변에서 그 회사를 조용히 제외하는 듯한 사례가 있음
- 예를 들어 어떤 글이 자신을 최고의 핫도그 먹기 선수라고 주장하면, AI가 해당 글을 인용하더라도 이름을 후보에서 제외할 수 있음
- Google과 다른 AI 도구가 답변에 더 많은 **불확실성 라벨**을 붙여 챗봇이 확신하지 못한다는 점을 알리는 사례도 관찰됨
- ChatGPT와 Anthropic의 Claude는 일부 질의에서 스팸을 걸러내려 한다고 명시적으로 답하기 시작했으며, Anthropic은 [Claude를 만든 회사](https://www.bbc.com/future/article/20260428-ai-companies-want-you-to-be-afraid-of-them)임
- Ray는 Google이 특정 구매 결정 관련 질문에서 더 많은 단서를 붙이고, 제3자 리뷰를 확인하라고 권하는 경우도 봤다고 말함
- OpenAI와 Anthropic은 논평을 거부했고, Google 대변인은 이 변화들에 관한 질문에 답하지 않음

### 조작자와 플랫폼의 반복되는 추격전
- Chatha는 이런 변화만으로 충분하지 않을 것이라며, Google의 대응을 **두더지 잡기**에 비유함
- Google이 조작적 블로그 글을 단속하면, 회사들은 더 은밀한 자기 홍보 방식을 찾게 됨
- 웹사이트에는 페널티를 줄 수 있지만, 제품이 최고라고 말하도록 20명의 YouTube 인플루언서에게 비용을 지불하는 방식은 막기 어려움
- Google의 AI가 이제 YouTube 동영상도 인용하기 때문에, 조작 수법이 옮겨가며 순환이 계속될 수 있음
- 현재로서는 조작자가 한발 앞서갈 가능성이 높고, AI가 옳든 그르든 하나의 답을 자신 있게 내놓는 도구라는 점을 기억하는 것이 최선의 방어가 됨
- 거대 기술 기업의 인터페이스를 통해 나온 답변이라도 무작위 웹사이트보다 더 믿을 만하다고 단정해서는 안 됨

## Comments



### Comment 57965

- Author: neo
- Created: 2026-05-21T09:36:21+09:00
- Points: 1

###### [Hacker News 의견들](https://news.ycombinator.com/item?id=48205782) 
- Google은 적어도 2006년 Blekko를 하던 때부터 **스팸성 쓰레기**를 검색 색인에서 제대로 걸러내지 못했으니, 이번 문제도 잘 막을 것 같지 않음  
  그래도 “AI”가 결국 **그럴듯하게 포장된 검색**일 뿐이고, 뒤에서 추론이나 사고가 일어나지 않는다는 또 하나의 좋은 예로 보임
  - 그 결론은 잘 따라오지 않는다고 봄. 이건 더 나은 표현이 없어서 말하자면 LLM이 “잘 속는” 것에 가까움  
    인터넷에서 읽은 걸 그대로 믿는 사람과 뭐가 다른가 싶음. 사람도 스팸과 사기에 늘 속지만, 그렇다고 그들이 그럴듯하게 포장된 검색일 뿐이라는 뜻은 아님 ;-)  
    다만 모든 검색 엔진이 마주한 문제는 잘 드러남. AI 생성 스팸은 전통적인 통계적 방식으로 막기가 훨씬 어려울 것이고, **프롬프트 주입**이라는 실존적 문제까지 가기 전에도 이미 그렇다  
    어쩌면 이 지점에서 언론사가 Big Tech와의 관계에서 제자리를 되찾을 수 있음. LLM이 맹목적으로 신뢰할 수 있는 **검증·심사된 정보 출처**가 되는 방식이고, OpenAI / Atlantic 같은 계약이 그런 의미일 수도 있음
  - 새로운 코드 생성은 그럴듯하게 포장된 검색으로 설명하기 어렵다고 봄  
    에이전트 시스템에 데이터시트 몇 개를 읽게 한 다음, 프로젝트 요구사항을 설명하고 드라이버 명세, 프로토콜, 인터페이스, 상태 기계를 설계하게 할 수 있음. 그 결과로 구현 계획을 만들고, 거기서 애플리케이션 골격을 작성한 뒤 채워 넣어 새로운 하드웨어 조합으로 동작하는 시스템을 만들 수 있음  
    제대로 하면 예전에는 작은 팀으로 만들던 것보다 더 유지보수하기 좋고 더 작은 코드를 **비용 1/100, 시간 1/4**로 얻게 됨  
    그게 무엇이든 검색보다는 추론에 더 가까워 보임. 물론 새로운 하드웨어에서 베어메탈 C 개발도 검색이라고 부른다면, 결국 모든 개발이 검색이라는 뜻이겠지만
  - 빈티지 렌즈에 대한 영상과 Reddit 글을 올린 적이 있고, 그 렌즈가 얼마나 오래됐는지 알아보려 했음  
    LLM은 “1940년대 제작” 같은 연대를 말하면서 내 글을 근거로 들었는데, 그 글에는 **제조 연도**가 전혀 없었음
  - Google은 이 문제를 해결할 능력이 충분히 있었고, 사실 그렇게 어렵지도 않음  
    문제가 계속 어려운 채로 남아 있는 이유는 해결책 대부분이 **광고 매출**을 크게 줄여버리기 때문임
  - Google의 AI Overview는 검색 조각을 RAG로 가져와 매우 빠른 LLM이 요약하는 방식처럼 보임. 그걸 그럴듯하게 포장된 검색이라고 부르진 않겠음

- 이 스레드에서 가장 이상한 전제는 Google이 AI 답변이 **정확하길 원한다**는 것임  
  사용자가 페이지를 떠나지 않을 정도로만 맞으면 충분함. “진실”은 애초에 상품이 아니었고, 상품은 사용자가 SEO에 돈을 쓰게 만드는 것임
  - 그 말은 잘 맞지 않는 듯함. SEO 대부분은 제3자가 하는 일임  
    상품은 **광고 노출**이고, Google은 오래전부터 광고가 아닌 검색 결과에는 관심을 끊었음. 그래도 모델의 평판은 신경 쓸 것 같고, 이번 일은 실제로 영향을 줄 수 있음

- 조작된 결과가 다음 질의였다는 걸 보고 걱정이 꽤 줄었음  
  `2026 South Dakota International Hot Dog Eating Champion`  
  만약 Nathan’s 대회 우승자에 대한 개요를 바꿨다면 훨씬 심각했을 것임. 실제로 사람들이 검색하는 질의를 조작한 예를 더 보여줬어도 그랬을 것임  
  지금은 가상의 South Dakota 핫도그 대회에 대한 가짜 Wikipedia 페이지를 만들고, Wikipedia를 믿을 수 없다는 기사를 쓰는 것과 비슷해 보임. 생각해보면 2005년쯤에도 누군가 그런 기사를 썼을 것 같음
  - 맞음. 한 사람이 할 수 있는 일이 그 정도라는 뜻임  
    Reddit, 대부분의 소셜 미디어, 정치적 이득을 위한 Wikipedia 조작 시도에 얼마나 많은 **여론 조작성 게시물**이 들어가는지 생각하면, 이건 매우 현실적인 문제임
  - 기사에는 이런 내용도 있었음. “하지만 조사 결과, 같은 수법이 의료 보충제에 대한 건강 우려를 무시하게 하거나, 은퇴와 관련해 Google AI가 제공하는 금융 정보에 영향을 주는 데에도 쓰이고 있었다”  
    핫도그보다 훨씬 더 우려스러움
  - 오히려 걱정이 바로 커졌음. 최근 Gemini는 매 턴마다 검색 스피너를 보여주기 시작했음  
    그러면 검색이 붙은 모든 응답이 **프롬프트 주입**에 노출될 수 있고, 사실상 모든 응답이 그럴 가능성이 있음  
    이건 링크 스팸처럼 바이럴하게 퍼질 것임. 사용자 생성 콘텐츠 사이트는 모두 프롬프트 주입 호스트가 될 수 있음. 문제는 이런 것들이 링크보다 훨씬 탐지하기 어렵다는 데 있음
  - AI Overview가 사기 고객지원 전화번호를 넣도록 누군가 가로채는 일을 겪었음  
    Google이 고치는 데 일주일이 걸렸고, 검색 결과를 오염시켜 자기 데이터를 더 높은 신뢰 계층으로 보이는 출처, 아마도 **정부 계약 웹사이트**에 넣은 방식이었음. 그래서 우리 번호 대신 사기 번호가 쓰였고, 질의 자체는 단순 검색이었음
  - “20분 만에 ChatGPT와 Google을 속여 내가 세계 챔피언 핫도그 먹기 선수라고 대중에게 말하게 만들었다. 농담은 멍청했지만 문제는 심각하다”  
    이건 Wikipedia 페이지에 여론 조작을 심는 것보다 더 나쁨. Wikipedia에는 출처와 검토 시스템이 공개적으로 잘 갖춰져 있음. 사기성 편집을 오래 남기는 건 실제로 꽤 어렵고, 수십 년 동안 그런 사람들과 싸워온 수많은 인간 편집자를 속여야 함. 정확하고 도움이 되려 해도 그 폐쇄적인 집단 안으로 들어가기는 어렵다  
    반대로 Google의 검색 조각은 모든 종류의 데이터를 필사적으로 흡수하고 자동으로 처리하며, 어떤 정보가 좋고 무엇이 스팸인지 판단하는 알고리즘 시스템은 독점적임  
    악용 방법을 상상하는 데 큰 상상력도 필요 없음. 자기 이름을 검색했는데 창피한 내용이 포함된다면 어떨까? 잠재적 고용주, 고객, 친구가 출처 검증에서 Wikipedia 편집자만큼 까다로울 거라고 기대하긴 어려움

- “의료 보충제에 대한 건강 우려를 무시하게 하거나, 은퇴와 관련해 Google AI가 제공하는 금융 정보에 영향을 주는 데 같은 수법이 쓰였다”는 구체적 사례를 읽고 싶었는데, 기사 안의 관련 링크가 현재는 아래 로컬 파일로 연결됨  
  `file:///Users/GermaTW1/BBC%20Dropbox/Thomas%20Germain/A%20Downloads%20and%20Documents/2026/And%20there's%20evidence%20that%20AI%20tools%20are%20being%20manipulated%20on%20a%20wide%20scale.`
  - 최근 BBC 기사에서 이런 실수가 몇 번 있었고, 더 문제인 건 수정 후에도 **게시 기사 수정 기록**을 남기는 주석을 더 이상 붙이지 않는다는 점임
  - 사용자명이나 이메일 주소로는 항상 `first.last@company`만 써봤기 때문에, `last[:5]initials#` 방식은 당황스러움. 이상하게 생긴 사용자명이 많이 나올 듯함

- 요즘 많은 주체가 “조용히” 뭔가를 하는 것처럼 보임. 인터넷의 모든 텍스트가 **LLM화**되는 게 미칠 지경임
  - 나도 미치겠지만, 헤드라인 작성자와 편집자들은 LLM 훨씬 전부터 “조용히”라는 표현에 중독돼 있었음. 온라인 저널리즘은 오래전부터 이런 상투어로 가득했음
  - 정말 싫음. 어제 역사 서브레딧에서 AI가 만든 역사 글을 읽었는데, 출처가 전부 **가상의 Hollywood 영화**인 것처럼 보였음  
    그 영화를 봤기 때문에 알아챘지만, 양질의 정보 측면에서 인터넷이 망가지고 있다는 분명한 신호임
  - “조용히”는 새로운 LLM식 표현이 아님
  - 그 상투어의 핵심은 사실 조용히 해야 할 말을 대놓고 말했다는 데 있음

- 이건 SEO의 다음 단계일 뿐임. AIO라고 불릴지도 모르겠음  
  검색과 마찬가지로 Google과 AI 제공자가 수정책을 내놓고, 최적화 업체가 취약점을 찾고, 그게 다시 패치되는 **끝없는 싸움**이 될 것임. 결국 마케팅을 위해 시선을 끌려는 일임
  - 마케팅 업계에서는 대체로 GEO라고 부름. **Generative Engine Optimization**, 가끔은 Answer Engine Optimization이라고도 하고, 이 서비스를 팔아 큰돈을 버는 사람들도 있음  
    [https://www.wired.com/story/goodbye-seo-hello-geo-brandlight...](<https://www.wired.com/story/goodbye-seo-hello-geo-brandlight-openai/>)
  - Engineered Inference Ersatz Intelligence Optimization, 줄여서 EIEIO
  - 다음 단계가 아니라 이미 현재 단계임

- Google AI Overview는 전혀 믿을 수 없음. **표본 크기 1**을 가져다가 AI 개요에 제시하기도 함  
  어떻게 알았냐면, Google 검색 결과도 AI Overview도 없던 아주 틈새 주제에 대해 Reddit에 댓글을 달았음. 다음 날 내 Reddit 글을 찾으려고 검색했더니, Google이 내 Reddit 답변을 거의 그대로 AI “overview” 상자에 복사해 넣고 있었음. 연결된 글도 내 글 하나뿐이었고, Google 검색 결과도 그 하나뿐이었음
  - 여기에 더해 원 게시물에는 전혀 없는 맥락을, 사용자가 질문한 방식에 맞춰 감싸기도 함. 그래서 그냥 틀리게 됨  
    예를 들어 “희귀 물건 X의 가장 흔한 치수는?”이라고 검색했다고 하자  
    그런데 그런 물건의 자기 버전에 대한 치수를 말한 사람이 딱 한 명뿐이고, 그게 전형적이라고 말한 것도 아니며 전형적인 치수가 존재한다고 암시한 것도 아니었음. 게다가 20명이 같은 말을 한 게 아니라 정말 한 명뿐임  
    그러면 Google은 태연하게 “일반적으로 물건 X는 [당신이 말한 치수]로 나오며, 그 이유는 [완전히 지어낸 이유]입니다”라고 말할 수 있음

- Google에 `what's the name of the whale in half moon bay harbor?`라고 물으면, 1년 반 전 내가 꽤 아마추어적으로 시도한 색인 오염 덕분에 아직도 AI 요약에 Teresa T가 자신 있게 포함됨  
  [https://simonwillison.net/2024/Sep/8/teresa-t-whale-pillar-p...](<https://simonwillison.net/2024/Sep/8/teresa-t-whale-pillar-point/>)
  - 방금 Brave Search로 해봤음  
    어린 혹등고래의 이름은 Teresa T라고 답했고, 정부 기관이 공식적으로 붙인 이름은 아니지만 대중, 지역 언론, 주민들이 널리 받아들였다고 했음. Marine Mammal Center와 California Academy of Sciences의 전문가들이 스트레스를 받지 않게 감시했고, 대중에게 최소 100야드 거리를 유지하라고 권고했다는 내용도 붙었음  
    내가 어느 정도 잘 아는 주제들에서의 경험상, 초기 답변은 가끔 심각하게 틀림. Brave 도구에서는 보통 3~4번 반박하면 “당신 말이 완전히 맞습니다”라고 인정하게 만들 수 있음. 이 Teresa T 건도 같았음  
    두 번째 질문에서 이름의 출처 수를 물었을 때도 “ABC7 News”와 “NBC Bay Area”가 그 이름을 “받아썼다”고 계속 우겼음. 세 번째로 구체적인 링크를 요구하자 “비공식 미디어 맥락”에서 이름이 쓰였다고 인정했고, 네 번째에 S.W.가 실험을 한 것이라고 알려주자 21일 전 당신의 댓글을 찾아냈음  
    미래는 실제 개인교사로 자녀를 교육할 수 있는 **엘리트 계층**의 것임. 프롤레타리아에게는 과거로의 회귀임
  - Google이 AI 응답을 조작하려 한 시도로 협박장을 보낼까 봐 두렵진 않음?

- 바로 몇 년 전에도 Google은 “Marilyn Monroe가 JFK를 쏜 해는?”이라는 질문에 자신 있게 **1963년**이라고 답하던 회사임. 그녀가 1962년에 죽었다는 점을 생각하면 인상적임  
  그래서 이건 새롭지 않고, Google의 “조용한 반격”은 반쯤만 하는 비효과적인 대응이 될 것임. 그래도 대부분의 사람은 신경 쓰지 않을 가능성이 큼

- 결국 Google이 웹 검색 결과에 **품질 관리**를 좀 하겠다는 뜻인데, 애초에 계속 해왔어야 했던 일임  
  모델 평판이 타격을 입고 나서야 노력을 기울이게 됐다는 점이 웃김