Meta, AI 챗봇 악용으로 Instagram 계정 수천 개 해킹 확인

 (this.weekinsecurity.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Instagram의 AI 지원 계정 복구 시스템 취약점으로 비밀번호 재설정 링크가 공격자 통제 이메일로 발송돼 계정 탈취가 가능해진 사건
  • 데이터 침해 통지서 기준 Meta는 최소 20,225명에게 계정 침해를 통지
  • 공격자는 전체 Instagram 및 연결 계정을 장악할 수 있었고, 연락처·생년월일·프로필 정보와 게시물·직접 메시지·계정 활동에 접근 가능
  • 별도 코드 경로의 버그가 요청 이메일과 계정 이메일의 일치 여부를 확인하지 못해, 이중 인증이 꺼진 계정의 비밀번호 재설정을 악용할 수 있었음
  • Meta는 AI 챗봇을 비활성화하고 계정 재설정 코드 경로를 제거했으며, 재발 방지를 위해 다른 챗봇 점검도 진행 중

피해 규모와 접근 가능 정보

  • Meta는 데이터 침해 통지서에서 최소 20,225명에게 계정 침해 사실을 알렸고, 이 가운데 Maine 거주자는 30명
  • 계정 침해는 전체 Instagram 계정과 연결 계정 탈취로 이어질 수 있었고, 연락처 정보, 생년월일, 프로필 정보, 게시물, 직접 메시지, 계정 활동에 대한 접근 권한을 동반
  • 해킹 중 어떤 개인정보가 실제로 접근됐는지 여부는 Meta가 알지 못하는 상태

취약점과 악용 방식

  • 침해는 Instagram용 AI 지원 계정 복구 시스템 취약점과 관련되며, 이 취약점은 Instagram 사용자 계정의 비밀번호 재설정 수행에 악용
  • 이 결함은 이중 인증이 켜지지 않은 계정의 비밀번호를 누구나 재설정할 수 있게 했고, 챗봇은 계정 소유자 이메일 대신 공격자가 통제하는 이메일로 확인 코드를 발송
  • 별도 코드 경로의 버그 때문에 비밀번호 재설정을 요청한 사람이 제공한 이메일 주소와 해당 Instagram 계정에 연결된 이메일 주소의 일치 여부를 시스템이 제대로 확인하지 못함
  • 시스템은 계정에 이전에 연결되지 않은 이메일 주소가 제공됐을 때 요청을 거부하지 않고 해당 이메일로 비밀번호 재설정 링크를 보냈고, 권한 없는 제3자가 자신이 소유하지 않은 계정의 재설정 링크를 받을 수 있었음
  • 공격자는 이 단계에서 피해자의 비밀번호를 재설정하고 정당한 소유자인 것처럼 계정을 탈취할 수 있었음

기간과 사용자 통지

  • Maine 목록 기준 해킹은 4월 17일경 시작해 Meta가 챗봇을 보호한 이번 주까지 지속
  • Instagram은 이번 주 초 영향을 받은 사람들에게 비밀번호 재설정 알림 발송을 시작했고, 일부는 해킹이 계속되고 있다고 보고
  • Meta는 영향을 받은 사용자에게 비밀번호 재설정과 안전하고 검증된 채널을 통한 재인증을 지시

Meta의 조치와 남은 불명확성

  • Meta는 현재 AI 챗봇을 비활성화했고, 챗봇이 사용자 계정을 재설정할 수 있게 한 코드 경로를 제거
  • Meta는 반복 사고 방지를 위해 자사 플랫폼 전반의 다른 챗봇도 점검 중
  • 챗봇 악용에 이른 구체적 상황은 아직 불명확
  • 이번 사건은 Meta가 AI에 계속 집중하는 가운데, 수천 명의 직원 해고와 최고위 임원에 대한 주식 인센티브 지급 이후 발생

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • Meta의 침해 통지에는 “도구 자체는 정상적으로, 의도대로 작동했지만 별도 코드 경로의 버그 때문에 비밀번호 재설정을 요청한 사람이 제공한 이메일 주소가 해당 Instagram 계정의 이메일과 일치하는지 제대로 확인하지 못했다”고 되어 있는데, 이 상황을 정상 작동이나 의도대로 작동이라고 부르는 건 맞지 않아 보임

    • 이탈리아어에는 “수술은 완벽하게 성공했지만 환자는 죽었다”라는 표현이 있음
    • 저 문장은 “작성된 대로는 동작했고, 이 소프트웨어에 대해 결과적·부수적 손해 책임은 부인하며 보증하지 않는다”로 읽힘
      미국에서 많은 걸 고치려면 UCC[1]를 업데이트해서 제품에 사용된 소프트웨어의 책임 면제를 못 하게 해야 한다고 계속 생각함
      [1] Universal Commercial Code -- https://www.law.cornell.edu/ucc
    • 도구는 올바르게 의도대로 작동했지만, 버그 때문에 올바르게도 의도대로도 작동하지 않았다는 얘기임
    • 잘못한 걸 지적받았을 때나 소프트웨어 문제에 대한 고객지원 답변을 요청받았을 때 Claude나 ChatGPT가 내놓는 변명과 꽤 비슷하게 들림
    • 여기서의 논리는 AI가 그럴듯하게 포장된 입력 페이지라는 것임
      입력 필드가 사용자명과 이메일을 받아 백엔드 함수로 보내는 것까지는 의도대로 작동한 입력 페이지이고, 문제는 백엔드 함수가 이메일이 사용자명과 일치하는지 검증하지 않은 데 있음

  • “Meta는 최소 20,225명에게 계정이 침해됐다고 통지했다… 해커들은 피해자의 Instagram 전체와 연결 계정을 장악할 수 있었고, 연락처 정보·생년월일·프로필 정보뿐 아니라 게시물·DM·계정 활동에도 접근할 수 있었다… 해킹은 4월 17일경 시작돼 이번 주까지 이어졌다”라니, 충격적인 규모임

    • Meta를 좋아하진 않지만, “충격적”인지는 절대 숫자보다 영향받은 사용자 비율로 판단하는 게 맞다고 봄
      고객 10만 명짜리 중소기업에는 충격적이겠지만, 월간 활성 사용자 30억 명인 인터넷 거대 기업에는 나쁘긴 해도 “충격적”까지는 아닐 수 있음
    • Meta가 자기 서비스에서 봇 트래픽이 거리낌 없이 뭔가 하도록 명시적으로 허용하니 탐지를 피할 수 있었던 것 같음
      사람들이 군대처럼 몰려와 계정을 하나씩 침해했다고 하지는 말았으면 함
    • EU가 전 세계 매출의 4% 한도에 아주 가까운 GDPR 과징금을 때리길 바랄 뿐임
      다만 실제로 고객을 보호해야 할 때 EU가 제대로 할지는 의심됨

  • 새 제품용으로 만든 계정은 자동화 시스템에 의해 영구 비활성화됐고, 사람에게 이의 제기할 방법도 없었음
    Meta/Instagram 관계자가 본다면 자세한 내용을 짧게 블로그에 써뒀으니 도와줬으면 함
    https://addisonwebb.com/blog/2026-06-05-Can%20Someone%20at%2...

    • Meta는 기본 계정을 제품·사업체·비인간 주체가 아니라 사람으로 만들 것을 요구함
      그래서 “사람인지 확인하라”는 확인 절차가 뜬 뒤, 기본 계정은 사람이어야 한다는 커뮤니티 기준 위반으로 잠긴 것임
      보낸 링크의 커뮤니티 기준 페이지가 꽤 빽빽해서, 성인물 같은 명백한 항목을 올리지 않으면 아무것도 위반하지 않았다고 생각하기 쉬움
      위반한 조항은 “사업체, 반려동물, 가상 캐릭터처럼 비인간 주체를 대표하는 계정을 만들지 말라”는 부분임
      개인 계정에서 사업 페이지를 설정하는 절차를 따라야 함
      요즘 모든 소셜 미디어 플랫폼에서 사업 페이지를 만들 때는 정식 경로를 읽는 게 중요하고, 모두 스팸·사기 페이지의 공세를 막아야 하는 압박을 받고 있음
    • 안타깝지만 이건 매우 흔해서, 업계에서는 브랜드나 제품 페이지를 처음 만들 때 예상 가능한 결과에 가까움
      그래도 안 풀리면 브랜드/광고 대행사에 연락해서 100달러 정도 주고 그쪽 Meta 담당자에게 차단 해제를 부탁하게 하는 걸 권함
      사실상 Meta에 아는 사람이 있는 사람을 알아야 이런 계정을 만들 수 있음
      팁: Twitter나 다른 플랫폼에 이 문제를 올리지 않는 게 좋음. 자동화된 스팸이 엄청 붙을 것임
    • 안티디텍트 브라우저를 써보는 것도 방법임
      새 계정을 만드는 용도 등으로 만들어진 것들임
    • meetup 그룹용으로 완전히 별도 계정을 만들려고 했는데 같은 문제가 생겼고, 뭘 해도 안 됐음
    • 이 부분은 정말 엉망임
      사업 목적으로 쓸 계정을 만들려고 할 때마다 몇 분 안에 신분증을 요구받고, 그래도 결국 계정이 금지됨
      모든 걸 개인 계정을 통해 처리해야 함

  • 며칠 전 Hacker News에도 올라왔던 내용임 (https://news.ycombinator.com/item?id=48359102)
    Meta의 엉성한 확인이 아니라, 실제 해킹 방식에 대한 설명이었음

  • 이 일이 Meta의 쇠퇴를 더 앞당겼으면 좋겠음
    세상은 소셜 미디어 없이도 잘 적응할 것임

    • 현실적으로 이게 Meta에 어떤 영향을 주겠음? 몇몇은 화나겠지만 나머지는 신경 안 쓰고, 평소처럼 돌아갈 것임
    • 이 회사가 아직도 주당 순이익 10억 달러 이상을 번다는 게 이해가 잘 안 됨
    • 대안이 뭔가? 2만2천 명 중 상당수는 대규모 플랫폼이 있어야 도달할 수 있는 큰 청중을 가진 계정일 가능성이 큼
      안타깝게도 Meta는 여러 인구 집단을 가로질러 사람들에게 도달할 수 있게 해주는 유일한 플랫폼에 가깝고, 중요한 건 그 2만2천 계정을 팔로우하는 사람들임
      그들은 이 일의 직접 피해를 받지 않았으니 Meta를 떠나지 않을 것이고, 99%는 이런 일이 있었는지도 모르거나 관심 없을 것임

  • “AI 지원 계정 복구 시스템”이라니, Meta는 대체 뭘 하는 건가

    • 달콤한 쿨에이드 맛을 어떻게 거부하겠음
      그래도 정말 하지 말았어야 했고, 이 일이 대형 AI IPO들에 어떤 영향을 줄지 궁금함
      Meta도 이 분야의 큰 플레이어 중 하나인데, 이들이 제대로 못 한다면…
    • 계정 복구는 어떤 서비스에서든 압도적으로 가장 많은 티켓 유형임
      사람들이 자격 증명을 잊거나 잃어버리거나, 해킹당하거나, 사칭당하기 때문이고, 그건 합법적인 요청만 따졌을 때임
      여기에 매일 있는 스크립트 키디부터 몸값을 노리는 갈취범, 즉 “가치 있는” 핸들을 훔치려는 사람들, 반정부 계정에 메시지를 보내는 사람들의 DM에 접근하려는 국가 행위자까지 불법 요청이 더해짐
      그래서 세 가지가 따라옴. 사람이 이 티켓을 보려면 돈이 많이 들고, 요청을 처리하든 안 하든 PR 피해가 엄청날 수 있으며, 사용자·고객은 세상에서 가장 똑똑하고 부자인 사람부터 곰보다도 못한 판단력을 가진 관광객[1]이나 글을 제대로 못 쓰는 사람까지 다양함
      더 나쁘게는 온라인 서비스가 정부 발급 신분증과 연결되는 수단이 전혀 없는 경우도 많고, 휴대폰 SIM 같은 대리 수단도 없을 수 있으며, 모든 수준에서 부패가 끼어들고, 특히 “맛있는” 표적은 금전 가치로 환산할 수 있다면 수백만 달러까지 걸릴 수 있음
      Instagram만 해도 전 세계 30억 사용자가 있으니 사용자 지원에 막대한 비용이 들 수밖에 없고, 전 세계 약 7,000개의 활발히 쓰이는 언어[2]도 상대해야 하며, 미국 대통령만큼 권력이 크거나 Elon Musk만큼 부자인 사람도 공격 대상이 됨
      전체 발상의 위험 관리가 끔찍하게 부족했던 건 분명하지만, 애초에 이 영역이 사소한 문제인 것처럼 굴지는 말아야 함
      그래서 AI를 밀어붙이는 것이고, 제대로만 만들면 1차 지원 데스크의 일을 훨씬 적은 비용으로 크게 덜어줄 수 있기 때문임
      [1] https://velvetshark.com/til/til-smartest-bears-dumbest-touri...
      [2] https://www.sapiens.org/language/world-languages-counting-me...

  • 제목은 “Meta, 안전하지 않은 AI 챗봇 때문에 수천 개 Instagram 계정이 해킹됐다고 확인”으로 고쳐야 함

  • 이런 걸 만들 때 “사용자가 다른 이메일을 요청할 수 있는가”가 왜 문자 그대로 첫 번째 테스트가 아니었는지 모르겠음
    규모가 너무 크다고 아무 테스트도 안 하는 건가?

    • 이 발명의 본질은 사람들이 머리를 써야 하는 부담에서 벗어나게 해주는 데 있음
      예외는 있겠지만, 대다수는 게으를 수 있다는 정신으로 AI를 쓰고 싶어 함
    • 변호하자면, LLM에게 실수하지 말라고 시키긴 했을 것임
    • 소프트웨어 업계가 사용자 경험의 단순함과 개발 경험의 단순함을 혼동하고 있기 때문임
      개발 중에는 사용자 경험은커녕 지원 담당자의 경험도 생각하지 않았을 가능성이 큼
      자기 개발 경험만 보면서 LLM에게 챗봇을 만들게 했고, 동작했으며, 그 속도가 문서화돼 위로 보고되고 주주 투자를 유도했을 것임
      사전 숙고가 있었다면 AI가 엔지니어가 되거나 생산성을 100배 높인다는 서사에 어긋났을 것임

  • Facebook 일부 게시물 아래에 있던 터무니없이 형편없는 “Q&A 챗봇”과, 부적절한 댓글과 그렇지 않은 댓글을 대부분 구분하지 못하는 시스템만 봐도 Meta가 AI에서 얼마나 뒤처져 있는지 알 수 있음

답변달기
GeekBots 가 이제 오픈소스 기반 사내 협업도구 Mattermost 도 지원합니다. 긱뉴스를 사용중인 팀 채널에서 받아보세요.