3P by neo 6달전 | favorite | 댓글 1개

Hugging Face의 보안 사고 대응

사건 개요

  • Hugging Face의 Spaces 플랫폼에서 비인가 접근이 감지됨.
  • 일부 Spaces의 비밀 정보가 무단으로 접근되었을 가능성이 있음.

대응 조치

  • 첫 번째 조치로, 관련된 HF 토큰을 취소함.
  • 영향을 받은 사용자에게 이메일로 통보함.
  • 모든 키와 토큰을 새로 고침하고, HF 토큰을 세분화된 접근 토큰으로 전환할 것을 권장함.

보안 강화 조치

  • 외부 사이버 보안 전문가와 협력하여 문제를 조사하고 보안 정책을 검토 중임.
  • Spaces 인프라의 보안을 강화하기 위해 여러 가지 중요한 개선 사항을 도입함:
    • 조직 토큰을 완전히 제거하여 추적성과 감사 기능을 향상시킴.
    • Spaces 비밀 정보에 대한 키 관리 서비스(KMS)를 구현함.
    • 유출된 토큰을 식별하고 사전에 무효화할 수 있는 시스템 능력을 강화함.
    • 전반적인 보안을 개선함.
    • 세분화된 접근 토큰이 기능적으로 완전해지면 "클래식" 읽기 및 쓰기 토큰을 완전히 폐기할 계획임.

법적 조치

  • 이 사건을 법 집행 기관과 데이터 보호 당국에 보고함.

사용자 안내

  • 이 사건으로 인한 불편을 깊이 사과하며, 전체 인프라의 보안을 강화하는 기회로 삼겠다고 약속함.
  • 추가 질문이 있을 경우 security@huggingface.co로 연락할 것을 권장함.

GN⁺의 의견

  • 보안 강화 필요성: 이번 사건은 소프트웨어 플랫폼에서 보안 강화의 중요성을 다시 한번 상기시켜줌. 특히, 민감한 정보에 대한 접근 제어와 모니터링이 중요함.
  • 세분화된 접근 토큰: 세분화된 접근 토큰은 보안성을 높이는 좋은 방법임. 이는 최소 권한 원칙을 적용하여 필요 없는 권한을 제한할 수 있음.
  • 외부 전문가 협력: 외부 사이버 보안 전문가와의 협력은 문제 해결에 큰 도움이 됨. 이는 내부 인력만으로 해결하기 어려운 복잡한 문제를 다룰 수 있게 함.
  • 법적 대응: 법 집행 기관과 데이터 보호 당국에 보고하는 것은 투명성을 유지하고 사용자 신뢰를 회복하는 데 중요함.
  • 사용자 커뮤니케이션: 사용자에게 신속하고 명확하게 상황을 알리는 것은 신뢰를 유지하는 데 필수적임. 이는 사용자와의 신뢰 관계를 강화함.
Hacker News 의견
  • Jossef Harush Kadouri가 보안 컨퍼런스에서 발표한 슬라이드에서 Huggingface 같은 곳에서 모델을 사용할 경우 모델 작성자가 사용자의 컴퓨터에서 임의의 코드를 실행할 수 있다는 사실을 발견했음.
  • AI 분야에 있지 않은 사람으로서, 모델 파일이 단순한 숫자 행렬과 메타데이터라고 생각했지만, 실제로는 파이썬 스크립트로 구성되어 있어 표준화가 쉽게 이루어졌음을 이해하게 되었음.
  • "그들은 의심을 가지고 있다"라는 표현은 이와 같은 커뮤니케이션에서 사용하기에 적절하지 않음.
  • Huggingface가 보안 인프라를 개선하기 위해 많은 작업을 수행했으며, 이는 보안 감사와 침투 테스트와 같은 더 많은 시간 소모적인 활동을 유발해야 함.
  • 몇 주 전에 OpenAI 키가 유출되었고, Huggingface 스페이스에서만 활성화된 상태였음. 며칠 전에 스페이스가 손상되었다는 이메일을 받았음.
  • Anthropics 키가 유출되어 10,000달러의 비용이 발생했음. Huggingface가 이를 보상할 것인지 궁금함.
  • 제목 때문에 우주에 관한 기사인 줄 알았지만, 실제로는 Huggingface의 스페이스에 관한 기사였음.
  • 부적절하게 발생한 비용 처리에 대한 언급이 없음. 비밀 정보에 접근하면 API 호출과 비용 발생이 가능하지 않을까?
  • '스페이스'가 무엇인지 궁금함.
  • Huggingface가 왜 "비밀"을 저장하는지 이해할 수 없음. 공개 키를 저장하고 사용자가 비밀 키로 요청을 서명하는 방식이 더 나을 것 같음.
  • 간단한 작업을 수행하는 것이 얼마나 어려운지 고려할 때, 이번 문제는 놀랍지 않음.