▲

GN⁺: 클라우드 내 AI 프라이버시의 새로운 경계: Private Cloud Compute

 (security.apple.com)
1P by neo 3달전 | favorite | 댓글 1개

Apple의 Private Cloud Compute (PCC)

Private Cloud Compute 소개

  • Apple Intelligence는 iPhone, iPad, Mac에 강력한 생성 모델을 제공하는 개인 지능 시스템임.
  • **Private Cloud Compute (PCC)**는 복잡한 데이터 처리를 위한 클라우드 지능 시스템으로, 사용자 데이터의 보안을 강화함.
  • PCC는 Apple의 기기 보안과 프라이버시를 클라우드로 확장하여 사용자 데이터가 Apple을 포함한 누구에게도 접근되지 않도록 보장함.

Private Cloud Compute 설계

  • 개인 사용자 데이터의 무상태 처리: PCC는 사용자 요청을 처리하기 위해서만 데이터를 사용하고, 처리 후에는 데이터를 보관하지 않음.
  • 강제 가능한 보증: PCC는 외부 구성 요소에 의존하지 않고, 모든 보안 및 프라이버시 보증을 기술적으로 강제할 수 있음.
  • 특권 실행 접근 금지: PCC는 Apple 직원이 특권 접근을 통해 프라이버시 보증을 우회할 수 없도록 설계됨.
  • 비타겟화: 공격자가 특정 사용자의 데이터를 목표로 삼을 수 없도록 설계됨.
  • 검증 가능한 투명성: 보안 연구자들이 PCC의 보안 및 프라이버시 보증을 검증할 수 있도록 함.

Private Cloud Compute 노드 소개

  • 신뢰의 근원: PCC 노드는 Apple 실리콘과 보안 기술을 데이터 센터에 도입하여 보안을 강화함.
  • 하드웨어 및 운영 체제: iOS와 macOS의 보안 기술을 활용한 새로운 운영 체제를 사용함.
  • 클라우드 확장: 원격 셸 및 시스템 관찰 도구를 제외하고, 제한된 운영 메트릭만 제공함.

무상태 처리 및 강제 가능한 보증

  • 사용자 데이터 처리: PCC는 사용자 요청을 처리하기 위해서만 데이터를 사용하고, 처리 후에는 데이터를 삭제함.
  • 보안 기술: Secure Boot, Code Signing, Secure Enclave 등을 사용하여 데이터 무결성을 보장함.

특권 실행 접근 금지

  • 원격 셸 및 디버깅 도구 제외: PCC 노드는 원격 셸이나 디버깅 도구를 포함하지 않음.
  • 관찰 및 관리 도구: 사용자 데이터를 노출하지 않도록 설계된 도구만 사용함.

비타겟화

  • 하드웨어 보안: 제조 단계에서부터 데이터 센터까지 하드웨어 보안을 강화함.
  • 타겟 확산: 요청 메타데이터에 개인 식별 정보를 포함하지 않음.

검증 가능한 투명성

  • 소프트웨어 이미지 공개: 모든 PCC 소프트웨어 이미지를 보안 연구를 위해 공개함.
  • 투명성 로그: 모든 코드 측정을 암호화된 투명성 로그에 기록하고 공개함.
  • 연구 환경 제공: 보안 연구자들이 PCC 소프트웨어를 검증할 수 있도록 도구와 이미지를 제공함.

GN⁺의 의견

  1. 보안 강화: PCC는 사용자 데이터의 보안을 강화하여 클라우드 AI 처리의 새로운 표준을 제시함.
  2. 투명성: 소프트웨어 이미지를 공개하여 보안 연구자들이 검증할 수 있도록 함으로써 신뢰성을 높임.
  3. 기술적 도전: 무상태 처리와 특권 실행 접근 금지 등 기술적 도전 과제를 해결함.
  4. 경쟁 제품: Google의 Confidential Computing과 같은 다른 클라우드 보안 솔루션과 비교해볼 만함.
  5. 도입 고려 사항: PCC 도입 시 초기 설정과 유지 관리 비용을 고려해야 함.
▲
neo 3달전  [-]
Hacker News 의견

  • 암호학자 Matt Green의 의견: Matt Green의 의견을 참고할 만함. 트윗 링크 제공됨.

  • 트윗 접근성 문제: Matt가 X 계정 없이 트윗을 읽을 수 없다는 점을 인식했는지 궁금함. BlueSky나 Masto를 사용하라는 제안.

  • Apple의 신뢰 문제: Apple이 언제든지 업데이트를 통해 백도어를 만들 수 있으며, 정부가 이를 강제할 수 있다는 점에서 신뢰 문제가 발생함. 투명성이 부족하면 신뢰 메시지가 손상됨.

  • 미국 내 프라이버시 문제: 미국에서는 정부가 Apple에게 데이터를 공개하도록 강제할 수 있으며, 이를 공개하지 못하게 할 수도 있음. 이는 Apple이 해결할 수 없는 한계임.

  • 연구자들을 위한 개선: Apple 플랫폼에서 처음으로 sepOS 펌웨어와 iBoot 부트로더가 평문으로 제공되어 연구자들이 중요한 구성 요소를 더 쉽게 연구할 수 있게 됨.

  • 90일의 격차: 취약한 소프트웨어가 공개되고 발견될 때까지 최대 90일의 격차가 있을 수 있음. 실제 이미지의 가용성이 최대한 빠르기를 희망함.

  • 누구를 위한 것인가: 이 기능이 누구를 위한 것인지 궁금함. 개인적으로는 "calls home" 기능을 끄고 싶음. Apple이 가장 안전한 옵션이라고 말하고 싶지 않음.

  • 서버에서의 Swift 사용: 서버에서 Swift를 사용하여 새로운 머신 러닝 스택을 구축한 것이 흥미로움. Swift 서버 문서 링크 제공됨.

  • 감사 가능한 보안 보장: Apple이 감사 가능한 보안 보장을 제공할 수 있을지에 대한 신중한 낙관론. 클라우드 OS가 오픈 소스로 제공된다면 매우 가치 있을 것임.

  • 우회 가능성: Apple이 마음을 바꾸면 가짜 PCC 노드에 키를 반환하여 모든 보호 장치를 우회할 수 있음. 특정 사용자에 대해 이를 수행할 가능성도 있음.

  • 프라이빗 클라우드의 네트워크 접근성: 프라이빗 클라우드가 외부 네트워크에 접근할 수 있는지 여부에 대한 정보가 부족함. 네트워크 접근이 보장되지 않으면 요청이 클라우드 내에 머무른다는 보장이 무의미해짐.

  • 긍정적인 방향: 민감한 데이터를 보내지는 않겠지만, 현재 업계의 추세와 비교했을 때 Apple의 노력과 방향성을 높이 평가함.

답변달기