애플 Private Cloud Compute: 클라우드 AI 프라이버시의 새 경계

 (security.apple.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Apple Intelligence가 온디바이스로 처리하기 어려운 요청을 큰 파운데이션 모델에 맡기기 위해 Private Cloud Compute(PCC) 를 도입했으며, 클라우드에서도 개인 데이터 접근을 최소화하는 설계를 내세움
  • PCC는 맞춤형 Apple silicon 서버, Secure Enclave, Secure Boot, Code Signing, 샌드박싱을 결합해 데이터센터에 기기 수준의 보안 모델을 가져오려 함
  • 사용자 요청은 검증된 PCC 노드 공개키로 직접 암호화되며, 로드밸런서나 프라이버시 게이트웨이는 요청을 복호화할 키를 갖지 않음
  • 운영 편의를 위해 흔히 쓰는 원격 셸, 대화형 디버깅, 범용 로깅을 제외하고, 감사된 로그와 제한된 지표만 노드 밖으로 나가도록 설계함
  • Apple은 프로덕션 소프트웨어 이미지, 투명성 로그, 연구 환경, Apple Security Bounty를 통해 외부 검증 가능한 클라우드 AI를 만들겠다는 계획임

Apple Intelligence가 클라우드로 넘어갈 때 생기는 프라이버시 문제

  • Apple Intelligence는 iPhone, iPad, Mac에 생성 모델 기반 개인 지능 기능을 제공하는 시스템임
  • 더 복잡한 데이터에 대해 추론해야 하는 고급 기능은 더 큰 파운데이션 모델이 필요하며, 이를 위해 Apple은 Private Cloud Compute(PCC) 를 만들었음
  • PCC는 개인 AI 처리를 위해 설계된 클라우드 인텔리전스 시스템이며, 사용자 개인 데이터가 Apple을 포함한 누구에게도 노출되지 않도록 하는 것을 목표로 함
  • 온디바이스 처리는 사용자 데이터 보안과 프라이버시에 유리함
    • 사용자 기기에만 있는 데이터는 중앙 공격 지점에 놓이지 않음
    • 가장 민감한 클라우드 데이터에는 종단 간 암호화가 강력한 방어 수단이 됨
    • 종단 간 암호화가 적절하지 않은 클라우드 서비스에서는 임시 처리나 사용자 신원을 흐리는 무관한 무작위 식별자를 사용할 수 있음

기존 클라우드 AI 보안 모델의 한계

  • 클라우드 AI는 강력한 데이터센터 하드웨어와 큰 머신러닝 모델을 활용할 수 있지만, 요청과 관련 개인 데이터에 암호화되지 않은 접근이 필요함
  • 이 때문에 완전한 종단 간 암호화만으로는 처리할 수 없고, 기존 클라우드 AI 서비스는 전통적인 클라우드 보안 방식에 의존해 왔음
  • 전통적인 접근에는 세 가지 약점이 있음
    • 보안·프라이버시 보장 검증이 어려움
      • 서비스가 특정 사용자 데이터를 기록하지 않는다고 해도 연구자가 이를 확인하기 어려움
      • 새 버전이 민감한 데이터를 실수로 로그에 남기거나, TLS를 종료하는 로드밸런서가 문제 해결 중 사용자 요청을 대량 기록할 수 있음
    • 런타임 투명성 제공이 어려움
      • 클라우드 AI 서비스는 실제 실행 중인 소프트웨어 스택을 보통 공개하지 않음
      • 오픈소스 소프트웨어만 사용하더라도, 사용자 기기나 브라우저가 서비스의 소프트웨어가 수정되지 않았는지 확인하는 널리 배포된 방법이 없음
    • 강한 권한 접근 제한이 어려움
      • SRE와 관리자는 장애나 심각한 사고 상황에서 SSH 같은 높은 권한 접근을 사용할 수 있음
      • 관리자가 라이브 서버 데이터를 백업하다 민감한 사용자 데이터를 복사하거나, 범죄자가 관리자 자격 증명을 탈취해 사용자 데이터를 가져갈 수 있음

PCC의 다섯 가지 설계 요구사항

  • 개인 사용자 데이터에 대한 무상태 계산

    • PCC는 받은 개인 데이터를 사용자 요청 처리 목적으로만 사용해야 함
    • 데이터는 Apple 직원을 포함해 사용자 외 누구에게도 제공되지 않아야 함
    • 응답 반환 후에는 로그나 디버깅 용도를 포함해 어떤 형태로도 보존되지 않아야 함

  • 기술적으로 강제 가능한 보장

    • 보안과 프라이버시 보장은 전체 시스템의 중요한 구성요소를 제한하고 분석할 수 있을 때 가장 강함
    • PCC의 핵심 보장은 TLS 종료 로드밸런서 같은 외부 구성요소에 의존하지 않아야 함
    • 서버 지표와 오류 로그 수집 같은 운영 요구도 프라이버시 보호를 약화하지 않는 방식으로 지원돼야 함

  • 특권 런타임 접근 없음

    • PCC에는 Apple SRE가 장애 대응 중에도 프라이버시 보장을 우회할 수 있는 특권 인터페이스가 없어야 함
    • 런타임에 추가 소프트웨어를 로드해 특권 접근 범위를 넓히는 방식도 지원하지 않아야 함

  • 비표적화

    • 공격자가 특정 PCC 사용자의 개인 데이터를 노리려면 전체 PCC 시스템에 대한 광범위한 침해를 시도해야 함
    • 공급망에서 PCC 노드에 물리 공격을 하거나 데이터센터 접근을 얻은 공격자도 특정 사용자 요청을 손상된 노드로 유도할 수 없어야 함

  • 검증 가능한 투명성

    • 보안 연구자는 PCC의 보안·프라이버시 보장이 Apple의 공개 약속과 일치하는지 높은 신뢰도로 검증할 수 있어야 함
    • 연구자가 검사한 소프트웨어와 PCC 프로덕션 환경에서 실행 중인 소프트웨어가 같은지도 확인 가능해야 함

PCC 노드와 보안 기반

  • PCC의 신뢰 루트는 맞춤 제작된 서버 하드웨어인 PCC 컴퓨트 노드임
  • PCC 노드는 iPhone에 쓰이는 하드웨어 보안 기술을 데이터센터로 가져옴
  • 운영체제는 LLM 추론 워크로드에 맞춘 iOS와 macOS 기반의 강화된 하위 집합임
  • Apple은 데이터센터 관리에 일반적으로 중요한 구성요소를 PCC 노드에서 제외함
    • 원격 셸
    • 시스템 내부 관찰과 범용 관측 도구
  • 대신 SRE 직원에게 작고 제한된 운영 지표만 결정적으로 제공하는 목적별 구성요소를 사용함
  • Swift on Server로 클라우드 기반 파운데이션 모델을 호스팅하기 위한 새 머신러닝 스택을 만들었음

사용자 요청 처리와 데이터 보존 방지

  • PCC는 사용자 요청의 데이터를 모델 추론에 사용해야 하므로 완전한 종단 간 암호화만으로는 설계할 수 없음
  • 대신 PCC 컴퓨트 노드가 처리 중 사용자 데이터 프라이버시를 기술적으로 강제하고, 작업 주기가 끝나면 데이터를 보존할 수 없게 함
  • PCC의 사용자 데이터 처리 보장은 세 가지임
    • 사용자 기기는 추론 요청 처리라는 유일한 목적을 위해 PCC에 데이터를 보냄
    • 사용자 데이터는 응답 반환 전까지만 요청을 처리하는 PCC 노드에 머무름
    • 사용자 데이터는 프로덕션 서비스나 하드웨어에 대한 관리 접근 권한을 가진 Apple 직원에게도 제공되지 않음
  • Apple Intelligence가 PCC를 사용할 때 기기는 프롬프트, 원하는 모델, 추론 매개변수로 요청을 구성함
  • 기기의 PCC 클라이언트는 먼저 검증되고 암호학적으로 인증된 PCC 노드의 공개키로 요청을 직접 암호화함
    • 사용자 기기에서 검증된 PCC 노드까지 종단 간 암호화가 제공됨
    • 로드밸런서와 프라이버시 게이트웨이 같은 보조 데이터센터 서비스는 신뢰 경계 밖에 있으며 요청을 복호화할 키가 없음
  • PCC 노드는 Secure Boot와 Code Signing으로 승인되고 암호학적으로 측정된 코드만 실행할 수 있음
    • 실행 가능한 모든 코드는 Apple이 서명하고 특정 PCC 노드에 승인된 trust cache에 포함돼야 함
    • trust cache는 Secure Enclave가 로드하며 런타임에 변경하거나 추가할 수 없음
    • JIT 매핑을 만들 수 없어 런타임 코드 컴파일이나 주입을 막음
  • 코드와 모델 자산은 Signed System Volume에 쓰이는 것과 같은 무결성 보호를 사용함
  • Secure Enclave는 요청 복호화 키가 복제되거나 추출될 수 없도록 강제함
  • 데이터 보존을 막기 위해 Secure Enclave는 재부팅마다 데이터 볼륨 암호화 키를 무작위화하고 이 키를 영구 저장하지 않음
    • PCC 노드의 Secure Enclave Processor가 재부팅될 때마다 데이터 볼륨은 암호학적으로 삭제됨
    • 추론 프로세스는 요청 완료 시 관련 데이터를 삭제함
    • 사용자 데이터를 처리한 주소 공간은 예기치 않게 메모리에 남은 데이터의 영향을 줄이기 위해 주기적으로 재활용됨
  • Pointer Authentication Codes와 샌드박싱은 보장 우회를 노리는 익스플로잇을 어렵게 하고, PCC 노드 내부의 수평 이동을 제한함
  • 추론 제어와 디스패치 계층은 Swift로 작성돼 메모리 안전성을 확보하며, 요청 초기 처리를 별도 주소 공간으로 분리함

특권 런타임 접근 제거

  • PCC 노드에는 원격 셸이나 대화형 디버깅 메커니즘이 포함되지 않음
  • Code Signing은 추가 코드 로드를 막지만, Apple은 이런 개방형 접근 자체를 시스템 보안과 프라이버시를 우회할 넓은 공격 표면으로 봄
  • PCC 노드는 Developer Mode를 활성화할 수 없고, 디버깅 워크플로에 필요한 도구도 포함하지 않음
  • 관측성과 관리 도구는 사용자 데이터 노출을 막는 프라이버시 보호장치를 포함함
    • 범용 로깅 메커니즘이 없음
    • 사전 지정되고 구조화되며 감사된 로그와 지표만 노드 밖으로 나갈 수 있음
    • 여러 독립 검토 계층이 해당 메커니즘을 통한 사용자 데이터의 우발적 노출을 막는 데 사용됨
  • 이 설계는 지정된 코드만 사용자 데이터에 접근하고, 시스템 관리 중 사용자 데이터가 PCC 노드 밖으로 새지 않도록 강제 가능한 보장을 제공함

비표적화와 하드웨어 공격 대응

  • PCC의 위협 모델은 컴퓨트 노드에 물리적으로 접근하고, 시스템의 일부 하드웨어 보안 속성을 우회해 처리 중인 데이터를 추출할 수 있는 고도화된 공격자를 포함함
  • Apple은 두 가지 방식으로 방어함
    • PCC 하드웨어에 강화된 공급망을 적용해 대규모 하드웨어 공격을 매우 비싸고 발견 가능하게 만듦
    • 소규모 공격이 특정 사용자 데이터를 표적으로 삼는 데 쓰이지 못하게 함
  • PCC 하드웨어 보안은 제조 단계에서 시작함
    • 서버가 봉인되고 변조 스위치가 활성화되기 전 PCC 노드 구성요소를 재고화하고 고해상도 이미징을 수행함
    • 데이터센터 도착 후 PCC 프로비저닝 전에 광범위한 재검증을 수행함
    • 여러 Apple 팀이 독립 출처의 데이터를 교차 확인하며, Apple과 무관한 제3자 관찰자가 절차를 추가로 모니터링함
    • 각 PCC 노드에는 Secure Enclave UID에 뿌리를 둔 키 인증서가 발급됨
    • 사용자 기기는 인증서를 검증할 수 없는 PCC 노드에 데이터를 보내지 않음
  • 더 작고 정교한 공격을 막기 위해 PCC는 표적 분산(target diffusion) 접근을 사용함
  • 요청 메타데이터에는 출처 기기나 사용자에 대한 개인 식별 정보가 빠짐
    • 적절한 모델로 라우팅하는 데 필요한 제한된 요청 맥락 데이터만 포함함
    • 이 메타데이터만 PCC 신뢰 경계 밖의 로드밸런서와 데이터센터 구성요소에 제공됨
  • 메타데이터는 RSA Blind Signatures 기반의 일회용 자격 증명을 포함해, 요청을 특정 사용자와 묶지 않고 유효한 요청을 승인함
  • PCC 요청은 제3자가 운영하는 OHTTP relay를 통과함
    • 요청이 PCC 인프라에 도달하기 전에 기기의 출발지 IP 주소를 숨김
    • 공격자가 IP 주소로 요청을 식별하거나 개인과 연결하는 것을 막음
    • 출발지 IP 기반 트래픽 유도를 하려면 제3자 릴레이와 Apple 로드밸런서를 모두 침해해야 함
  • 사용자 기기는 전체 PCC 서비스가 아니라 PCC 노드의 부분집합에 대해서만 요청을 암호화함
    • 로드밸런서는 요청을 처리할 준비가 되었을 가능성이 높은 노드 부분집합을 반환함
    • 로드밸런서는 사용자나 기기 식별 정보를 갖지 않으므로 특정 사용자를 위해 집합을 편향시킬 수 없음
    • 단일 노드가 손상되더라도 들어오는 요청의 작은 일부만 복호화할 수 있음
    • 로드밸런서가 선택한 PCC 노드 집합은 통계적으로 감사 가능함

검증 가능한 투명성과 연구자 접근

  • Apple은 PCC에 대한 공적 신뢰를 위해 보안 연구자가 종단 간 보안·프라이버시 보장을 검증할 수 있어야 한다고 봄
  • PCC 출시 시 모든 프로덕션 빌드의 소프트웨어 이미지를 보안 연구 목적으로 공개할 계획임
  • 사용자 기기는 공개적으로 등재된 소프트웨어를 실행한다고 암호학적으로 증명할 수 있는 PCC 노드에만 데이터를 보내도록 설계됨
  • Apple의 검증 가능한 투명성 계획은 다음을 포함함
    • PCC에서 실행되는 모든 코드의 측정값을 추가 전용 방식의 암호학적 변조 방지 투명성 로그에 게시
    • 로그와 관련 바이너리 소프트웨어 이미지를 프라이버시·보안 전문가가 검사하고 검증할 수 있게 공개
    • PCC 노드 소프트웨어 분석용 공식 도구 세트 게시 및 유지
    • Apple Security Bounty를 통한 중요한 연구 결과 보상
  • 모든 프로덕션 PCC 소프트웨어 이미지는 독립 바이너리 검사를 위해 공개됨
    • OS, 애플리케이션, 관련 실행 파일이 포함됨
    • 연구자는 이를 투명성 로그의 측정값과 대조해 검증할 수 있음
    • 소프트웨어는 로그 포함 후 90일 이내 또는 관련 소프트웨어 업데이트 제공 후 중 더 빠른 시점에 공개됨
    • 릴리스가 로그에 서명돼 들어가면 탐지 없이 제거할 수 없음
  • 사용자 기기는 PCC 노드의 증명된 측정값이 공개 투명성 로그의 소프트웨어 릴리스와 일치할 때만 요청 페이로드 키를 해당 노드의 공개키로 감쌈
  • Code Signing은 승인되지 않은 소프트웨어 로드를 막고, PCC 노드의 모든 코드가 증명에 포함되도록 함

PCC 연구 환경과 보상

  • Apple은 연구자가 PCC 프라이버시 약속을 빠르게 검증하고 문제를 찾을 수 있도록 세 가지 추가 조치를 계획함
    • PCC Virtual Research Environment 공개
      • Apple silicon이 탑재된 Mac에서 PCC 노드를 시뮬레이션하는 도구와 이미지 세트
      • 가상화에 성공하도록 최소 수정된 PCC 소프트웨어 버전을 부팅할 수 있음
    • 모든 프로덕션 PCC 빌드의 바이너리 이미지와 별도로, 보안상 중요한 PCC 소스 코드 일부를 주기적으로 공개
    • Apple 플랫폼 최초로 PCC 이미지에 sepOS 펌웨어와 iBoot 부트로더를 평문으로 포함
  • Apple Security Bounty는 전체 PCC 소프트웨어 스택의 연구 결과를 보상함
  • PCC의 프라이버시 약속을 약화하는 문제에는 특히 큰 보상이 제공될 예정임

이후 공개 예정 사항

  • PCC는 무상태 계산, 강제 가능한 보장, 특권 접근 없음, 비표적화, 검증 가능한 투명성 요구사항을 만족하도록 설계됨
  • PCC가 베타로 제공된 뒤 더 깊은 기술 설명이 이어질 예정임
  • 향후 각 핵심 요구사항의 구현과 동작에 대한 추가 기술 세부사항을 공유할 계획임
  • Apple은 보안 연구자에게 PCC 소프트웨어와 PCC Virtual Research Environment를 곧 처음 공개할 예정임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 클라우드나 인터넷에 연결되는 모든 것은 오픈소스이고 서버가 분산형이 아닌 한 결국 누군가를 신뢰해야 함
    Apple이 자기들 외에는 아무도 데이터에 접근하지 못하게 최선을 다할 수는 있지만, Apple은 모든 종단점, iPhone 업데이트, 서버를 통제함
    “웹 기반 암호화는 언제나 사기”라는 글이 떠오름: https://www.devever.net/~hl/webcrypto
    로컬에 저장된 데이터도 Apple이 원하면 접근할 힘이 있고, 정부 명령이 있으면 그럴 수도 있음. 그래서 “프라이빗”하다는 말은 더 많은 주체가 아니라 Apple만 알 수 있다는 의미에 가깝다고 봄
    대안들이 데이터를 더 많은 곳에 흘릴 수 있다는 점에서는 낫지만, 홍보되는 것처럼 깨지지 않는 암호화와는 거리가 있음

    • 이 평가는 완전히 공정하진 않다고 봄. Apple을 Google이나 OpenAI와 같은 묶음에 넣어버리기 때문임
      Google은 광고, 추천, AI 등을 위해 사용자를 추적하는 게 명백하고, 숨기지도 않으며 사업 모델의 핵심임
      반면 Apple은 이 AI 시스템에서 직원이 사용자 데이터에 접근하지 못하게 하려고 꽤 진지하게 노력했고, 로깅과 관측 가능성을 강하게 제한하며 자체 칩과 운영체제까지 설계함
      클라이언트가 감사되지 않은 시스템과 통신하지 않게 하는 것도 큰 차이임
      Apple의 말을 그대로 믿을 수는 없지만, 제3자 감사가 이 시스템의 프라이버시를 신뢰하고 검증하는 핵심이라고 봄
      “Apple이 네가 뭘 하는지 안다”는 말은 Apple 내부 누군가가 기기에서 프라이빗 클라우드로 간 데이터를 접근할 수 있다는 뉘앙스인데, 그건 사실이 아닌 듯함
      Apple 사업 모델에서 프라이버시가 큰 축이라는 점도 신뢰의 한 요소임. Apple은 다른 방식으로 돈을 버는 제품을 만들어 재정적으로 성공해 왔고, 데이터를 파는 쪽으로 가는 건 필요하지도 좋은 사업 아이디어도 아님
      제3자 검증 전까지 회의적인 건 타당하지만, Apple의 접근이 OpenAI나 Google보다 데이터와 프라이버시에 낫지 않다고 말하는 건 부당함
    • “오픈소스이고 서버가 분산형이어야 한다”에서 더 정확히는 오픈소스이고 자체 호스팅 가능해야 함
      사람들이 자기 서버를 돌릴 수 없다면 공개 저장소의 코드가 실제 클라우드 서버에서 도는 코드와 같은지 알 수 없으므로 오픈소스만으로는 부족함
    • 하드웨어 설계, 제조 공정, 모든 소프트웨어를 직접 검증하지 않는 한 로컬에서 실행해도 결국 아주 많은 사람을 신뢰하는 셈임
    • 이건 맞지 않음. 수학을 신뢰한다면 소프트웨어가 주장한 그대로인지 증명할 수 있음
      물론 검증 작업은 필요하지만, 그래도 큰 진전임
    • 기술을 써야 한다면 누군가는 신뢰해야 함. Apple은 창립 때부터 개인이 쓰는 컴퓨터에 초점을 맞춰 왔고, 메시지도 일관됐으며 실적도 괜찮음
      내가 보기엔 대안들이 흩어져 있고 초점이 약해서 Apple을 신뢰하겠음

  • 암호학자 Matt Green의 좋은 코멘트가 여기 있음: https://x.com/matthew_d_green/status/1800291897245835616?t=C...
    X 계정 없이는 트윗을 못 읽는다는 걸 Matt가 아는지 모르겠음. BlueSky나 Mastodon을 쓰면 좋겠음
    스레드 합본: https://threadreaderapp.com/thread/1800291897245835616.html?...

    • 정말 아무도 자기 트윗을 읽지 않길 원했다면 BluSky나 Mastodon을 썼을 것임
    • 특히 두 트윗이 눈에 띔
      “블로그 글에는 아마 기술적 세부사항이 6개쯤 더 있다. 아주 신중한 설계다. 훌륭한 팀에 큰돈을 주고 세계 최고의 ‘프라이빗’ 클라우드를 만들라고 하면 아마 이렇게 생겼을 것이다”
      “물론 초스파이가 가장 큰 적은 아니라는 점을 기억해야 한다. 많은 사람에게 가장 큰 적은 기기와 소프트웨어를 판 회사다. 이 PCC 시스템은 Apple이 사용자 데이터를 ‘들여다보지 않겠다’는 실제 약속을 나타낸다. 큰 의미가 있다”
      데이터가 기기 안에 머무는 쪽을 선호하지만, 적어도 이건 올바른 방향으로 큰 약속이거나, 어쩌면 잘못된 방향이지만 경쟁사보다 훨씬 잘한 것인지도 모르겠음
    • “Apple은 Private Compute로 데이터가 기기 밖으로 나갈 때 명시적으로 알릴 계획이 없는 듯하다. 사용자가 동의하지도 않고, 꼭 통보받지도 않는다. 그냥 마법처럼 일어난다”는 부분이 걸림
      AI 기능 전체, 즉 온디바이스와 오프디바이스 모두를 끄는 선택지는 있을 것으로 추정함
      기기 제조사가 온디바이스 AI 전용 옵션을 두지 않을 이유가 있을까? iOS 17 AI 기능은 지금도 iCloud 없이 쓸 수 있음
      Apple이 *.pcc.apple.com 같은 고유 도메인을 써서 네트워크 수준에서 필터링 가능하면 좋겠음
    • X 계정 없이도 여기서 읽을 수 있음: https://nitter.poast.org/matthew_d_green/status/180029189724...
    • Matt는 실제로 Mastodon 계정을 활발히 쓰지만, 이 이야기는 아직 올라오지 않은 듯함: https://ioc.exchange/@matthew_d_green

  • 전부 읽어봐도 결국 “우리를 믿어라”로 귀결됨. Apple은 언제든 백도어가 든 업데이트에 서명하고 승인할 수 있고, 정부는 서명 한 번으로 Apple에 그걸 강제할 수 있으며 전부 조용히 진행될 수 있음
    Apple이 하는 일에 장점이 있다는 건 이해함. 하지만 신뢰를 판다면 100% 진실해야 하고, 이런 식의 데이터 접근 가능성이 여전히 있다는 점을 투명하게 밝히지 않으면 전체 메시지가 오염됨

    • Apple은 이미 루트 권한을 갖고 있고 소프트웨어는 비공개 소스임. 지금 당장 모든 데이터를 업로드하는 걸 막을 방법은 전혀 없음
      운영체제를 만드는 사람들을 신뢰하지 못한다면, 오프디바이스 AI 처리를 걱정하는 것보다 훨씬 깊은 문제가 있는 셈임
    • 그 논리는 Apple이 iPhone에 할 수 있는 일과 다르지 않음. 서버에서 처리된다는 사실은 아무것도 바꾸지 않음
      Apple은 버튼 하나로 iPhone이 원하는 데이터를 서버로 올리게 할 수 있음. 그 논리라면 로컬 실행 AI까지 포함해 아무것도 신뢰하면 안 됨. 아마 맞는 말이지만 실용적이진 않음
      Matthew Green 스레드의 마지막 부분이 잘 요약함: “완벽함이 아주 좋은 것을 방해할 때가 있다. 실제로 온디바이스의 대안은 민감한 데이터를 OpenAI나 더 수상한 곳으로 보내는 것이다. 많은 사람에게 가장 큰 적은 기기와 소프트웨어를 판 회사다. PCC는 Apple이 데이터를 ‘들여다보지 않겠다’는 실제 약속이며 큰일이다. 이제 휴대폰 일부가 2,000마일 떨어진 데이터센터에 사는 세계로 가고 있으니, 보안 쪽 사람들도 그 사실에 익숙해지고 모든 부분을 최대한 안전하게 만들어야 한다”

  • 굉장히 흥미로움. Apple의 Private Cloud Compute는 동료들과 6년 전 시작한 오픈소스 프로젝트 System Transparency와 개념적으로 같은 것으로 보임
    더 많은 기술 세부사항이 기대됨. Apple 관계자가 본다면 stromberg@mullvad.net로 연락해도 좋음. 우리 설계와 Apple 설계를 논의하거나 피드백을 줄 수 있음
    관련 링크: https://mullvad.net/en/blog/system-transparency-future
    http://system-transparency.org
    http://sigsum.org

    • https://en.m.wikipedia.org/wiki/Confidential_computing
      Apple이 하는 건 기밀 컴퓨팅임. 구현 사례를 찾아보면 더 많은 기술 세부사항을 이해할 수 있음
    • 발표를 보며 나도 바로 같은 생각을 했고, System Transparency가 떠올랐음. 세부사항이 공개되고 완전히 이해된 뒤 어떤 평가가 나올지 궁금함
    • Intel SGX, AMD SEV, NVIDIA의 새 기술처럼 대부분 이런 시스템은 같은 기본 구성요소를 쓰지만, Apple의 차별점은 전체 구현과 시스템의 품질이라고 봄
      Apple은 Confidential Computing Consortium 회원은 아니지만 ARM은 회원임
      신뢰 컴퓨팅에도 꽤 낙관적이고, 추진력이 커지는 듯함
      더 개방적이어서 전체 스택을 통제하고 하드웨어 플랫폼에 자체 루트 인증서나 키를 설치할 수 있으면 좋겠지만, 그래도 많은 이점을 줄 수 있음
      Apple이 이를 주류로 밀어 넣으면 도입이 더 늘어날 것으로 기대함

  • “Apple 플랫폼 최초로 PCC 이미지는 sepOS 펌웨어와 iBoot 부트로더를 평문으로 포함해 연구자들이 이 핵심 구성요소를 그 어느 때보다 쉽게 연구할 수 있게 한다”는 부분은 아주 좋음
    다만 “소프트웨어는 로그에 포함된 지 90일 이내 또는 관련 소프트웨어 업데이트가 제공된 뒤 중 더 이른 시점에 공개된다”는 부분은 이론상 취약한 소프트웨어 공개와 발견 가능성 사이에 최대 90일 공백을 남김
    실제 이미지 제공은 최대치보다 훨씬 즉시에 가깝기를 바람

    • 성가신 감사자들이 NSA 백도어나 CCP 백도어를 너무 많이 묻는다면, 89일마다 업데이트 후 되돌리기 일정으로 해결될 것임

  • 미국에서는 완전한 프라이버시가 불가능함. 정부가 Apple에 내부를 열어 보이라고 강제할 수 있을 뿐 아니라 그 사실을 말하지 못하게 할 수도 있기 때문임
    Apple이 이 “제약”을 우회할 방법은 사실상 없음. 기회가 되면 PATRIOT Act 연장에 찬성한 “대표자”에게 감사 인사를 하면 됨

    • Private Cloud Compute 서버에는 영구 저장소가 없어서 내부를 열어도 볼 것이 없을 것임
      들어오는 요청에서 데이터를 수집하려면 정부가 요청한 실시간 감청 같은 것이 필요할 텐데, 그건 다른 상황일 수 있음
      물론 나는 인터넷의 한 사람일 뿐이고, 이 우려에 대한 반론을 떠올려 본 정도라 맞는 방향인지도 모르겠음
    • “open up the kimono”라는 표현은 아시아인으로서 불편하고 섬뜩하게 들림. 나만 그렇게 느끼진 않을 것 같음
    • 보장된 프라이버시와 증명 가능한 프라이버시는 다름
      정부가 데이터를 요청할 수는 있음. 하지만 Apple의 시스템은 Apple 자신이 말하지 못하더라도 그런 침입을 대중에게 드러내게 될 것임
    • Apple이 할 수 있고 실제로 제품 전반에서 하는 것처럼 보이는 일은 요청받을 데이터를 애초에 갖고 있지 않거나, 평문으로 갖고 있지 않는 것임
      국가보안서한으로도 더 이상 존재하지 않는 데이터는 요청할 수 없음
    • Apple의 글을 보면 가능한 것처럼 보임. 특별히 걸리는 부분이 있었는지 궁금함

  • 큰 질문이 있음. 이건 누구를 위한 것일까?
    오해하지 말아야 할 건, 이건 훌륭한 노력이고 A+급 너드 작업임. 내 언어로 말하는 물건임
    하지만 나는 그냥 집으로 전화하는 기능을 끄는 방법을 찾을 것 같음. 애초에 그런 동작을 원하지 않기 때문임
    이건 내가 다른 사람에게 “Apple이 가장 안전한 선택지”라고 말하게 하려는 걸까? Linux를 추천하긴 싫음. 기술 지원을 해주고 싶지 않으니까
    이제는 “내 데이터에서 손 떼”라고 소리치는 노인이 된 느낌임

    • Apple은 차별화가 필요하고, 그 방법으로 프라이버시를 선택했는데 나는 찬성함
      Microsoft의 AI 노력에 관한 헤드라인은 대체로 악몽에 가까웠고 나쁜 보도가 많았음
      Apple AI 관련 보도가 보안과 프라이버시를 지나칠 정도로 챙겼다는 내용으로 채워진다면, 사람들이 사용하는 데 조금은 안심할 가능성이 큼
      OpenAI 제품을 많이 쓰지는 않지만, 쓴다면 OpenAI에 직접 가기보다 Apple의 익명화 계층을 통해 쓰는 편이 낫겠음
    • 끌 수 없고, 그 이유로 이런 극단적인 보안이 제시된다면 어떻게 될까?
    • 이건 주주들을 위한 것임. AI 투자 열풍 덕분에 Microsoft와 Nvidia의 시가총액이 이제 Apple보다 큼
      Apple도 AI 중심 기업이 될 수 있음을 보여줘야 함. 다만 Apple에는 프라이버시를 유지하려는 조직 문화가 있음
    • 나 같은 사람을 위한 것임
      정부가 데이터에 접근하는 건 신경 쓰지 않음. 다만 사기꾼, 외국 정부, 광고 기술 회사, 보험사 같은 악의적 행위자가 내 개인 데이터에 접근하지 않길 원함
      동시에 LLM의 능력도 쓰고 싶음. 그렇게 비현실적인 요구일까?
      현실적으로 미국 정부가 이미 내 모든 데이터를 갖고 있다고 기대함. 현 상태가 마음에 들진 않지만, 현실은 현실임
    • Apple이 “뒤처졌다”는 서사를 밀어붙인 경쟁사들을 위한 것이기도 함
      실제로는 iPhone 규모의 LLM과 클라우드 인프라가 준비되어 있었고, 이건 단순히 2년짜리 작업이 아님
      Apple은 기대받는 대로 프라이버시를 강조하는 것임
      Gemini도 프라이버시를 주장할 수 있겠지만, 사실이라면 오히려 성능이 떨어질 거라고 사람들이 생각할 듯함

  • Apple이 짧게 언급한 AWS Nitro Enclaves와 어떻게 비교되는지 궁금함
    주요 차이는 펌웨어 수준까지 검증 가능하다는 데 있어 보임
    Nitro Enclaves는 펌웨어[0]나 하이퍼바이저 측정값을 제공하지 않고, 하이퍼바이저 코드는 언제든 투명하게 업데이트될 수 있다고 밝힘[1]
    Apple은 Secure Enclave Processor 운영체제인 sepOS와 부트로더 이미지를 제공할 예정임
    블로그 글이 명확하진 않지만, 이 구성요소들의 소스 코드도 제공할 것처럼 들림
    [0]: https://docs.aws.amazon.com/enclaves/latest/user/set-up-atte...
    [1]: https://docs.aws.amazon.com/pdfs/whitepapers/latest/security...

    • Nitro는 펌웨어를 측정함. 예상과 다른 펌웨어가 있으면 서버는 사실상 EC2 기반 네트워크에서 분리되거나 자동으로 초기화됨
      자동으로 호출이 걸리고, 보안팀도 개입할 가능성이 큼
      EC2에서는 하이퍼바이저가 펌웨어가 아니므로 하이퍼바이저 펌웨어를 측정할 이유가 없음
      메인보드의 BIOS/UEFI 펌웨어는 변조되면 덮어써짐
      하이퍼바이저 코드는 모든 코드처럼 항상 서명되며, Nitro 카드가 측정 부팅이나 보안 부팅을 활용하는 검증 가능한 보안 시스템을 통해 서버로 스트리밍됨
      고객-facing 용어인 “Nitro enclaves”가 정확히 뭘 뜻하는지는 모르겠지만, EC2 엔지니어들은 사소한 보안 위험만 판단돼도 호출로 군대처럼 움직임
      이런 기본 사항은 다뤄져 있고, 코어 덤프에 실제 고객 데이터가 암호화된 형태로도 들어가지 않도록 보장하는 수준까지 감
    • AWS는 자체 실리콘 때문에 이렇게 해야 했음. Intel, ARM, AMD는 펌웨어와 하이퍼바이저 수준 증명을 제공함

  • 이 운영체제를 정말 보고 싶고, 대형 기술 기업이 실제로 감사 가능한 보안 보장을 제공하는 첫 사례가 될 수 있다는 점에서 조심스럽게 낙관함
    전개에 따라 Apple이 사용자들이 이미 갖고 있는 신뢰를 어느 정도 실제로 얻어낼 수도 있고, 그건 꽤 멋진 일임
    더 멋진 건 전체 관리 연쇄 감사를 제공하는 것이고, 그러려면 스택의 다른 부분도 일부 공개해야 할 것 같음
    특히 약속대로 클라우드 운영체제가 오픈소스가 된다면 엄청난 가치가 있음
    현재 주된 우려는 실제 배포에서 가상화가 쓰일 경우, 사용자 기기에서 도는 아직 독점적인 운영체제 부분의 Secure Enclave가 키를 넘기고, 우리가 감사하지 않은 하이퍼바이저가 컨테이너에 접근하는 백도어가 있을 수 있다는 점임
    보안 전문성이 더 높은 사람들은 더 나은 질문을 던질 것임
    Apple이 연구자 피드백에 반응한다면 이 도구 체인의 더 많은 부분이 감사 가능해질 수 있음
    설령 Apple이 승인한 사용 사례의 안전성을 검증하지 못하더라도, 이 클라우드 운영체제는 보안 추론과 보안 클라우드의 큰 진전이 될 수 있고, 사람들이 독립적으로 호스팅하거나 파생물을 만들 수도 있음
    최악의 경우는 Apple이 실제로 하지 않는 것이지만, 적어도 그 약속은 지킬 가능성이 꽤 있어 보임. 그러면 최악의 경우도 “대규모 보안 컴퓨팅을 위한 매우 유익한 오픈소스 코드베이스가 나왔다”가 되며, 다른 부분이 어떻게 되든 좋은 일임

    • AWS Nitro Enclaves[0]도 가까운 사례지만, Apple은 10억 명 이상의 macOS와 iOS 고객을 대상으로 프라이빗 컴퓨트를 제품화했다는 점이 큼
      [0] https://docs.aws.amazon.com/enclaves/latest/user/nitro-encla...
    • 기술 업계는 Apple을 베끼는 걸 좋아함
      Asahi Linux에 온디바이스 부팅 체인 보안 개요가 잘 정리돼 있음: https://github.com/AsahiLinux/docs/wiki/Apple-Platform-Secur...
      “PCC Virtual Research Environment를 공개하겠다. Apple silicon Mac에서 PCC 노드를 시뮬레이션하고, 가상화 성공을 위해 최소 수정된 PCC 소프트웨어 버전을 부팅할 수 있는 도구와 이미지 세트다”라는 문구는 PCC 노드가 베어메탈이라는 뜻처럼 보임
      M4 Apple Silicon이 들어간 iPad Pro에서도 PCC 노드를 시뮬레이션할 수 있을까?

  • “마지막으로 Swift on Server를 사용해 클라우드 기반 파운데이션 모델 호스팅용 새 머신러닝 스택을 만들었다”는 부분이 흥미로움
    여기서 Swift on Server가 등장한 게 눈에 띔: https://www.swift.org/documentation/server/

답변달기