Hacker News 의견

• 내가 작업하는 시스템임. 질문이 있으면 언제든지 물어보길 바람. 모든 의견은 개인적인 것이며, 고용주의 의견을 대변하지 않음
• 멋진 글임. 큰 취약점은 아니지만, Google이 이를 중요하게 여긴다는 점에서 보안에 대한 의식이 높음을 알 수 있음
  • 회사의 특정 정책이 이를 매우 기밀로 간주한다고 언급했으므로 중요하게 여겨질 수 있지만, 명확한 취약점보다는 "기술적으로 취약점으로 간주"되는 느낌임
• ChatGPT Code Interpreter의 내부 소스 코드를 GitHub 저장소에 스크랩하는 비슷한 방법을 사용하고 있음
  • 주로 어떤 Python 패키지가 사용 가능한지(그리고 어떤 버전인지)를 추적하는 데 유용함
• 매우 기밀이라면 GitHub에 모두 올라와 있지는 않을 것 같음
• 해킹의 정의가 점점 느슨해지고 있음. 샌드박스가 제 역할을 하고 있으며 민감한 정보가 유출되지 않았음
• 바이너리에서 몇 개의 파일 이름을 추출하기 위해 내장된 "strings" 명령을 실행하는 것은 해킹/크래킹이라고 보기 어려움
  • 아이러니하게도, Gemini의 소스 코드를 얻는 것은 별로 가치가 없을 수 있음. 하지만 모델이 사전 학습된 코퍼스를 찾거나 접근했다면 흥미로웠을 것임
• Google이 상당히 안전하다는 것을 보여주는 점이 흥미로움. 대부분의 회사는 그렇게 잘하지 못할 것 같음
• 유출을 기대했지만, 그래도 멋진 발견과 분석임
  • 최근에 LLMs에 대한 프롬프트 인젝션 등의 문제가 얼마나 중요한지 깨달았음
  • 개인적인 LLMs에 관심이 많아서 이런 문제를 중요하게 여기지 않았음. 하지만 Operator와 Deep Research가 나오면서 이해하게 되었음
  • 개인 AI 에이전트가 인터넷 콘텐츠를 읽거나 이미지를 볼 때 제3자에 의해 프롬프트 인젝션에 취약할 수 있음
  • 개인 AI가 인터넷의 잘못된 정보를 읽고 해킹당할 수 있는 미래를 상상하는 것은 흥미로움
• 매우 흥미로운 기사임
  • Google이 사용자 데이터를 분류하는 내부 카테고리에 대한 파일임
  • 어떤 분류인지 알고 싶음. 예를 들어 "자폐증이 있음" 같은 것인지, "사용자의 전화번호임" 같은 것인지
• 샌드박스를 해킹했지만 아무것도 유출되지 않았음. 기사는 재미있음