▲

GN⁺: 마이크로소프트, 자사의 AI 도구 사용자 감시 중

 (schneier.com)
1P by neo 5달전 | favorite | 댓글 1개

마이크로소프트, 인공지능 도구 사용자 감시 중

  • 마이크로소프트가 중국, 러시아, 이란의 해커들이 자사의 인공지능(AI) 도구를 사용하여 해킹 능력을 향상시키고 있음을 발견했다고 발표함.
  • 이들 해커는 Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon, Salmon Typhoon 등으로 추적되며, 대규모 언어 모델(LLMs)을 사용하여 사이버 작전을 강화하는 것으로 나타남.
  • 마이크로소프트나 OpenAI가 이러한 활동을 알 수 있는 유일한 방법은 챗봇 세션을 감시하는 것임.
  • 이용약관에는 사용자 감시에 대한 허가가 명시되어 있을 것이며, 마이크로소프트와 OpenAI가 AI 사용을 감시하고 있다는 것은 놀랍지 않지만, 이번 발표로 그 사실이 확인됨.

GN⁺의 의견

  • 이 기사는 마이크로소프트가 인공지능 도구 사용을 감시하고 있으며, 이를 통해 국가 지원 해커들의 활동을 추적하고 있다는 중요한 정보를 제공함.
  • 사용자 감시는 개인의 프라이버시와 보안에 대한 우려를 불러일으킬 수 있으나, 동시에 사이버 보안을 강화하고 국가 안보를 위한 중요한 조치로 볼 수 있음.
  • 이러한 감시 활동은 AI 기술의 이중적인 사용 가능성을 보여주며, 기술의 발전이 가져오는 새로운 윤리적, 법적 문제에 대한 논의를 촉발할 수 있음.
▲
neo 5달전  [-]
Hacker News 의견

  • OpenAI API 사용자 데이터 처리에 대한 댓글 요약

    • OpenAI API의 이용약관(TOS)에 따르면, OpenAI는 서비스 제공과 남용 식별을 위해 최대 30일간 API 입력과 출력을 보관할 수 있음.
    • 법적으로 요구되지 않는 한, 30일 후에는 데이터가 시스템에서 삭제됨.
    • 사용자는 특정 사용 사례에 대해 데이터 보존을 요청하지 않을 수 있음(ZDR).
    • 데이터 처리에 대한 자세한 내용은 OpenAI의 플랫폼 문서 페이지에서 확인 가능.

  • Microsoft AI 도구 사용자 데이터 처리에 대한 댓글 요약

    • 사용자가 "Microsoft가 AI 도구 사용자를 감시한다"고 주장하지만, 실제로는 Microsoft가 권위주의 국가의 적대적 정부가 AI 도구를 불법 활동에 사용하는 것을 발견한 것임.
    • 이용약관에 동의함으로써 사용자는 Microsoft가 이러한 데이터 추적을 할 수 있음을 인정함.

  • Google Bard 및 Gemini에 대한 댓글 요약

    • Google의 Gemini는 홈페이지에서부터 사용자 대화가 인간 검토자에 의해 처리되어 Gemini 앱의 기술 개선에 사용됨을 명확히 함.
    • 사용자는 검토자에게 보여지거나 Google이 사용하는 것을 원하지 않는 정보를 입력하지 말아야 함.
    • Google Workspace의 내용은 Gemini 개선을 위해 검토되거나 사용되지 않음.
    • 사용자는 Gemini 앱 활동을 끄면 미래의 대화가 검토되거나 기계 학습 모델 개선에 사용되지 않도록 설정할 수 있음.

  • 이용약관과 개인정보 보호정책에 대한 댓글 요약

    • 많은 기술 회사들이 이용약관에 명시된 내용을 통해 사용자의 AI 사용을 감시할 수 있는 권한을 가지고 있음.
    • 이용약관에 감시를 허용하는 조항이 있다면, 회사가 실제로 감시를 하고 있다고 가정하는 것이 합리적임.
    • 개인정보 보호정책은 사용자가 회사를 신뢰하도록 만들지만, 실제로 회사가 정책을 준수하는지 검증할 방법이 없음.

  • Microsoft의 사용자 데이터 모니터링에 대한 댓글 요약

    • Microsoft가 사용자의 AI 도구 사용을 모니터링하는 것은 놀랄 일이 아니며, 이는 이미 널리 알려진 사실임.
    • Microsoft를 포함한 여러 기술 회사들이 사용자의 대화 내용을 볼 수 있는 권한을 가지고 있으며, 이는 사용자의 명시적이고 철회 가능한 허가를 통해서만 이루어져야 함.

  • AI 도구 사용과 데이터 수집에 대한 댓글 요약

    • AI 도구를 사용하는 것은 사용자 데이터가 대량으로 수집될 것을 의미함.
    • 로컬에서 구동되는 AI만이 사용자 데이터 보호에 관심이 있는 경우에 사용해야 함.

  • AI 개발과 데이터 수집의 상관관계에 대한 댓글 요약

    • AI는 데이터에 기반을 두고 있으며, 더 많은 데이터를 수집할수록 AI를 더 잘 훈련시킬 수 있고, 이는 더 많은 사용자가 데이터를 제공하고자 하는 선순환을 만듦.

  • 플랫폼의 데이터 수집 및 남용 탐지에 대한 댓글 요약

    • 모든 플랫폼은 사용자의 입력을 수집하여 다음 모델을 훈련시키고, 남용을 탐지하는 것이 명백함.
답변달기