▲

Google, 실험적 사이버 보안 AI 모델 Sec-Gemini v1 발표

 (security.googleblog.com)
1P by GN⁺ 13일전 | ★ favorite | 댓글 1개
  • 사이버 보안 전문가의 역량을 증폭시켜 방어자의 입장을 강화하는 데 중점을 둠
  • 공격자는 단 하나의 취약점을 찾아내면 되지만, 방어자는 모든 위협에 대비해야 하는 공격자 우위의 비대칭성을 해결하고자 함
  • AI 기반 사이버 보안 워크플로우가 방어자에게 유리한 균형을 되찾아 줄수 있음

주요 기능 및 성능

  • Gemini 모델의 고급 추론 능력과 최신 보안 지식, 도구를 결합함
  • 주요 사이버 보안 작업에서 뛰어난 성능을 보임
    • 사고의 근본 원인 분석
    • 위협 분석
    • 취약점 영향 평가
  • Google Threat Intelligence (GTI), OSV 데이터, 기타 핵심 보안 정보와 통합되어 있음

벤치마크 결과

  • CTI-MCQ 위협 인텔리전스 벤치마크에서 다른 모델 대비 최소 11% 이상 우수한 성능
  • CTI-RCM (근본 원인 매핑) 벤치마크에서도 10.5% 이상 향상된 정확도 기록
    • CWE 분류 체계를 기준으로 취약점의 근본 원인을 정확히 분석하고 분류함

위협 분석 예시: Salt Typhoon

  • Sec-Gemini v1은 Salt Typhoon을 위협 행위자로 인식하고, 상세한 설명 제공
    • 이는 Mandiant 위협 인텔리전스 데이터와의 통합 덕분임
  • Salt Typhoon 관련 질문에 대해 해당 위협 행위자가 이용한 구체적인 취약점 정보 제공
    • OSV 데이터와 Mandiant 인텔리전스를 바탕으로 분석 결과에 맥락 추가
    • 이를 통해 분석가는 위협 및 취약점의 연관성과 위험 수준을 더 빠르게 파악 가능함

활용 및 배포

  • 연구 목적에 한해 선택된 조직, 기관, 보안 전문가, NGO에 무료 제공
  • Google은 보안 커뮤니티와의 협업을 통해 AI 기반 보안 역량의 한계를 넘고자 함
▲
GN⁺ 13일전  [-]
Hacker News 의견

  • Gemini 모델은 Claude, ChatGPT, Mistral과는 약간 다른 느낌이 있음

    • 엔지니어링 작업에 중점을 둔 모델과 대화하는 느낌이 있음
    • 유머나 멋을 추구하지 않는 진지함이 있음
    • AI Studio를 통해서만 Gemini와 상호작용하기 때문일 수도 있음
    • gemini.google.com을 사용하지 않는 이유는 간단한 내보내기 기능이 없기 때문임
    • AI Studio의 Google Drive 저장 기능은 매우 유용함
    • gemini.google.com이 "Markdown으로 저장" 기능을 제공했으면 좋겠음

  • Salt Typhoon 설명의 취약점에 대한 질문에 Sec-Gemini v1은 취약점 세부사항뿐만 아니라 위협 행위자에 대한 맥락도 제공함

    • OSV 데이터와 Mandiant 데이터를 사용하여 취약점을 설명함
    • LLM에 대해 여전히 회의적이지만, OSV의 발전은 긍정적임

  • Google에서 AI의 답변을 신중히 검토하지 않는 것이 놀라움

    • CVE-2024-3400에 대한 질문에서 Hitachi 장치가 취약하다는 언급이 있지만, 실제로는 취약하지 않음
    • Hitachi의 취약점 목록에 해당 CVE가 포함되어 있지 않음
    • "포털" 기능이 취약하다는 언급도 없음

  • 보안 작업을 수행하는 모델인지, 데이터 조회 및 도구를 사용하는 시스템인지에 대한 질문이 있음

    • 데이터 통합 설명으로 보아 후자일 가능성이 높음
    • 보안에 맞춰진 모델과 사전 구축된 보안 LLM 앱의 차이는 중요함

  • 특화된 모델의 출현이 흥미로움

    • 훈련된 인간과 유사함

  • LLM과 분석 작업에 대해 항상 고민이 있음

    • 취약점의 위험과 영향을 평가하거나 복잡한 악성코드를 분석할 때 데이터 포인트를 철저히 검토해야 함
    • LLM이 많은 도움을 줄 수 있지만, 그들의 추론을 검토해야 함
    • 인간도 마찬가지로 결론의 근거를 제시해야 함

  • AI 시스템을 사용한 고속 보안 작업이 필요하지만 충분하지 않음

    • 공격자도 AI 시스템을 사용할 것이므로 방어자도 따라가야 함
    • 더 안전한 시스템을 만들어야 함

  • 사이버 보안 전문가의 작업을 보조하는 데 좋을 수 있음

    • 그러나 책임을 전가하는 도구로 사용될까 걱정됨

  • 확률적으로 정확한 것을 보안에 신뢰하는 것이 나쁜 생각일 수 있음

  • wiz 인수와 관련이 있을 수 있음

답변달기