Hacker News 의견

• "윤리적 사용 안전장치"가 부적절한 콘텐츠 처리를 방지함

  • 유명인, 정치인(JD Vance 포함) 모방 예시가 있음
  • '윤리적' 딥페이크의 정의가 모호함
  • AI로 만들 수 있는 많은 것 중 왜 이걸 선택했는지 의문임

• 기술적으로 놀라운 품질을 가짐

  • 이제 거의 모든 스크립트 키디가 실시간 영상 통화에서 얼굴을 딥페이크할 수 있음
  • 영상 통화에서 눈으로 보는 것을 더 이상 신뢰할 수 없게 됨
  • 흥미로운 시대에 살고 있음

• 이 프로젝트는 "GFPGAN v1.4"와 "FaceSwap Extension - Automatic 1111 - Proof of Concept"을 기반으로 함

  • GFPGAN 프로젝트는 Wang 등이 작성한 논문 "GFP-GAN: Towards Real-World Blind Face Restoration with Generative Facial Prior"에 기반을 둠

• 이 프로젝트는 중단된 roop의 포크로 보이며 주로 UI 개선이 있음

  • roop의 주요 개발자 중 한 명이 facefusion을 개발 중이며, 실시간 웹캠 얼굴 교체를 지원함

• 기술적으로 인상적이지만 선전이나 사기와 관련되지 않은 좋은 사용 사례를 찾기 어려움

  • 웹사이트에도 명확한 사용 사례가 나와 있지 않음

• 음성 증강을 추가하면 모든 할머니와 할아버지의 은행 계좌가 털릴 수 있음

  • 지금 바로 경고해야 함

• 이 기술의 합법적인 사용 사례가 있는지 의문임

  • 제품을 구상할 때 어떤 페르소나/수직 시장을 목표로 했는지 궁금함

• "내장된 체크 기능이 부적절한 콘텐츠 처리를 방지하여 법적 및 윤리적 사용을 보장함"

  • 소프트웨어 엔지니어는 총이 테이블에서 뛰어내려 사람을 쏘지 않기를 바람

• 신뢰할 수 있는 출처에서 교차 검증된 멀티미디어만 신뢰해야 할 시점에 도달함

  • 카메라가 디지털 서명을 추가하여 영상/사진이 실제인지 표시하는 것이 가능한지 궁금함
  • AI 사진/영상 태그보다 비AI 사진/영상 태그가 더 실현 가능해 보임

• 이 도구의 출시 시기가 매우 부적절하다고 느낌

  • 올해 미국 선거를 망칠 가능성이 있음
  • 이 기술이 선거에 미치는 영향만 고려해도 좋지 않음
  • 아동 포르노, 테러, 정부 불안정화, 내전/세계 대전 등 많은 문제가 발생할 수 있음