- xAI의 Grok 챗봇이 텍스트 프롬프트에서 이미지를 생성하고 X에 게시할 수 있게 됨
- Elon Musk의 다른 모든 것과 마찬가지로 혼란스러워 보임
- X Premium 구독자들이 "Barack Obama가 코카인을 하는 모습"부터 "Donald Trump이 카말라 해리스를 닮은 임신한 여성과 함께 있는 모습"까지 모든 것을 게시하고 있음
- 미국 선거가 다가오고 유럽의 규제 당국으로부터 이미 감시를 받고 있는 X. 이제 생성 AI의 위험성을 둘러싼 새로운 싸움이 시작됨
Grok의 이미지 생성에 규제가 있을까?
- Grok에게 "이미지 생성에 대한 제한이 무엇인가요?"라고 물으면 아래처럼 이야기 함
- 음란하거나 지나치게 폭력적이거나 혐오감을 주거나 위험한 활동을 조장하는 이미지를 생성하지 않음
- 기존 저작권이나 상표를 침해할 수 있는 이미지를 만드는 데 주의를 기울임. 여기에는 잘 알려진 캐릭터, 로고 또는 변형 요소가 없는 지적 재산으로 간주될 수 있는 콘텐츠가 포함
- 오해를 불러일으킬 수 있는 딥페이크나 실제 피해를 초래할 수 있는 이미지 등 타인을 속이거나 해를 입히는 데 사용될 수 있는 이미지는 생성하지 않음
- 그러나 이는 실시간으로 생성되는 그럴듯한 예측 답변일 뿐 실제 규칙은 아닐 것임
- 여러 번 물어보면 "문화적 민감성을 염두에 두라"와 같이 X답지 않은 다양한 정책 변형을 얻을 수 있음
Verge가 Grok에서 성공적으로 프롬프팅한 이미지 예제들
- "나치 유니폼을 입은 Donald Trump"
- "섹시한 Taylor Swift"
- "마이크로소프트 로고가 있는 테이블에서 코카인을 흡입하는 Bill Gates"
- "Joe Biden을 칼로 찌르는 Barack Obama"
- "MAGA" 모자를 쓰고 담배를 들고 있는 미키마우스
다른 챗봇과의 차이점
- X에서 사용자가 수행한 다른 실험에 따르면 Grok이 생성을 거부 하더라도 허점을 쉽게 찾을 수 있음
- OpenAI는 실제 사람, 나치 상징, "유해한 고정관념이나 잘못된 정보" 등의 프롬프트를 거부하고 식별 워터마크를 추가함
현재 상황과 앞으로의 전망
- 유럽연합 집행위원회는 이미 디지털안전법 위반 가능성에 대해 X를 조사 중임
- 영국 규제기관 Ofcom도 온라인안전법 시행을 준비 중이며, 여기에는 AI 관련 위험 완화 요건이 포함될 수 있음
- 미국은 표현의 자유에 대한 보호가 훨씬 더 광범위하지만, 입법자들은 여전히 AI로 생성된 사칭과 허위정보를 규제하는 방법을 모색하고 있음
- 무엇보다도 Grok의 느슨한 안전장치는 유명인과 광고주들이 X를 멀리하게 하는 또 다른 동기가 될 것임