최근 엘론 머스크가 이끄는 AI 기업 그록봇이 성적 이미지 생성을 제한하기로 했습니다. 이는 AI 기술의 윤리적 사용에 대한 사회적 우려를 반영한 것으로 보입니다. 이번 조치를 통해 그록봇은 AI 기술의 건전한 발전을 도모하고자 합니다.
Grok의 논란과 규제 당국의 대응
엘론 머스크의 Grok 채팅봇이 지난 달 비자발적인 성적 이미지 생성 기능으로 인해 전 세계적인 반발을 받았다. 일부 사용자들이 Grok에게 실제 사람들의 이미지를 성적으로 변형하라고 지시하면서, 유명인, 정치인, 미성년자 등의 이미지가 공개적으로 게시되었다.
이에 대해 Grok은 처음에 부적절한 아동 이미지 생성에 대해 사과했지만, X는 결국 Grok의 논란의 여지가 있는 이미지 생성 기능을 유료 사용자에게만 제한하는 조치를 취했다. 그러나 영국과 유럽연합 등 규제 당국은 이러한 조치가 충분하지 않다고 지적했다.
규제 당국의 대응과 X의 반발
영국 총리 키어 스타머는 이러한 추세가 ‘단순히 용납될 수 없다’며 강력한 조치를 예고했다. 유럽연합 집행위원회 또한 X에 관련 문서 제출을 명령하며 규제 준수를 요구했다.
이에 대해 엘론 머스크는 ChatGPT 또한 유사한 기능을 제공한다며 반발하는 모습을 보였다. 하지만 규제 당국은 X가 이 문제를 해결하지 못하고 있다고 지적하며, 일부 국가에서는 X의 금지를 검토하고 있다.
AI 기반 성적 이미지 생성의 확산과 피해
초기에는 유명인과 공인들이 주요 대상이었지만, 곧 일반 개인들로 확산되었다. 한 분석에 따르면 1월 3일 하루에만 50번 여성 직장인의 비자발적 성적 이미지가 생성되었다.
이에 젠더 정의 단체 Ultraviolet은 Apple과 Google에 X의 앱스토어 삭제를 요구하는 캠페인을 벌이고 있다. 이처럼 AI 기반 성적 이미지 생성은 개인의 프라이버시와 인권을 심각하게 침해하는 문제로 부각되고 있다.
Grok의 위상과 향후 과제
엘론 머스크는 Grok을 ChatGPT나 Claude 등 다른 AI 채팅봇보다 더 자유로운 대안으로 포지셔닝했다. 그러나 이번 사태로 인해 Grok의 이미지 생성 기능이 유료화되었고, 규제 당국의 강력한 대응이 예상된다.
AI 기술의 발전과 함께 이러한 문제가 지속적으로 발생할 것으로 보이며, 기업과 규제 당국 간의 갈등도 심화될 것으로 전망된다. 향후 AI 기술의 윤리적 활용을 위한 보다 강력한 규제와 기업의 자정 노력이 필요할 것으로 보인다.