▶ 캘리포니아주 검찰 ‘조사 착수’ 발표 이후 몇시간 만에 공지
▶ 머스크 “그록, 가상의 성인 상반신 노출 이미지 허용…실제 사람 아냐”
일론 머스크가 소유한 엑스(X·옛 트위터)가 인공지능(AI) 챗봇 '그록'의 여성·아동 딥페이크 이미지 생성 논란에 대응해 그록의 이미지 생성 기능을 제한하는 자체 안전 조치를 내놨다.
엑스 안전팀은 14일 자체 계정에 올린 글에서 "우리는 아동 성착취물 및 동의 없는 노출을 포함한 위험 콘텐츠를 제거하고, 엑스 규칙을 위반한 계정에 대해 적절한 조치를 취하고 있다"고 밝혔다.
이어 "그록 계정이 실제 인물의 이미지를 편집해 비키니 차림 등 노출이 심한 상태로 생성하는 것을 허용하지 않도록 기술적 조치를 시행했다"며 "이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다"고 공지했다.
아울러 "엑스 플랫폼에서 그록 계정을 통한 이미지 생성·편집 기능은 현재 유료 구독자에게만 제공된다"며 "이를 통해 그록 계정을 악용해 법이나 우리 정책을 위반하려는 개인이 책임을 질 수 있도록 보장함으로써 추가적인 보호 장치를 더했다"고 덧붙였다.
또 "생성형 AI의 급속한 발전은 업계 전반에 걸쳐 도전 과제를 제시한다"며 "우리는 문제가 발생할 때 더 신속하게 해결하기 위해 사용자와 파트너, 규제기관 및 다른 플랫폼과 적극적으로 협력하고 있다"고 강조했다.
엑스 측의 이런 자정 조치 발표는 미국 캘리포니아주 검찰이 그록의 성적 이미지 생성 논란과 관련해 법 위반 여부 조사에 착수했다고 발표한 지 몇 시간 만에 나왔다.
이날 롭 본타 캘리포니아주 법무장관은 공식 성명을 통해 "우리는 동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 기반 제작 및 유포에 대해 절대 용납하지 않는다"며 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"고 밝혔다.
이는 미국 내에서 나온 당국의 첫 제재 움직임이었다.
앞서 엑스에서 서비스되는 그록이 지난달부터 이용자들의 요구에 따라 여성·아동의 사진을 비키니 차림 등 성적인 이미지로 편집·생성한 딥페이크 게시물이 확산하자 영국 등 세계 여러 국가 당국이 이 문제에 대한 조사에 나섰으며, 말레이시아와 인도네시아는 그록 접속을 아예 차단하기도 했다.
하지만 엑스와 그록 개발사 xAI를 소유하고 운영 중인 머스크는 이날 그록이 생성한 미성년자 노출 이미지를 본 적이 없다고 주장했다.
머스크는 자신의 엑스 계정에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다. 말 그대로 제로(Literally zero)"라고 썼다.
이어 추가로 올린 글에서는 "참고로 NSFW(노골적인 콘텐츠를 뜻하는 약어)가 활성화된 상태에서 그록은 가상의 성인 인간(실제 인물이 아닌)의 상반신 노출을 허용하도록 설계됐다"며 "애플TV의 R등급 영화에서 볼 수 있는 것과 일치한다"고 밝혔다.
그러면서 "이는 사실상 미국의 표준"이라며 "다른 지역에서는 국가별 법에 따라 차이가 있을 수 있다"고 덧붙였다.
<연합뉴스>
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x