명품쇼핑몰 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’

페이지 정보

작성자 이민종 작성일26-01-10 15:25 조회6회 댓글0건

본문

명품쇼핑몰 “나는 ‘설마 이게 진짜일 리 없다’고 생각했다. 그래서 내 어릴 적 사진으로 테스트를 해봤다. 진짜였다. 정말 역겹다.”
영국의 한 프리랜서 저널리스트는 지난 2일 엑스(X)에 이 같은 글과 함께 이미지를 공유했습니다. 그가 올린 이미지에는 엑스 내에서 제공하는 인공지능(AI) 서비스 ‘그록(Grok)’이 “그녀의 옷을 비키니로 바꿔 달라”는 요청에 따라 소녀를 비키니 차림으로 바꾼 결과물이 담겨 있었습니다. 원피스와 가디건을 입고 찍은 유년시절 사진이 감쪽같이 바뀐 겁니다.
그록의 성착취 이미지 생성·유포를 둘러싼 논란이 이어지고 있습니다. AI 기술 발전의 이면에 가려진 안전장치 부재와 책임 공백이 수면 위로 떠오른 셈입니다.
한때 ‘트위터’로 불리던 SNS 엑스와 생성형 AI 챗봇 그록은 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 AI 기업 ‘xAI’에서 운영합니다. 엑스 서비스 내에서 그록을 이용할 수 있습니다.
지난달 말 그록에 ‘이미지 편집’ 기능이 추가되면서 성적 허위 이미지(딥페이크)를 손쉽게 만들 수 있다는 문제 제기가 쏟아졌습니다. 이 기능은 엑스 이용자가 이미지가 포함된 글에 댓글로 그록을 태그해 수정을 요청하면, 원본 당사자의 동의 없이 그록이 이미지를 생성해 올려주는 방식입니다.
예를 들어 누군가 내가 올린 사진을 마음대로 속옷 차림으로 바꿀 수 있고, 이를 다른 이용자들도 볼 수 있다는 거죠. 그록은 인물을 완전한 나체로 바꾸는 건 금지하지만, 타 서비스보다 검열이 느슨한 것으로 알려져 있습니다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난해 12월25일부터 이달 1일 사이 그록이 생성한 무작위 이미지 20만개를 분석해보니 53%는 속옷, 비키니 등 최소한의 옷만 입은 인물을 담고 있었습니다. 이 가운데 여성으로 보이는 인물 비중은 81%에 달했습니다. 전체 이미지의 2%는 18세 이하로 보이는 인물이었습니다. 그록이 생성한 이미지 중에는 나치와 이슬람 극단주의 무장단체 이슬람국가(ISIS) 선전물도 있었습니다.
그록 측은 지난 2일 이용자가 문제를 제기한 글에 “보호장치에 결함이 있음을 확인하고 긴급히 바로잡고 있다. 아동 성착취물은 불법이며 금지돼 있다”고 밝혔습니다. 이튿날에는 머스크가 다른 게시물에 댓글을 달아 “그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드했을 때와 동일한 제재를 받게 될 것”이라고 했습니다. 엑스 측은 불법 콘텐츠에 대해 콘텐츠 삭제와 계정 영구정지 조치를 하고 필요한 경우 사법 당국과도 협력한다고 알렸습니다.
국내에서도 AI를 이용해 음란물을 제작·유포할 경우 성폭력처벌법, 청소년성보호법 등으로 처벌받을 수 있습니다. 다만 지난해 AI로 만든 노출 사진은 피해자가 특정되지 않는 한 성폭력처벌법상 허위영상물 유포죄로 처벌할 수 없다는 법원 판결이 나오면서 입법 보완이 필요하다는 지적이 나오기도 했습니다.
머스크와 xAI가 자신들의 책임은 축소하고 이용자들에게 책임을 돌리고 있다는 지적도 나옵니다. xAI는 ‘사용 제한 정책’을 통해 “인물을 음란한 방식으로 묘사하는 행위”와 “아동의 성적 대상화 또는 착취”를 금지하고 있습니다. 하지만 xAI는 그동안 검열이 낮다는 점을 홍보하며 이용자들을 끌어모았습니다. 최근 엑스의 이용자 참여도가 사상 최고 수준을 기록했다고 하네요.
현재 유럽연합(EU), 영국, 인도, 말레이시아 당국 등이 그록의 성착취 이미지 생성 문제를 들여다보고 있습니다.
미국 매체 악시오스는 이번 논란에 대해 “챗봇의 결과물로 인한 피해를 과연 누가 책임을 지느냐는 문제를 드러냈다”고 평가했습니다. CNN은 “사회에서 가장 취약한 이들을 보호하기 위한 충분한 안전장치 없이 결합된 AI와 SNS가 얼마나 위험할 수 있는지 보여준다”고 했습니다.
캄보디아 대규모 온라인 사기 범죄단지의 배후로 지목돼 온 프린스그룹의 천즈 회장이 캄보디아에서 체포돼 중국으로 송환됐다.
캄보디아 매체 크메르 타임스는 7일(현지시간) 내무부 성명을 인용해 초국가적 범죄 대응 협력의 하나로 중국 당국의 요청에 따라 천 회장과 쉬지량, 샤오지후 등 중국 국적자 3명을 체포해 중국으로 인도했다고 밝혔다. 내무부는 양국이 수개월간의 공동 수사 협력 끝에 지난 6일 체포 작전을 벌였다고 설명했다. 또 천 회장의 캄보디아 국적은 지난해 12월 국왕 칙령에 따라 이미 박탈됐다고 덧붙였다.
내무부 부대변인은 “이번 체포는 중국 당국의 요청과 캄보디아 관계 기관의 철저한 수사를 거쳐 이뤄졌다”고 설명했다.
천 회장은 캄보디아 실권자인 훈 센 상원의장(전 총리)의 고문을 지내는 등 캄보디아 고위 정치인과 밀착해 사업을 확장하고 막대한 부를 축적한 인물로 알려져 있다. 그가 설립한 프린스그룹은 한국인 납치와 국제 온라인 사기 사건 등에 연루된 캄보디아 범죄단지의 배후로 지목돼 왔다.
해당 범죄단지들은 전 세계를 상대로 조직적인 사기를 벌이는 한편 인신매매된 노동자들을 감금·고문한 혐의로 국제사회의 비판과 제재 대상이 됐다.
프린스그룹과 천 회장을 1년 이상 추적한 미국과 영국 정부는 지난해 10월 천 회장 등이 소유한 비트코인 12만7271개(약 17조원)를 압류하고 영국 런던 소재 초호화 부동산을 동결했다. 한국 정부도 지난해 11월 프린스그룹과 천 회장을 포함해 개인 15명과 단체 132곳을 독자 제재 대상에 올렸다.
인천 송도의 한 삼계탕 전문점에서 “닭 내장에서 분변 냄새가 나는 이물질이 나왔다”는 주장이 제기되며 논란이 커지고 있다. 음식점 측은 문제가 된 물질이 ‘닭똥’이 아니라 닭의 위에 해당하는 근위, 이른바 닭똥집 내부가 제대로 제거되지 않은 것이라고 해명했다. 과연 닭똥집에서 실제로 ‘똥’이 나올 수 있는 일일까.
닭똥집으로 불리는 부위는 정확히 말하면 닭의 소화기관인 근위다. 닭은 이가 없기 때문에 먹이를 잘게 부수기 위해 이 기관 안에 모래나 작은 돌, 사료 찌꺼기 등을 저장해 두고 마찰로 소화를 돕는다. 따라서 근위는 본래 음식물과 소화 잔여물이 머무는 공간이며, 조리용 식재료로 사용되기 전에는 반드시 내부를 절개해 내용물을 제거하고 여러 차례 세척하는 과정을 거쳐야 한다.
그렇다면 근위 안에서 ‘진짜 분변’이 나오는 것이 가능할까. 닭의 소화 과정은 입에서 시작해 모이주머니와 위를 거쳐 근위에서 음식물이 분쇄된 뒤 소장으로 이동하는 방식이다. 이후 소장에서 소화가 끝난 찌꺼기가 대장과 총배설강을 통해 밖으로 배출되면서 비로소 분변이 된다. 다시 말해 배설물은 소화가 끝난 이후에 형성되기 때문에, 근위 안으로 다시 분변이 들어가는 구조는 아니다.
그럼에도 불구하고 소비자가 “분변 냄새가 난다”고 느끼는 상황은 실제로 발생할 수 있다. 근위 내부가 충분히 손질되지 않았을 경우 소화되지 않은 사료 찌꺼기, 섬유질, 모래, 위액과 섞인 내용물이 그대로 남아 있을 수 있는데, 이런 물질은 조리 과정에서 강한 악취를 내거나 황갈색 덩어리 형태로 굳어 외형상 분변과 유사하게 보이기도 한다. 특히 고온에서 가열될 경우 냄새가 더욱 강해져, 이를 접한 소비자가 분변으로 오인할 가능성도 적지 않다.
문제는 이것이 단순한 오해로 끝날 사안이 아니라는 점이다. 근위 내부의 내용물은 분변은 아니더라도 식용으로 적합하지 않은 소화 잔여물이다. 이를 제거하지 않은 채 조리해 제공할 경우 음식에서 심한 이취가 발생해 섭취가 어려워질 수 있고, 위생 관리가 미흡하다는 인상을 주며 식중독 등 안전 문제로도 이어질 수 있다. 식품위생 전문가들 역시 근위는 반드시 내용물을 완전히 비우고 세척해야 하며, 그렇지 않을 경우 조리 과정 전반에 대한 관리 부실로 볼 수 있다고 지적한다.
이번 논란에 대해 음식점 측은 문제가 된 물질이 닭의 변이 아니라 근위 내부가 제대로 제거되지 않은 것이라고 해명했다. 닭의 소화 구조를 고려하면 “닭똥이 그대로 들어갔다”는 표현은 과학적으로는 맞지 않는다. 다만 손질 과정이 미흡해 소화 잔여물이 남아 있었을 가능성은 충분히 있으며, 그 결과 소비자가 분변 냄새로 인식할 만큼 불쾌한 상황이 발생했을 수 있다는 점에서 책임 논란을 피하기는 어렵다.
결국 이번 사안의 핵심은 ‘닭똥이었느냐 아니냐’의 문제가 아니다. 소비자에게 제공되는 음식이 위생적으로 적절하게 손질됐는지, 식재료 전처리 과정이 기준에 맞게 이뤄졌는지가 본질적인 쟁점이다. 닭똥집에서 실제 분변이 나왔을 가능성은 극히 낮지만, 그렇다고 해서 소화 잔여물이 남아 있는 음식이 정당화될 수는 없다. 이번 논란은 외식업계의 식재료 관리와 위생 기준을 다시 한번 점검하게 만드는 계기가 되고 있다.

고객센터

채용안내

명품쇼핑몰 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’

페이지 정보

관련링크

본문