암요양병원 [남지원의 다른 시선들]AI 시대의 성범죄

페이지 정보

작성자 이민종 작성일26-01-11 00:25 조회4회 댓글0건

본문

암요양병원 일론 머스크의 xAI가 운영하는 인공지능(AI) 챗봇 그록이 최근 전 세계적 논란을 만들고 있다. 이 기능은 지난달 머스크 소유의 소셜미디어 플랫폼인 엑스에 기본으로 탑재됐는데, 엑스에 사진을 올리면서 그록 계정인 @grok을 태그하고 사진을 특정한 형태로 바꿔달라고 적기만 하면 AI로 합성된 이미지가 즉시 멘션으로 날아온다.
얼마 전 산타클로스가 하늘을 날아가는 이미지나 만들어볼까 하고 이 계정 태그를 클릭했다가 경악해서 뒤로가기 버튼을 연타한 일이 있었다. 몇초에 한 장씩 쏟아지는 합성사진의 대부분이 나체에 가까운 옷차림을 하고 성적인 자세를 한 여성의 사진이었기 때문이다. 아마도 이 중 상당수는 실제 인물일 것이며, 자신의 사진이 이와 같은 방식으로 편집되어 전 세계 사람들에게 전시되는지조차 몰랐을 것이다.
챗봇 ‘그록’ 표현의 자유 이유로규제 최소화한 ‘성 콘텐츠’ 허용클릭 한번에 딥페이크 영상 제작거대 기술자본에 책임을 물어야
그록은 경쟁사들의 AI 챗봇과 달리 ‘표현의 자유’를 내세워 규제를 최소화한다. 챗GPT, 제미나이 등의 AI 서비스는 ‘옷을 벗겨라’ ‘인물의 자세를 성적으로 바꿔라’ 등의 요청을 수행하지 않지만, 그록은 성적 콘텐츠를 허용하면서 이용자를 늘려왔다. 지난해 8월에는 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’를 내놓기도 했다.
AI로 성적 허위영상물(딥페이크)을 만드는 범죄는 원래 잦았지만 이전까지는 그나마 기술적 장벽이 있었다. 이미지를 저장하고 별도 프로그램을 이용해 합성하고 재업로드를 하는 과정을 거쳐야 했다. 이 과정이 아주 간단치는 않다 보니 텔레그램을 통해 돈을 받고 딥페이크 영상을 만들어주는 범죄도 성행했다. 의도적으로 범행 대상의 사진을 찾아 다운로드하고, 합성을 위한 애플리케이션을 찾고, 때로는 돈까지 내는 과정을 감내하는 ‘의도를 가진’ 가해자들만 이 판에 들어왔다는 얘기다. 하지만 그록이 제공하는 사진 합성은 하루 방문자 수가 1억5000만명에 달하는 거대 소셜미디어 플랫폼에서 클릭 한 번으로 접근할 수 있는 기본 기능이다. 심지어 다른 사람의 계정에 올라온 사진도 클릭 한 번으로 합성할 수 있다.
이렇게 쉽게 장난처럼 성적 허위영상물을 만들어낼 수 있게 되었을 때 가해와 피해의 문턱은 급격히 낮아질 수밖에 없다. 프랑스의 한 비영리단체가 지난해 말 일주일간 엑스에서 @grok을 태그한 게시물 5만건과 이미지 2만장을 분석했더니, 이 중 절반 이상은 속옷이나 비키니 차림이었고 대부분이 젊은 여성이었다고 한다. 이렇게 만들어진 이미지는 클릭 한 번으로 재게시돼 퍼져나간다. AI 도구를 사용하는 방식이 극도로 간편해지고 표현의 자유라는 이름으로 플랫폼이 아무 책임을 지지 않는 동안, 불과 한 달 만에 생긴 일이다. 다른 소셜미디어 플랫폼들은 이 길을 따라가지 않을까. 그러지 않을 거란 확신이 들지 않는다.
지금까지 인터넷과 기술의 발전은 수많은 혁신을 낳았지만 성폭력과 성착취를 확산시키기도 했다. 초고속인터넷망 보급과 함께 불법촬영물의 온상인 소라넷이 등장했고, 소셜미디어와 온라인 메신저는 성착취물 유포 경로가 됐다. 소형화된 카메라는 동의 없는 촬영에, 이미지 압축과 스트리밍 기술의 진화는 불법촬영물을 퍼뜨리는 데 이용됐다. AI의 발전도 같은 길을 갈까봐 두렵다. 한국은 지난해 딥페이크 사태 후 피해자의 의사에 반해 성적 허위영상물을 제작·유포·소지·시청·저장하는 행위를 모두 처벌한다. 하지만 이걸 다 잡을 수 있을지도 회의적이고 잡는다고 이미 유포된 합성사진과 영상이 삭제되지도 않는다.
아동이 성적으로 대상화된 합성사진까지 범람하자 영국과 유럽연합(EU) 등은 엑스에 조치를 요구하고 있다고 한다. 기술은 가치중립적이라고 하지만 플랫폼이 어떤 기능을 내세우느냐는 전혀 가치중립적이지 않다. 표현의 자유라는 구호 뒤에 숨어 성착취의 가능성을 방치하고 이익을 추구하는 것은 기업의 가치판단이며, 디지털 성범죄는 어떻게 보면 나쁜 개인의 일탈이라기보다는 이 판단의 결과다. 사후 처벌만으로는 확산되는 피해를 되돌릴 수도 없다. 더는 거대 기술기업에 책임을 묻는 데 사회와 세계가 실패하지 않아야 한다. 실패의 대가는 언제나 가장 취약한, 피해를 호소할 곳이 없는 사람들에게 돌아갈 수밖에 없고 이번에도 예외는 아닐 것이기 때문이다.
이재명 대통령과 함께 중국을 국빈 방문 중인 김혜경 여사가 6일(현지시간) 북경한국국제학교를 방문했다. 김혜경 여사는 재외국민 학생과 학부모, 교직원을 격려했다.
북경한국국제학교는 1998년 설립돼 이후 30여 년간 한국인으로서의 정체성과 자긍심을 함양해 왔다.
김혜경 여사는 학생들과 함께 사진을 찍은 뒤 학부모, 교직원과 간담회를 가졌다.
최석진 북경한국국제학교 학부모총회장은 “바쁘신 일정에도 불구하고 직접 찾아주신 것만으로도 아이들에게 큰 용기와 힘이 될 것”이라며 감사를 표했다.
이에 김혜경 여사는 “저 또한 두 아이의 엄마로서 자녀들의 밝은 미래를 위한 교육의 중요성을 누구보다 잘 알고 있다”며 그동안 재외국민 학생 교육을 위해 헌신해온 학부모, 교직원의 노고에 감사를 전했다.
정부가 방산·원전 등 국가 간 수주 경쟁이 심화되는 분야의 대규모 프로젝트 지원을 위해 전략 수출금융기금을 신설한다. 국가 전략 분야에 장기적으로 투자하는 ‘한국형 국부펀드’도 새로 만든다.
재정경제부는 9일 이 같은 내용을 담은 ‘2026년 경제성장전략’을 발표했다. 재경부에 따르면 올해 상반기 중 특별법을 통해 전략 수출금융기금을 신설한다. 전략 수출금융기금은 초대형·장기 계약으로 기존 정책금융만으로는 지원이 어려운 방산·원전·플랜트 분야 등에 별도로 금융을 제공하기 위한 새로운 정책금융 제도다.
이 기금은 정부 출연과 보증, 정책금융기관 출연, 수혜기업의 기여금 등으로 마련되며 대출·보증·지분투자 형태로 운용될 예정이다. 수출입은행이나 무역보험공사의 지원이 어려운 대규모·장기·저신용 프로젝트가 주요 지원 대상이다. 정부는 수출금융을 통해 발생한 수혜기업의 일부 이익을 전략수출금융기금을 통해 중소·중견기업 등에 재투자할 계획이다.
기업들의 국내 투자를 유도하기 위해 국내생산 촉진세제도 도입도 추진한다. 이재명 대통령의 핵심 대선 공약인 ‘국내생산 촉진세제’는 반도체·2차전지 등 첨단 산업에 생산세액공제를 적용하는 제도다.
대미 투자 확대로 국내 산업의 공동화 우려가 커지는 상황에서 국내 생산을 촉진해 소비를 활성화하고 일자리를 창출하는 선순환 구조를 만들겠다는 취지로 풀이된다. 다만 구체적인 지원 대상과 방식은 효과나 형평성, 재정 여건 등을 검토해 7월 중에 발표할 예정이다.
정부가 국가 전략 분야에 장기 투자하는 ‘한국형 국부펀드’를 신설한다. 초기 자본금 20조원 규모로 조성될 이 펀드는 정부 출자 등을 통해 재원을 마련할 예정이다.
현재 국내 유일의 국부펀드인 한국투자공사(KIC)는 외환보유액을 기반으로 운용되는 특성상 안전성에 치중해 수익 창출에 한계가 있다는 지적을 받아왔다. 반면 신설 국부펀드는 싱가포르의 ‘테마섹’ 모델을 참고해 유망 기업 지분 인수나 경영 참여에 나서는 ‘전략적 투자자’ 역할을 하게 된다.
투자 영역도 바이오, 부동산 등 고수익 자산군으로 대폭 확대될 전망이다. 정부는 전담 기구를 설치해 투자의 자율성과 전문성을 독립적으로 보장할 방침이며 구체적인 재원 조달 방안과 투자 가이드라인은 올 상반기 내 확정해 발표할 계획이다.
지방 투자를 유도하기 위해 지역별로 세제 지원을 차등화하는 방안도 마련한다. 조만희 재경부 세제실장은 “기본적으로 법인세 등 사업과 관련된 쪽을 들여다보고 있다”며 “어떤 세제 지원을 할지는 구체적으로 더 검토한 다음 추후 발표하겠다”고 했다.
정부는 RE100(재생에너지 100% 사용) 산업단지 내 창업 기업에 대해서는 소득세와 법인세를 10년간 100%, 이후 5년 동안에는 50% 감면하기로 했다.

고객센터

채용안내

암요양병원 [남지원의 다른 시선들]AI 시대의 성범죄

페이지 정보

관련링크

본문