인천이혼전문변호사 ‘다 가져와, 일단 써’…내 정보를 담보로 한 ‘AI 속도전’

페이지 정보

작성자 이민종 작성일26-01-14 16:47 조회0회 댓글0건

본문

인천이혼전문변호사 [주간경향] 국가인공지능전략위원회(이하 전략위)가 지난해 12월 15일 ‘대한민국 인공지능(AI) 행동계획(액션플랜)안’을 발표하고 지난 1월 4일까지 의견수렴 절차를 거쳤다. ‘AI 3대 강국 도약’을 내세운 이재명 정부가 출범한 지 약 7개월, 전략위가 활동을 시작한 지 100일 만에 AI 관련한 국가 차원의 구체적인 정책 방향이 나온 것이다.
미국과 중국을 필두로 전 세계에서 펼쳐지고 있는 ‘AI 전쟁’ 한복판에서 한국도 AI 기술개발을 위한 국가전략 마련이 필요하다는 데는 많은 이들이 공감한다. 문제는 이번 행동계획안이 AI 기술개발을 위해 규제를 푸는 쪽에만 초점 맞춰져 있다는 점이다. 개인의 정보와 권리를 보호하는 기존 법과 제도를 뒤집고 허무는 내용이 상당수 포함됐지만 그로 인한 파장, 사람에게 미치는 영향에 대해선 충분히 검토되지 않았다는 비판이 나온다.
이번 행동계획안은 AI가 일상화된 미래사회에서 국가는 무엇을 해야 하고 시민은 어떻게 살아야 할지 토대부터 논의한 결과물이 아니라 AI 기업들의 애로사항을 해결하고 기술개발의 장애 요인만 빠르게 제거하는 ‘좁은 시각’에 머물렀다는 평가도 있다. 한 전문가는 “이번 행동계획안은 (국가가) 강제로 ‘인공지능 산업 발달에 필요하다는데 다 가져와. 그냥 쓸 거야. 가져와’라고 하는 것이나 다름없어 보인다”고 했다.
188쪽 분량, 98개 정책과제를 담은 이번 행동계획안은 한국사회의 고질적 문제를 해결하기 위한 핵심 정책으로 AI 기술개발을 제시한다. 고령화와 인구절벽, 의료·돌봄 공백, 교육 혁신, 기후 변화, 수도권 중심 성장, K콘텐츠 활성화 등 복잡다단한 문제를 해결하려면 AI 기술개발이 이뤄져야 하고, 그래서 규제를 풀어야 한다는 게 행동계획안을 관통하는 논리다.
이를테면 개인정보를 AI에 활용하기 위해 규제를 과감히 정비해야 한다는 정책 권고가 있다. 현행 개인정보보호법은 가명 처리를 통해 특정 개인을 알아볼 수 없도록 했을 때 그 정보를 통계 작성이나 과학적 연구 등에 쓸 수 있도록 한다. 정보의 조합으로 정보주체가 드러나지 않도록 보호장치를 마련해둔 것이다. 전략위는 이를 AI 기술개발을 막는 장애 요인으로 봤다. 전략위는 “자율주행 학습에서는 얼굴 데이터 활용이 필요하고, 개인 맞춤형 의학을 추구하는 의료 AI 개발을 위해서는 환자의 건강·의료 데이터 활용이 필요하다”며 “그러나 가명 정보로는 학습데이터의 완전성·정확성에 기초한 기술개발에 한계가 있다”고 했다. 개별 사안마다 사용할 수 있는지 사전 심의를 받는 체제는 ‘기술발전 속도’를 따라가기 힘들다는 것이다.
그렇게 내놓은 대책이 “가명 처리하지 않은 개인정보를 안전하게 AI 학습에 활용할 수 있도록 개인정보보호법 개정을 추진하라”는 것이다. ‘안전하게’라는 단어가 들어 있기는 하지만 전체적인 취지는 AI 학습에 원본 데이터를 공유할 수 있다는 것이다. 이지은 참여연대 간사는 “원본 데이터에는 실명뿐 아니라 전화번호, 주소, 얼굴·지문 등 생체 인식 정보도 포함되고, 여러 파편적인 정보를 조합하면 ‘나’에 대한 정보가 될 수 있다”며 “가명 처리조차 하지 않고 원본으로 쓰겠다는 것은 ‘나’ 자신을 송두리째 AI 학습에 내놓으라는 말과 같다”고 지적했다. 이 간사는 “인간의 존엄성과 프라이버시가 있는데 과연 AI 기술 성능 개선을 위해 그런 정보를 써야 하는지 의문이 제기되는 것”이라고 했다.
행동계획안엔 AI 학습을 위해 여러 기관의 의료데이터를 확보하고, 공공데이터와 민간 병·의원의 데이터를 결합해 활용하는 방안도 담겼다. 전략위는 “대량, 양질의 보건 의료 전 과정을 포함하는 시계열 진료데이터와 공공데이터, 개인 유래 건강 데이터의 결합이 필수적”이라고 했다. 김진환 서울대 보건환경연구소 교수는 “건강보험 데이터 공개도 오랫동안 반대하며 싸우고 있는데 (이번 행동계획안에는) ‘그냥 데이터를 풀어줘라. 일단 써라’ 식으로 돼 있어 걱정스럽다”며 “민간 병원의 환자 데이터를 연결했을 때 발생할 수 있는 문제나 국가의 적절한 관리책임이 충분하지 않은 상태에서 쓰라는 것은 큰 문제”라고 했다. 김 교수는 차별도 발생할 여지가 있다고 짚었다. 김 교수는 “예를 들어 의사가 환자가 얼마나 위험한지, 환자를 중환자실에 보내야 할 것인지, 퇴원을 시켜도 되는지가 궁금한데 AI 학습 과정에서 특정 인구집단에 대해 위험도를 낮게 평가한다거나, 높게 평가하는 식으로 오류가 발생하는 문제가 제기될 수 있다”며 “AI가 의사결정에 영향을 줄 때 발생하는 문제인데, 논의가 제대로 되지 않은 상황”이라고 했다.
이번 행동계획안이 AI 기술개발에만 집중했다는 점은 이 대통령의 대선 공약인 ‘AI 기본사회’ 추진방안에서도 드러난다. 행동계획안은 AI 기본사회에 대해 “모두가 AI의 혜택을 누리고 기술 발전이 곧 포용적 사회를 향한 발전의 동력이 되는 것”이라고 설명한다. AI 기본사회 추진계획을 수립하는 주관부서는 과학기술정보통신부로 돼 있다. 과기부가 행정안전부, 보건복지부, 고용노동부, 교육부, 성평등가족부, 기후에너지부 등과 협력해 만들라는 것이다. 김진석 서울여대 사회복지학과 교수는 “기본사회 자체가 생소한 개념인 데다 노동, 복지, 경제, 문화, 기후환경 등을 아우르는 거시적인 사회정책은 전체 부처를 총괄하는 국무총리실이나 대통령실이 해야 한다”며 “과기부가 주무부처가 되는 순간 기술만 남을 것”이라고 했다.
행동계획안은 돌봄에도 AI가 필요하다면서, 피지컬 AI를 활용한 지능형 돌봄 인프라가 돌봄 노동 과부하를 완화하고 고령층의 자율, 안정성을 높이는 데 핵심 기반이 될 것이라고 했다. AI의 정밀 예측과 선제적 개입으로 자살, 고립, 정신건강 문제도 예방할 수 있다는 내용도 있다. 김 교수는 “우리 사회가 갖고 있는 돌봄의 문제가 AI가 오지 않아서 생긴 문제는 아니지 않느냐”고 했다. 김 교수는 “돌봄 노동에 대한 사회적 인정의 부재, 공공의 역할 부족, 젠더적 맥락에서의 불평등 등 우리가 지난 수십 년 동안 알고 있는 문제점과 해법이 있는데, AI가 만병통치약처럼 이야기되면서 오히려 사회적 자원 분배에 대한 논의가 희미해질까 우려스럽다”고 했다.
이번 행동계획안에는 문화 콘텐츠와 미디어 산업에 영향을 줄 수 있는 내용도 포함됐다. AI가 책, 언론 기사, 논문, 예술작품 등 저작물을 마음대로 학습할 수 있는지, 저작권 침해가 아닌지는 계속 논란이 돼왔다. 지난해 챗GPT를 통해 일명 ‘지브리풍 이미지’ 만들기가 유행을 끈 뒤 일본 애니메이션 제작사 스튜디오 지브리가 소속된 기구가 챗GPT 개발사 오픈AI에 무단학습 중지를 요구한 게 그 예다. 일본 요미우리신문도 기사 무단 사용을 이유로 AI 기업 퍼플렉시티에 손해배상 소송을 걸었다.
한국은 헌법에 “저작자·발명가·과학기술자와 예술가의 권리는 법률로써 보호한다”(제22조 제2항)라고 명시돼 있다. 저작권법은 저작자의 정당한 이익을 부당하게 해치지 않는 경우에만 저작물을 이용할 수 있다(공정이용)고 규정한다. 그래서 저작물을 사용하려면 저작자 동의가 필요하고 비용을 지불해야 한다. 창작물을 만들기까지 들인 노력을 존중하고 보호하는 게 그 취지다. AI의 저작물 무단 학습이 저작권 침해인지에 대해서는 아직 국내외 모두 법적으로 정리돼 있지 않다. 미국 일부 주 법원이 저작권 침해가 아니라고 판단한 적이 있지만, 최근 독일에서는 저작권 침해가 인정된 판결도 나왔다.
그런데 전략위는 여기서도 저작권보다는 AI 학습의 필요성에 방점을 찍었다. 전략위는 “구체적 기준이 모호해 법적 불확실성이 존재하며 이로 인해 저작물 활용 시마다 개별 저작권자와의 동의가 필요해 AI 기업의 고품질 데이터 확보에 비용과 시간 부담이 크다”고 했다. 그러면서 “기업이 학습 목적으로 법적 불확실성 없이 저작물을 활용할 수 있도록 하는 내용의 저작권법 개정안을 마련한다”고 권고했다. ‘창작자의 권리를 존중한다’는 단서가 붙었지만 사실상 AI 학습을 위한 저작물 개방이라는 해석이 나온다.
최승재 세종대 법학과 교수는 “행동계획안을 보면 ‘인공지능을 학습시켜야 하는데 돈을 줄 생각은 없어. 왜냐하면 인공지능 발전은 누구보다 중요한 거니까’라는 느낌인데, 이것은 정말 밸런스(균형)를 잃은 것”이라며 “인공지능 산업이 중요하고 발전시켜야 하지만 국가 전체 산업의 일부이고, 다른 산업에 추동력을 주기 위한 보조적 수단으로 쓰이는 부분도 있는데 (행동계획안은) 오로지 AI만 생각한 것 같다”고 했다. 최 교수는 “콘텐츠 산업의 경우 다양한 콘텐츠가 나오는 원천은 인공지능 학습을 강제로 시켜서가 아닌데, 우리가 이 행동계획안을 통해 지향하려고 하는 목표가 뭔지 의문”이라고 했다. 한국신문협회는 지난 1월 2일 입장을 내고 “AI의 저작물 학습에 면책을 부여하면 AI 서비스가 원본 저작물의 시장을 직접적으로 대체하게 된다”며 “세계 어디에도 AI 학습 면책을 법제화한 나라는 없다”고 밝혔다.
행동계획안을 검토한 장여경 정보인권연구소 상임이사는 “아무리 AI 행동계획이라고는 하지만 사회적으로 일어나는 변화를 종합적으로 검토하고, 특히 사람에게 미치는 영향과 대책을 포함해야 하는데 산업을 어떻게 육성할 것이냐, AI와 로봇을 어떻게 (사회에) 편입시킬 것이냐는 구상만 한 것 같다”고 했다. 장 이사는 “예를 들면 AI로 인해서 일자리가 대체되는 게 기정사실인 것처럼 이야기하는데 노동자를 어떻게 보호할지는 제대로 나와 있지 않다”며 “AI가 일자리에 미치는 위협은 현실화하고 있기 때문에 이런 국정 기조가 바뀌지 않으면 큰 재앙이 올 수 있다는 생각이 든다”고 했다.
사회적 합의가 필요한 국가 차원의 AI 전략이 지나치게 빠르게 결정, 추진된다는 우려도 크다. AI 학습에 개인정보를 활용하는 방안은 당장 올해 1분기 법 개정 추진, 2분기 하위법령안 마련을 권고했다. AI 학습을 위한 다기관 의료데이터 확보와 공공데이터·민간 의료데이터 결합 활용 방안은 올해 2분기까지, AI 복지·돌봄 혁신 로드맵은 올해 3분기까지 수립하는 식이다.
활동가, 법조인, 언론인 등 9명과 함께 행동계획안에 대한 의견서를 내는 데 참여한 전치형 KAIST 과학기술정책대학원 교수는 행동계획안에서 AI에 관한 위기의식과 조급함이 느껴졌다고 했다. 동시에 행동계획안에 담긴 AI 기술에 대한 인식은 협소하고 추상적으로 느껴졌다고 했다. 전 교수는 “행동계획안이 기술개발과 산업 발전에 집중하다 보니 오히려 과거 산업화 시대의 따라잡기 전략과 유사하게 느껴진다”며 “국제적으로 옷핀 수요가 급증하고 가격이 급등하니 우리도 하루빨리 전국에 옷핀 제조공장을 짓고 옷핀 만드는 기능공을 양성해 세계 3위 수준으로 옷핀을 생산하고 막대한 외화를 벌어들이려는 전략과 크게 다르지 않은 것”이라고 했다.
전 교수는 “우리 의견서가 다루는 AI는 우리가 생각하고, 표현하고, 토론하고, 판단하는 방식을 바꾸는 기술, 즉 우리가 공동체를 조직하고 국가를 운영하는 방식을 바꿀 수 있는 기술”이라며 “AI가 옷핀 제조기술과 근본적으로 다르다는 게 바로 이런 의미”라고 했다. 그는 “AI를 경제발전의 수단이 아니라 보다 근본적이고 급진적인 변화를 가져올 수 있는 기술로 대할 것을 제안한다”고 했다.
“AI 시장 성장의 과실을 함께 나눌 기회.” 행동계획안에 등장하는 문장이다. 과연 그렇게 될까. 최승재 교수는 “개인정보가 있으면 인공지능 플랫폼 기업에는 도움이 된다. 목표는 ‘나보다 나를 잘 아는 인공지능을 만들고 싶다는 것’이다. 기업들은 원하겠지만 사회에, 우리에게는 무슨 도움이 되느냐”고 반문했다. 장여경 이사는 “AI 시대를 정신없이 달려가다 보면 민주주의라는 중요한 가치를 잃게 되고, 시민을 소외시킨 채로 일부 기업들에만 부를 집중시키게 될 것”이라고 했다.
“나는 ‘설마 이게 진짜일 리 없다’고 생각했다. 그래서 내 어릴 적 사진으로 테스트를 해봤다. 진짜였다. 정말 역겹다.”
영국의 한 프리랜서 저널리스트는 지난 2일 엑스(X)에 이 같은 글과 함께 이미지를 공유했습니다. 그가 올린 이미지에는 엑스 내에서 제공하는 인공지능(AI) 서비스 ‘그록(Grok)’이 “그녀의 옷을 비키니로 바꿔 달라”는 요청에 따라 소녀를 비키니 차림으로 바꾼 결과물이 담겨 있었습니다. 원피스와 가디건을 입고 찍은 유년시절 사진이 감쪽같이 바뀐 겁니다.
그록의 성착취 이미지 생성·유포를 둘러싼 논란이 이어지고 있습니다. AI 기술 발전의 이면에 가려진 안전장치 부재와 책임 공백이 수면 위로 떠오른 셈입니다.
한때 ‘트위터’로 불리던 SNS 엑스와 생성형 AI 챗봇 그록은 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 AI 기업 ‘xAI’에서 운영합니다. 엑스 서비스 내에서 그록을 이용할 수 있습니다.
지난달 말 그록에 ‘이미지 편집’ 기능이 추가되면서 성적 허위 이미지(딥페이크)를 손쉽게 만들 수 있다는 문제 제기가 쏟아졌습니다. 이 기능은 엑스 이용자가 이미지가 포함된 글에 댓글로 그록을 태그해 수정을 요청하면, 원본 당사자의 동의 없이 그록이 이미지를 생성해 올려주는 방식입니다.
예를 들어 누군가 내가 올린 사진을 마음대로 속옷 차림으로 바꿀 수 있고, 이를 다른 이용자들도 볼 수 있다는 거죠. 그록은 인물을 완전한 나체로 바꾸는 건 금지하지만, 타 서비스보다 검열이 느슨한 것으로 알려져 있습니다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난해 12월25일부터 이달 1일 사이 그록이 생성한 무작위 이미지 20만개를 분석해보니 53%는 속옷, 비키니 등 최소한의 옷만 입은 인물을 담고 있었습니다. 이 가운데 여성으로 보이는 인물 비중은 81%에 달했습니다. 전체 이미지의 2%는 18세 이하로 보이는 인물이었습니다. 그록이 생성한 이미지 중에는 나치와 이슬람 극단주의 무장단체 이슬람국가(ISIS) 선전물도 있었습니다.
그록 측은 지난 2일 이용자가 문제를 제기한 글에 “보호장치에 결함이 있음을 확인하고 긴급히 바로잡고 있다. 아동 성착취물은 불법이며 금지돼 있다”고 밝혔습니다. 이튿날에는 머스크가 다른 게시물에 댓글을 달아 “그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드했을 때와 동일한 제재를 받게 될 것”이라고 했습니다. 엑스 측은 불법 콘텐츠에 대해 콘텐츠 삭제와 계정 영구정지 조치를 하고 필요한 경우 사법 당국과도 협력한다고 알렸습니다.
국내에서도 AI를 이용해 음란물을 제작·유포할 경우 성폭력처벌법, 청소년성보호법 등으로 처벌받을 수 있습니다. 다만 지난해 AI로 만든 노출 사진은 피해자가 특정되지 않는 한 성폭력처벌법상 허위영상물 유포죄로 처벌할 수 없다는 법원 판결이 나오면서 입법 보완이 필요하다는 지적이 나오기도 했습니다.
머스크와 xAI가 자신들의 책임은 축소하고 이용자들에게 책임을 돌리고 있다는 지적도 나옵니다. xAI는 ‘사용 제한 정책’을 통해 “인물을 음란한 방식으로 묘사하는 행위”와 “아동의 성적 대상화 또는 착취”를 금지하고 있습니다. 하지만 xAI는 그동안 검열이 낮다는 점을 홍보하며 이용자들을 끌어모았습니다. 최근 엑스의 이용자 참여도가 사상 최고 수준을 기록했다고 하네요.
현재 유럽연합(EU), 영국, 인도, 말레이시아 당국 등이 그록의 성착취 이미지 생성 문제를 들여다보고 있습니다.
미국 매체 악시오스는 이번 논란에 대해 “챗봇의 결과물로 인한 피해를 과연 누가 책임을 지느냐는 문제를 드러냈다”고 평가했습니다. CNN은 “사회에서 가장 취약한 이들을 보호하기 위한 충분한 안전장치 없이 결합된 AI와 SNS가 얼마나 위험할 수 있는지 보여준다”고 했습니다.

고객센터

채용안내

인천이혼전문변호사 ‘다 가져와, 일단 써’…내 정보를 담보로 한 ‘AI 속도전’

페이지 정보

관련링크

본문