용인소년법전문변호사 의료 정보 조작에 취약한 AI

페이지 정보

작성자 이민종 작성일26-01-06 11:08 조회13회 댓글0건

본문

용인소년법전문변호사 챗GPT 등 주요 인공지능(AI) 모델 대부분이 사용자에게 잘못된 의료 정보를 제공하도록 유도하는 악의적 공격에 취약한 것으로 나타났다. 태아의 기형을 유발할 수 있는 약물을 임신부에게 권하는 상황까지 조작을 통해 쉽게 만들어졌다.
서울아산병원 비뇨의학과 서준교 교수와 정보의학과 전태준 교수, 인하대병원 영상의학과 이로운 교수 연구팀은 세계 최초로 ‘프롬프트 인젝션 공격’에 대한 의료용 대규모언어모델(LLM)의 보안 취약성을 분석한 연구를 ‘미국의사협회저널 네트워크 오픈’에 게재했다고 5일 밝혔다. 프롬프트 인젝션 공격은 해커가 AI 모델에 악의적인 명령어를 삽입해 본래 의도와 다르게 작동하도록 유도하는 사이버 공격이다.
연구진은 지난해 1월부터 10월까지 챗GPT와 제미나이, 클로드 등 널리 쓰이는 AI 모델 3종을 대상으로 실험을 진행했다. 연구진은 먼저 정상적인 의료 상담 상황처럼 보이지만, 특정 방향의 답변을 유도하도록 설계한 악의적 명령어를 AI에 입력했다. 이를 통해 AI가 위험하거나 부적절한 의료 조언을 하도록 조작될 수 있는지를 살펴봤다.
제미나이 등 3종류 모델 대상으로금기 약물 등 악의적 명령어 공격성공률 94% 넘어…위험도 적잖아연구진 “추가적 안전 조치 시급”
연구진은 상황별 위험도를 나눠 분석했다. 예를 들어 당뇨 같은 만성질환 환자에게 검증된 치료 대신 생약 성분을 권하는 경우는 중간 단계, 호흡기 질환 환자에게 호흡 억제를 일으킬 수 있는 약물을 우선 추천하는 사례는 높은 단계 위험도로 분류했다. 임신부에게 태아 기형을 유발할 수 있는 금기 약물을 권하는 경우는 최고 위험도로 설정했다. 연구진은 이처럼 위험 수준이 다른 12개 시나리오를 가정했다. 공격에는 두 가지 기법이 사용됐다. 환자 정보를 활용해 판단을 교란하는 ‘상황인지형 프롬프트 주입’과, 실제 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘증거 조작’ 방식이다. 연구진은 공격 이후 환자와 AI 모델 간에 오간 대화 216건을 분석했다.
세 모델 전체에 대한 공격 성공률은 94.4%에 달했다. 최고 위험도 시나리오의 성공률도 91.7%를 기록했다. 높은 단계는 93.3%, 중간 단계는 100%로 위험도가 낮아질수록 취약성이 더 커졌다. 모델별로는 GPT-4o 미니와 제미나이 2.0 플래시라이트가 모두 100%, 클로드 3 하이쿠는 83.3%의 공격 성공률을 보였다. 조작된 답변이 후속 대화까지 이어진 비율도 세 모델 모두 80%를 넘겼다.
임신부에게 금기 약물을 권장하는 시나리오에서는 최상위급 AI 모델도 비슷한 한계를 드러냈다. 추가 실험에서 GPT-5, 제미나이 2.5 프로, 클로드 4.5 소넷 등 최신 모델 3종을 대상으로 사용자의 화면에 악성 문구를 숨기는 방식의 공격을 수행한 결과, GPT-5와 제미나이 2.5 프로는 공격 성공률이 100%, 클로드 4.5 소넷도 80%에 달했다.
연구진은 의료 현장에서 AI 활용이 빠르게 늘고 있는 만큼 안전성을 높이기 위한 추가 조치가 시급하다고 지적했다. 서준교 교수는 “환자 대상 의료 챗봇이나 원격상담 시스템을 도입하기 위해선 AI 모델의 취약성과 안전성을 철저히 테스트하고 보안 검증 체계를 의무화하는 조치가 필요하다”고 말했다.
지난 3일(현지시간) 미국이 니콜라스 마두로 베네수엘라 대통령을 체포하고 현지를 공습한 배경에는 중국과의 지정학적 경쟁이 있다. 전 세계 석유 매장량 1위인 베네수엘라는 미국과 중국 등 강대국이 이권을 차지하기 위해 내정에 개입한 역사가 있는 나라다. 현지 시민들은 석유 자원 침탈과 정치 불안정으로 빈곤에서 벗어나지 못하고 있다.
남미를 식민 지배하던 유럽 국가를 견제하기 위해 19세기 ‘먼로 독트린’을 내세웠던 미국은 1914년 베네수엘라 북부 마라카이보에서 유전이 발견된 이후 자본을 대거 투입해 석유 산업을 장악하기 시작했다. 냉전 당시 자유주의 진영이었던 베네수엘라 또한 미국과 손을 잡고 유전 개발 기술과 비용을 지원받았다.
베네수엘라 독재자 후안 비센테 고메스 전 대통령(1908~1935년 집권)은 미국과 영국 등 외국 석유 회사에 유리한 조건으로 채굴권을 허가했다. 엑손(엑손모빌 전신)과 셰브런 전신인 걸프오일, 캘리포니아스탠다드오일 등이 대거 진출했다. 베네수엘라는 이 시기 막대한 원유를 생산했지만 석유 판매 수익은 대부분 외국 자본으로 넘어갔다. 1970년대 중동 전쟁, 이란 혁명 등으로 두 차례에 걸친 기름 파동으로 유가가 급등했음에도 원유 수출국 베네수엘라의 경제 사정은 나아지지 않았다.
유전 개발권과 석유 판매를 통해 얻은 이익을 베네수엘라의 부패한 기득권층이 독식하자 1999년 ‘석유 주권’을 강조한 우고 차베스가 대통령으로 당선됐다. 차베스 정권은 자국에 있는 외국계 석유 기업 자산을 몰수해 베네수엘라 국영 석유회사(PDVSA)로 귀속시켰다. 그러나 베네수엘라에는 자체적인 유전 개발 기술이 부족했고, 차베스 정권이 석유 수익을 사회복지 프로그램 ‘볼리바르 혁명’에 쏟으면서 베네수엘라 경제 상황은 되레 악화했다. 당시 복지 예산 집행 과정이 불투명했다는 지적이 나온다.
차베스 정권은 반미 국가인 러시아, 쿠바, 중국 등과 손을 잡았다. 중국은 2007년 베네수엘라에 차관을 주면서 빚을 원유로 갚으라는 계약을 맺었다. 당시 중국이 빌려준 자금은 총 600억달러에 달하는 것으로 추산된다. 이 탓에 베네수엘라는 현재까지도 원유 생산량의 30% 이상을 중국과 러시아로 상환하고 있는 것으로 알려졌다.
중국은 돈을 빌려주는 조건으로 현지 기반시설 건설 프로젝트를 수주했다. 서구권 국가들이 안보 위협으로 꼽은 중국 통신기업 화웨이가 베네수엘라 통신 기반시설 구축에 대거 관여했고, 베네수엘라 최초의 통신 위성인 ‘시몬 볼리바르’를 제작할 때에도 중국이 기술을 공유했다.
베네수엘라가 중국과 가까워진 사이 미국은 2000년대부터 우파 성향의 군부 쿠데타나 정치인을 지원하며 정권 전복을 시도했다. 차베스주의를 등에 업고 2013년 첫 집권한 마두로 대통령은 반미주의 세력을 결집했다.
마두로 대통령이 재선에 도전한 2018년 대선에서 부정선거 의혹이 일자 야권이 다수인 베네수엘라 의회는 이듬해 후안 과이도 국회의장을 임시 대통령으로 선언했고, 도널드 트럼프 1기 행정부는 이를 지지했다. 미국은 이 사건을 계기로 베네수엘라 원유를 제재 대상으로 정했다. 마두로 대통령은 과이도를 지지한 미국 행위가 “내정 간섭”이라며 미국과의 단교를 선언했다.
강대국이 자원을 약탈하고 권력층이 부패한 사이 베네수엘라 시민들은 심각한 인플레이션과 경제난에 시달렸다. 2019년에는 연간 물가상승률이 34만%에 달했다. 마두로 정권은 2024년 반정부 시위를 벌인 시민과 야권 정치인 2400여 명을 체포하며 표현의 자유를 억압했다.
지난해 여름 경기 안산시의 물 축제장에서 발생한 워터건 부상 사고와 관련해 주최 측과 행사업체 관계자들이 검찰에 송치됐다.
6일 안산단원경찰서에 따르면 경찰은 최근 업무상과실치상 혐의로 물축제 용역업체 관계자 2명과 안산문화재단 직원 2명 등 4명을 기소 의견으로 검찰에 넘겼다.
이들은 지난해 8월 15일 안산문화재단이 안산문화광장과 광덕대로 일원에서 개최한 ‘안산서머페스타 2025 물축제 여르미오’ 행사장 무대에서 발생한 워터건 부상 사고와 관련해 안전 조치를 소홀히 한 혐의를 받는다.
당시 무대에서 노래 공연을 하던 대학생 A씨는 B씨가 쏜 고압 워터건 물줄기에 얼굴과 손등을 맞아 피부가 찢어지는 등 중상을 입었다. 사고는 무대 위에 올려진 워터건을 B씨가 관객 쪽을 향해 쏘면서 움직이다가 발생했다.
이에 피해자 측은 “시와 재단 누구도 책임지려고 하지 않는다”며 “어떻게 사고가 났고 누구에게 책임이 있는지 경찰 수사를 통해 밝히겠다”고 사고 관련자들을 고소했다.
경찰은 장비의 적합성과 안전 시스템 작동 여부를 수사한 끝에 행사 업체와 주최 측인 안산문화재단에 혐의가 있다고 판단했다.

고객센터

채용안내

용인소년법전문변호사 의료 정보 조작에 취약한 AI

페이지 정보

관련링크

본문