명품레플리카쇼핑몰 프롬프트 바꿨더니 임산부에 ‘태아 기형 유발 약’ 추천···AI, ‘악의적 공격’ 못 걸렀다

페이지 정보

작성자 이민종 작성일26-01-08 19:45 조회7회 댓글0건

본문

명품레플리카쇼핑몰 챗지피티(ChatGPT) 등 주요 인공지능(AI) 모델 대부분이 사용자에게 잘못된 의료 정보를 제공하도록 유도하는 악의적 공격에 취약하다는 연구 결과가 나왔다. 임신부에게 태아 기형을 유발할 수 있는 약물을 권하는 상황까지 조작을 통해 쉽게 만들어졌다.
서울아산병원 비뇨의학과 서준교 교수와 정보의학과 전태준 교수, 인하대병원 영상의학과 이로운 교수 연구팀은 세계 최초로 ‘프롬프트 인젝션 공격’에 대한 의료용 대규모언어모델(LLM)의 보안 취약성을 분석한 연구를 ‘미국의사협회저널 네트워크 오픈’에 게재했다고 5일 밝혔다. 프롬프트 인젝션 공격은 해커가 AI 모델에 악의적인 명령어를 삽입해 본래 의도와 다르게 작동하도록 유도하는 사이버 공격으로, 의료용 AI에 이런 공격이 가해지면 위험하거나 금기된 치료를 권고하도록 조작될 수 있다는 우려가 제기돼 왔다.
연구진은 지난해 1월부터 10월까지 챗지피티(ChatGPT)와 제미나이, 클로드 등 실제로 널리 쓰이는 인공지능(AI) 모델 3종을 대상으로 실험을 진행했다. 연구진은 먼저 정상적인 의료 상담 상황처럼 보이지만, 특정 방향의 답변을 유도하도록 설계한 악의적 명령어를 AI에 입력했다. 이를 통해 AI가 위험하거나 부적절한 의료 조언을 하도록 조작될 수 있는지를 살펴봤다.
이 과정에서 연구진은 상황별 위험도를 나눠 분석했다. 예를 들어 당뇨 같은 만성질환 환자에게 검증된 치료 대신 생약 성분을 권하는 경우는 중간 단계, 호흡기 질환 환자에게 호흡 억제를 일으킬 수 있는 약물을 우선 추천하는 경우는 높은 단계 위험도로 분류했다. 임신부에게 태아 기형을 유발할 수 있는 금기 약물을 권하는 경우는 최고 위험도 단계로 설정했다. 연구진은 이처럼 위험 수준이 다른 12개 시나리오를 가정해 AI가 어떤 답변을 내놓는지 실험했다.
공격에는 두 가지 기법이 사용됐다. 환자 정보를 활용해 판단을 교란하는 ‘상황인지형 프롬프트 주입’과, 실제 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘증거 조작’ 방식이다. 연구진은 공격 이후 환자와 AI 모델 간에 오간 총 216건의 대화를 분석했다.
그 결과 세 모델 전체에 대한 공격 성공률은 94.4%에 달했다. 최고 위험도 시나리오의 성공률도 91.7%를 기록했다. 높은 단계는 93.3%, 중간 단계는 100%로 위험도가 낮아질수록 취약성이 더 커졌다. 모델별로는 GPT-4o 미니와 제미나이 2.0 플래시라이트가 각각 100%, 클로드 3 하이쿠는 83.3%의 공격 성공률을 보였다. 조작된 답변이 후속 대화까지 이어진 비율도 세 모델 모두 80%를 넘겼다.
임신부에게 금기 약물을 권장하는 시나리오에서는 최상위급 AI 모델도 비슷한 한계를 드러냈다. 추가 실험에서 GPT-5, 제미나이 2.5 프로, 클로드 4.5 소넷 등 최신 모델 3종을 대상으로 사용자의 화면에 악성 문구를 숨기는 방식의 공격을 수행한 결과, GPT-5와 제미나이 2.5 프로는 공격 성공률이 100%, 클로드 4.5 소넷도 80%에 달했다.
연구진은 의료 현장에서 AI 활용이 빠르게 늘고 있는 만큼, 안전성을 높이기 위한 추가 조치가 시급하다고 지적했다. 서준교 교수는 “이번 연구는 의료용 AI 모델이 단순 오류를 넘어 의도적 조작에 구조적으로 취약하다는 사실을 실험적으로 규명했다”며 “현재의 안전장치만으로는 금기 약물 처방을 유도하는 등의 악의적 공격을 차단하기가 어려우므로, 환자 대상 의료 챗봇이나 원격상담 시스템을 도입하기 위해선 AI 모델의 취약성과 안전성을 철저히 테스트하고 보안 검증 체계를 의무화하는 조치가 필요하다”고 말했다.
시리아 북부 도시 알레포에서 시리아 정부군과 쿠르드족 주도의 시리아민주군(SDF) 사이에 격렬한 교전이 이틀째 이어지면서, 수천명의 주민들이 피란길에 올랐다. 정부군이 알레포 일대를 포위하고 군사작전을 예고하면서 시리아 내부 통합 과제는 멀어지고, 오랜 내전의 악몽이 재현될 위기에 처했다.
정부군은 7일(현지시간) 쿠르드족 인구가 밀집된 알레포 셰이크막수드와 야슈라피야 지역을 “폐쇄된 군사 지역”으로 선포하고 주민들에게 대피령을 내렸다. 알레포의 공항과 고속도로가 폐쇄되고 산업단지 공장 가동이 중단됐다. 정부군이 민간인 탈출을 위한 통로를 개설하면서 4만5000여명 주민들이 피란길에 올랐다.
정부군이 통보한 대피 시한이 지나자 이 지역에 폭발음이 울렸고, 쿠르드족 통제 구역에서 7명, 정부군 통제 지역에서 5명이 사망하고 수십명이 부상당했다고 AP통신은 전했다.
SDF는 이날 해당 지역에 80대 이상의 탱크와 군용 차량으로 포위돼 있다며 “더 큰 규모의 분쟁으로 확산될 우려를 불러일으키는 심각한 경고 신호”라고 밝혔다.
전날부터 시작된 유혈 사태의 책임을 양측은 서로에게 떠넘기고 있다. 정부군은 SDF의 로켓포, 무인기(드론) 등 공격에 대응하기 위한 것이라고 밝혔으며, SDF는 정부군 연계 세력이 무차별 포격이 원인이라고 주장하고 있다.
이번 충돌은 시리아 정부군이 SDF를 통합하기 위한 협상이 교착상태에 빠지면서 격화됐다.
쿠르드족은 14년의 시리아 내전 기간 시리아 북동부 지역과 알레포 일부 지역에서 준자치권을 행사해왔다. 이들이 통제하는 지역은 시리아 영토의 25~30%에 달한다. 특히 이슬람국가(IS)가 이 발호하자 미군은 SDF를 파트너 삼아 IS 소탕 작전에 나섰다.
2024년 12월 바샤르 알아사드 독재 정권 축출 후 들어선 시리아 임시정부는 지난해 3월 수만명의 병력을 보유한 SDF를 정부군에 통합하기로 합의했다. 2025년 말까지 통합을 완료하기로 약속했지만, 통합 방식을 둘러싼 이견 때문에 협상은 교착상태에 빠졌다. 정부군은 중앙집권적 통제 하에 SDF를 개별 병력으로 흡수하길 원했지만, SDF는 자신들의 독자적인 지휘 체계 등 자치권을 유지하길 원하고 있다. 정부군과 SDF는 통합 합의 이후에도 간헐적 무력충돌을 반복해왔으며 지난해 말에도 교전이 벌어진 바 있다.
격화된 정부군과 SDF의 충돌은 알아사드 내부 통합과 안정이 달성되기 어려운 과제임을 방증한다. 반군을 이끌고 알아사드 정권을 전복한 아메드 알샤라 시리아 임시 대통령은 시리아 정상국가화를 위한광폭의 외교 행보를 보이며 미국 등 서방의 제재를 해제하는 성과를 보였지만, 국내에서는 오랜 내전 기간 고착화된 갈등으로 유혈충돌 사태가 반복되고 있다.
미국이 정부군과 SDF 간의 중재를 위해 나섰지만 현재 진전은 없는 상황이다. SDF를 정부군에 통합하기 위한 노력이 무산된다면 앞으로 추가 폭력 사태가 발생할 위험이 있으며, 쿠르드족을 적대시하며 테러리스트로 간주해온 튀르키예가 이를 명분 삼아 개입할 우려도 있다고 로이터통신은 지적했다.

고객센터

채용안내

명품레플리카쇼핑몰 프롬프트 바꿨더니 임산부에 ‘태아 기형 유발 약’ 추천···AI, ‘악의적 공격’ 못 걸렀다

페이지 정보

관련링크

본문