Company

Insights Insights

전문가들이 분석한 최신 업계 동향과 인사이트를 확인하세요. 전문가들이 분석한 최신 업계 동향과
인사이트를 확인하세요.

나날이 발전하는 딥페이크 기술, 법률과 제도로 범죄 악용을 막을 수 있을까?

18 October 2024

충격적인 뉴스들이 지면을 뒤덮은 가운데 딥페이크를 이용한 성범죄를 막기 위한 '딥페이크 성범죄 방지법'이 26일 국회를 통과했습니다. 이날 국회 본회의에서는 딥페이크 범죄에 대한 국가의 책임을 강화하고, 단순 시청 행위도 범죄에 포함하며, 피해자 회복 조치를 강화하는 등의 내용을 담은 개정안 세 건이 모두 통과되었는데요.

이날 통과된 딥페이크 관련 법안은 성폭력범죄처벌특례법(성폭력처벌법), 아동·청소년 성보호에 관한 법(청소년보호법), 성폭력방지 및 피해자 보호 등에 관한 법률(성폭력방지법) 등 총 3개 법 개정안입니다. 지난 8월 딥페이크를 이용한 성 착취물 범죄가 광범위하게 퍼져 있고, 특히 가해자와 피의자 상당수가 10대인 것으로 드러나 큰 충격을 준 가운데, 이번에 개정된 법이 딥페이크 이용 성범죄를 근절할 수 있을지 귀추가 주목되는데요.


딥페이크, 반포 목적 없이 제작만으로 법적 처벌 가능

기존 법에서 허위 영상물을 "반포할 목적"으로 편집·합성 또는 가공한 자를 처벌한다는 조항에서 "반포할 목적"이라는 단서 조항이 빠져, 당사자의 의사에 반해 불법 합성물을 제작할 경우 목적과 관계없이 처벌할 수 있게 되었습니다. 

또한 비공개 수사 항목을 신설해 긴급을 요할 때는 경찰이 상급 경찰관서의 승인 없이 비공개 수사를 할 수 있도록 했습니다. 하지만 경찰이 인터넷 서비스 제공자에게 직접 아동·청소년 성 착취물의 삭제와 차단을 요청하도록 한 법안은 법제사법위원회를 통과하지 못했습니다. 

현재 경찰이 인터넷 서비스 제공자에게 아동·청소년 성착취물의 삭제를 요청하려면 방송통신심의위원회에 삭제조치에 나설 것을 요청해야 하기 때문에 신속 대응이라는 측면에서는 문제가 발생할 수 있는거죠.


​빠르게 변화하고 있는 불법합성물에 대한 사회적 인식

한편으로 이번 법안 입법 과정에서 지난 2020년에 있었던 <N번방 방지법> 논의 과정에서 나왔던 법제사법위원회 회의록이 다시 이슈가 되기도 했습니다. 당시 김도읍, 정점식 의원은 불법합성물 처벌조항 신설 자체에 회의적인 의견을 피력하기도 했습니다. 

"굳이 (불법합성물 범죄를 지칭하는) 새로운 구성요건을 만들 필요가 있나. 그냥 성적 수치심을 유발하면 음란물로…"(김도읍, 당시 미래한국당 의원), "자기만족을 위해 이런 영상을 가지고 나 혼자 즐긴다 이것까지 (처벌) 갈 거냐"(정점식, 당시 미래한국당 의원), "자기는 예술작품이라고 만들 수도 있거든요"(김인겸, 당시 법원행정처 차장), "청소년들이나 자라나는 사람들은 자기 컴퓨터에서 그런 짓 자주 하거든요… 그것까지 처벌하겠다고 하는 건 너무 과한 것 아니냐"(김오수, 당시 법무부 차관) 등의 발언이 나오기도 했습니다.

지금의 입법 풍경과 비교해보면 고작 4년 전에 있었던 논의라고는 믿기 힘들 정도로 큰 변화가 생겼습니다. 그만큼 딥페이크 성범죄가 단순히 음란물 제작/반포에서 그치는 것이 아니라 생성형 AI의 악의적 사용과 'N번방 사건'부터 공론화 되었 사회공학적 해킹, 그리고 미성년자에 대한 협박/성착취와 같은 문제와 결합하여 더욱 복잡하고 심각한 범죄 양상을 보였다는 점, 그리고 이런 방법에 사람들이 접근하기 너무 쉽다는 점, 한번 온라인 상에 유포되면 완벽한 삭제가 사실상 힘들다는 점에서 사회 문제로 변하고 있다는 반증이 아닐까 하는 생각이 듭니다. 경찰청 역시 법적 해결책 뿐 아니라 기술적 문제에 대해서도 칼날을 뽑아 들었습니다.


​허위조작 콘텐츠 탐지와 차단을 위해 감청 필요?

경찰청은 딥페이크/딥보이스 등 진화하는 허위 콘텐츠 범죄에 대응하기 위해 딥러닝에 기반한 허위조작 콘텐츠 복합 탐지 기술을 개발, 2025년 27억 원 등 2027년까지 91억 원을 투자하겠다고 했습니다. 

이 부분에 대해서 쟁점이 생겼는데요. 현재 성폭력처벌법이나 청소년성보호법은 통신비밀보호법이 규정하고 있는 감청 대상에서 제외, 감청이 불가능합니다. 예를 들어 마약범죄와 관련되어 있으면 통신비밀보호법 제5조 제1항 6호에 근거해 범죄수사를 위한 통신제한조치가 허가될 수 있다는거죠.

이에 대해 서울중앙지검 형사 3부 김세희 검사는 "통신비밀보호법 5조 1항 13호가 신설되어야 한다"며, "피해자의 불법·허위영상물 확산을 차단하기 위해 수사기관이 수사 과정에서 해당 영상물을 발견하면 인터넷서비스사업자(ISP)에게 차단을 요청하도록 의무화해야 한다"며 "인간의 DNA를 분석하듯 영상의 고유 구성 요소를 분석하는 DNA 필터링 기술 등을 활용해 인터넷 공간을 공유하는 세계 주요국과 업체들이 협약을 맺어서 피해자가 세계 어느 나라의 수사기관에 불법·허위영상물을 신고하더라도 협약의 가맹국과 업체들이 해당 영상물을 자동으로 식별하고 차단할 수 있도록 해야 한다"고 말했습니다.


​딥페이크 범죄 방지 해외 사례와 개인정보 보호에 대한 우려

실제 해외에선 이미 디지털 성범죄 관련 다양한 제도를 도입하고 있습니다. 70여 개 나라가 가입한 <부다페스트 협약(디지털 범죄 대응 공조를 위한 국제협약)>은 영장이나 국제공조 절차에 정식으로 착수하기 전 업체가 데이터를 강제 보존(Litigation Hold)하도록 규정해두었습니다. 

독일, 미국 등은 독립몰수·민사몰수 등 범죄자를 아직 잡지 못한 경우에도 먼저 범죄수익을 몰수할 수 있는 제도를 운영하고 있기도 합니다. 범죄수익이 없는 곳에서는 범죄도 자라기 어렵기 때문이죠.

이런 요구에 발맞추어 9월 23일, 법제사법위원회에는 통신비밀보호법 일부개정법률안(정청래의원 등 10인)이 발의되었습니다. 이 개정안엔 5조 1항에 13호가 추가되는 것이 핵심인데요. 바로 "「성폭력범죄의 처벌 등에 관한 특례법」 및 아동 ㆍ청소년의 성보호에 관한 법률」에 규정된 범죄"라는 항목입니다. 

이에 대해 주로 남성 중심의 온라인 커뮤니티 일각에서는 이번 개정안으로 인해 통신비밀보호법에 의해 지켜지던 개인 통신의 보호가 완전히 무력화, 사라질 것이라는 우려가 나옵니다. 이들은 "(경찰은 무고한 사람도) 범죄자인지 관심 없다. (지난 동탄 무고 신고 사건 처럼) 아무튼 알던 모르던 다 잡아들어가게 될 것", "아청법과 딥페이크법 관련 수사를 근거로 하여 통신보호를 무시하고 테러방지법처럼 경찰이 임의로 패킷을 도/감청 할 수 있다"라고 주장하고 있습니다.


​딥페이크를 명분으로 무차별 감청과 개인정보 유출이 가능할까?

하지만 통신비밀보호법은 '다음 각호의 범죄를 계획 또는 실행하고 있거나 실행하였다고 의심할만한 충분한 이유가 있고 다른 방법으로는 그 범죄의 실행을 저지하거나 범인의 체포 또는 증거의 수집이 어려운 경우에 한하여 허가할 수 있다'고 제약조건을 들고 있습니다. 

1항의 1호에서 12호까지에 있는 수많은 다른 죄에 대해서는 이미 법적으로 통신제한조치가 가능하기도 합니다. 이 법에서 성폭력 범죄와 관련한 조항이 하나 더 추가된다고 해서 갑자기 국가에서 성범죄를 핑계로 아무나 감청할 수 있게 되진 않습니다. 또, '경찰이 몰아가면 감청당해야 한다'는 주장 자체는 사실일까요?

그렇지 않습니다. 동법 6조를 보면 검사는 제5조 1항의 요건이 구비된 경우에만 법원에 통신제한조치를 허가하여 줄 것을 청구해야 합니다.


청구는 필요한 통신제한조치의 종류, 목적, 대상, 범위, 기간, 집행장소, 방법 및 당해 통신제한조치가 제5조 제1항의 허가요건을 충족하는 사유 등의 청구이유를 기재한 서면으로 하여야 하며, 통신제한조치의 기간은 2개월을 초과하지 못하고, 목적이 달성되었을 경우에는 즉시 종료해야 하죠. 


연장을 청구할 수는 있으나 1년을 초과할 수 없어요. 3년까지 연장이 가능한 것은 내란/외환 등 심각한 경우의 범죄에 한합니다. 거기다 애초에 범죄 용의 사실이 인정된 피의자를 대상으로 하는 법이며 경찰이 아닌 검찰이 까다로운 서류를 법원에 제출해 법원이 허가했을 때만 통신제한조치가 가능하기 때문에 사실과 어긋나 있다는거죠. 심지어 그 통신제한조치 역시 방법이나 기간, 감사 등의 각종 제한 요인을 주렁주렁 매달아놓고 있다는 겁니다.
 

생성형 AI의 사용이 점점 더 확산되고 점점 더 정밀해지는 상황에서 기술과 결합하여 발생한 이번 딥페이크 성착취 사건은 단순히 음란물 제작이나 일탈 범죄라고만 볼 수 없습니다. 

한 개인에게 경제적/사회적 피해를 모두 일으킬 수 있는 종합 범죄의 한 유형으로 진화한 심각한 사회 문제, 사이버보안과 현실에서의 성 문제가 결합한 문제로 봐야합니다. 그런 면에서 입법부가 평소보다 훨씬 빨리 움직인 것은 다 이유가 있는거죠. 

비록 개인의 통신 비밀이라는 사생활 보호에 대한 쟁점이 아예 없다고는 할 수 없지만, 적어도 아직까진 헌법을 비롯한 법리 체계와 사법 체계상 아직까지 개인의 통신이 모조리 노출되고 소위 '유죄 추정'에 근거한 무차별 수사가 발생할 것이라는건 억측에 가까워 보입니다.


  • Cyber Security
  • AI와의 대화, 미국 법원에서 eDiscovery 증거가 될까? Heppner, Warner 사건 판례
    AI와의 대화, 미국 법원에서 eDiscovery 증거가 될까? Heppner, Warner 사건 판례

    최근 미국에서는 생성형 AI와 대화한 내용을 소송에서 증거로 제출해야 하는지 여부가 쟁점이 된 판례들이 등장했습니다. 주요 법률 매체와 로펌을 중심으로 관련 분석도 활발히 이루어지고 있습니다. 미국 소송 절차인 eDiscovery(이디스커버리) 과정에서, Attorney-Client Privilege(변호사-의뢰인 비밀유지권)와 Work-Product Doctrine(변호사 업무 결과물 원칙)은 증거 제출 의무를 방어하는 매우 중요한 장치입니다. 오늘 다룰 두 사건은 모두 생성형 AI를 소송 준비 과정에 활용한 경우지만, 법원은 eDiscovery 제출 대상 여부를 각각 다르게 판단했습니다. 인텔렉추얼데이터는 화제의 두 사건 판례를 비교 분석해, 기업이 미국 소송 eDiscovery에서 자료 제출 및 방어를 위해 사전에 점검해야 할 부분을 실무적 관점에서 정리했습니다. ✔ 미국 법조계의 뜨거운 이슈: Heppner, Warner 사건이 화제가 된 이유는? 1. 생성형 AI 사용 확대 흐름에서 등장한 사례2. AI와의 대화의 증거성, 법적 취급에 관한 미국 법원 최초·초기 판결3. 공개 AI 플랫폼에 관한 법원의 판단 기준 제시 두 사건은 생성형 AI를 사용한 소송 준비라는 공통점이 있으나, 같은 날 상반된 판단이 내려졌습니다. 법원은 Heppner 사건을 “first impression”, 즉 해당 쟁점을 최초로 다룬 판결이라고 명시했습니다. Heppner 건은 AI와의 커뮤니케이션이 미국 소송 eDiscovery 과정에서, Attorney-Client Privilege 또는 Work Product 보호, 즉 eDiscovery 제출 의무 방어에 해당하는지 처음 판단한 사건이 되었습니다. 이 사건은 AI 사용 주체 및 목적, 변호사의 개입 여부, 데이터 수집·학습·공개 범위 등에 따라 법원의 판단이 달라질 수 있음을 보여주었습니다. 또한 Warner 사건은 변호사 없이 소송을 진행한 당사자(pro se)가 생성형 AI로 준비한 자료도 Work Product 보호를 받을 수 있음을 보여준 사례로 주목받았습니다. *Attorney-Client Privilege(ACP): 변호사-의뢰인 비밀유지 특권. 의뢰인이 법률 조언을 구하기 위해 변호사와 주고받은 의사소통의 비밀을 보장*Work Product Doctrine: 변호사 업무 결과물 원칙. 소송 준비 과정에서 변호사가 작성하거나, 변호사의 지시·개입에 의해 작성된 자료를 보호하는 원칙  ✔ Heppner - 생성형 AI로 소송을 준비한 자료, eDiscovery 공개 or Privilege(특권) 보호 대상인가?판례: United States v. Heppner, No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 배경 여러 기업 임원으로 재직했던 Heppner는 증권·전신 사기 등의 혐의로 2025년 10월 형사 기소되었습니다. Heppner는 소환장을 받고 변호인을 선임한 상태에서, Anthropic의 소비자용 AI인 클로드(Claude)를 이용해 방어 전략과 법적 주장을 정리한 31개의 프롬프트 및 문서를 작성했고, 이후 이 자료를 변호인과 공유했습니다. FBI 자택 압수수색 과정에서 해당 문서가 담긴 전자기기가 확보되었고, 이에 Heppner 측은 Attorney-Client Privilege와 Work Product Doctrine으로 보호된다고 주장하며 정부의 열람에 이의를 제기했습니다. 사건 쟁점공개 AI 플랫폼과의 대화가 Attorney-Client Privilege 또는 Work Product Doctrine으로 보호받을 수 있는가? 법원의 판단 법원은 피고가 공개 AI 플랫폼과 주고받은 대화 기록 문서가 ACP와 Work Product Doctrine으로 보호받지 않는다고 판결했습니다. 이는 생성형 AI 대화의 증거성에 관한 초기 판례로 평가됩니다. Heppner 사건에서 ACP가 적용되지 않은 이유법원은 아래 세가지를 이유로 Claude와의 소통을 법률 자문으로 볼 수 없다고 판단했습니다. 1. 변호사-의뢰인 관계 부재: Claude는 변호사가 아님2. 합리적 기밀 유지 기대 부족: Claude는 변호사가 아닌 제3자, Anthropic의 개인정보처리방침상 기밀이 유지되지 않음3. 법률 자문 목적 부정: 변호인의 지시를 받지 않았으며, Claude는 법률자문을 제공하지 않음출처: United States v. Heppner , No. 25-cr-00503 (S.D.N.Y. Feb. 17, 2026) 사건 판결문 Anthropic(앤트로픽)은 Claude가 법률 자문을 제공하지 않는다고 명시하고 있습니다. 또한 Anthropic 개인정보처리방침상 Claude에 입력된 프롬프트와 출력 데이터는 AI 모델 학습에 활용되거나 정부 규제 기관을 포함한 제3자에게 공개될 수 있습니다. Heppner 사건에서 Work Product Doctrine이 적용되지 않은 이유Heppner의 변호사는 AI 활용을 지시하지 않았으며, Heppner가 자발적으로 작성한 자료임을 인정했습니다.  ✔ Warner - 생성형 AI와의 대화는 제3자와의 커뮤니케이션인가, 그저 도구의 사용인가?판례: Warner v. Gilbarco, Inc.,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 배경원고 Warner는 인종차별을 이유로 전 회사 Gilbarco 등을 상대로 고용 차별 소송을 제기했습니다. 소송 과정에서 AI 사용과 eDiscovery에 관한 법원의 명령(order)이 내려졌습니다. 사건 쟁점생성형 AI 사용 자료의 eDiscovery 대상 여부와 Work Product Doctrine의 보호피고는 원고가 챗지피티(ChatGPT) 등 생성형 AI에 입력·생성한 자료와 AI 사용 기록 일체의 제출을 요구했습니다. 원고는 해당 자료가 소송 준비 과정에서 생성된 것으로, Work Product 보호를 주장하며 제출을 거부했습니다. 법원의 판단 법원은 피고 요구를 기각했습니다. Patti 치안판사는 해당 자료는 디스커버리 대상이 아니며, 대상이라 하더라도 Work Product Doctrine에 의해 보호될 수 있다고 판단했습니다. 이는 생성형 AI 활용 자료의 eDiscovery 범위와 Work Product 보호에 관한 중요한 판례로 평가됩니다. 1. Work Product 보호 인정원고는 pro se(본인 소송) 원고가 ChatGPT 등 생성형 AI을 활용한 소송 준비자료가 Rule 26(b)(3)(A)에 따른 Work Product 보호 대상이 될 수 있다고 판단했습니다. AI 사용만으로 보호가 자동 포기되지는 않는다고 봤습니다. 2. AI는 "제3자(person)"가 아니다법원은 "ChatGPT를 비롯한 생성형 AI는 도구(tool)이지 사람(person)이 아니다"라고 명시했습니다. Work Product 보호 포기(Waiver)는 적대적 당사자나 그에 준하는 제3자에게 정보가 공개된 경우 성립하는데, AI 입력만으로 공개로 볼 수 없다고 판단했습니다. 3. 비례성 미충족법원은 피고의 광범위한 AI 사용 자료 요구는 Rule 26(b)(1)의 관련성·비례성 요건을 충족하지 못하며, 원고의 사고 과정과 소송 전략을 들여다보려는 Fishing Expedition에 해당한다고 판단했습니다.*출처: Warner v. Gilbarco, Inc. ,No. 2:24-cv-12333 (E.D. Mich. Feb. 10, 2026) 사건 판결문  ✔ 인텔렉추얼데이터 eDiscovery 전문가 코멘트AI를 활용해 생성·이용된 자료가 eDiscovery 대상에 포함되는지, 그리고 이에 대해 ACP(Attorney-Client Privilege) 또는 Work Product 보호가 인정되는지는 사건 유형, AI 활용 주체, 사용 목적 등에 따라 판단이 달라질 수 있습니다. 향후 관련 판례와 논의 역시 지속적으로 축적될 것으로 보입니다. 특히 기업 입장에서는 LLM(대규모 언어 모델) 기반 생성형 AI 사용이 확대되는 흐름 속에서, 그에 따른 법률 리스크도 함께 검토할 필요가 있습니다. Heppner 사건의 법리는 형사에 국한되지 않고 민사 소송과 기업 내부 조사에도 확장 적용될 수 있습니다. 임직원이 공개형 AI로 소송 전략이나 법률 분석을 수행할 경우, 기밀정보가 상대방에게 노출되거나 기업에 불리한 내용이 증거로 남을 위험이 있으며, 이는 기업 증거보전(Legal Hold) 및 기밀정보 관리 이슈로도 이어질 수 있습니다. 기업 법무에 AI를 도입할 때에는 Enterprise 플랜 또는 폐쇄형(Private) AI 환경을 기반으로 이용 약관과 정보보안 요건을 검토하는 것이 필요합니다. Warner 사건은 pro se(본인 소송) 사례인 만큼 법원이 유연한 기준을 적용했을 가능성이 있어, 기업 소송에서는 보다 엄격한 기준이 적용될 수 있다는 점도 고려해야 합니다. 사내 AI 활용 정책 수립과 임직원 교육을 통해 기업의 증거 관리 프로세스가 법적으로 방어 가능한(Defensible) 체계를 갖추도록 준비하는 것이 중요합니다.

    May 19 2026

    중국발 인공지능 쇼크, 딥 시크! 계속되는 개인정보 탈취 논란!
    중국발 인공지능 쇼크, 딥 시크! 계속되는 개인정보 탈취 논란!

    중국 생성형 인공지능 딥 시크(DeepSeek R1)의 과도한 이용자 정보 수집이 아직도 논란이 되고 있습니다. Open AI가 있는 미국은 물론이고 한국에서도 금지령이 확산되고 있는데요. ​계속되는 주요 기관의 딥 시크 접속 차단 조치외교부와 국방부, 산업통상자원부가 6일 딥 시크 사이트 접속을 차단한데 이어 통일부와 농림축산식품부, 보건복지부, 환경부, 과학기술정보통신부 등도 7일 딥 시크 금지령에 동참했습니다. 앞서 행정안전부와 국가정보원은 지난 3일 모든 중앙부처와 광역 지방자치단체에 딥 시크, 오픈AI 등 생성형 인공지능(AI)을 사용할 때 민감한 정보는 입력하지 말라는 내용을 담은 보안 가이드라인을 발송한 바 있는데 이 같은 지침에 따라 접속 차단이 늘어나고 있습니다.한국거래소도 지난달 말 딥 시크 접속을 차단하는 등 내부 보안 조치를 실시했습니다. 한국 거래소는 현재 Open AI의 Chat GPT와 구글 제미나이 등 미국 기업들의 AI 서비스 이용은 막지 않고 있습니다. 한국인터넷진흥원(KISA) 역시 <보호나라> 홈페이지를 통해 생성형 AI 사용 시 주민등록번호, 전화번호, 주소 및 금융 정보 등의 개인 정보를 입력하지 않도록 주의하라는 내용이 포함된 ‘생성형 AI 사용 관련 주의 보안권고’를 공지했습니다. 생성형 AI 공개가 하루 이틀 일이 아닌데 이렇게 나오는 것은 다분히 딥 시크를 겨냥한 것이라고 볼 수 있습니다.​딥 시크 코드 해독으로 밝혀진 개인정보 유출?거기다 개인정보 유출 증거가 나왔다며 미국 사이버보안업체 페루트(feroot) 시큐리티의 이반 차린니 최고경영자(CEO)가 AI 소프트웨어를 활용해 딥시크의 코드를 해독한 결과 감춰진 부분을 발견했다는 보도가 미국 ABC방송을 통해 발표되었는데요. 차린니 CEO는 "중국 정부의 통제 아래 있는 서버들과 중국 내 회사로의 직접적 연결이 보인다"며 "이는 과거에는 한 번도 본 적이 없는 것"이라고 말했습니다.딥 시크 코드 내에 차이나모바일의 온라인 레지스트리 사이트 'CMPassport.com'으로 사용자 정보를 전송하는 기능을 지닌 코드가 의도적으로 은폐된 듯한 모양새로 삽입돼 있었다는 게 차린니 CEO의 주장입니다. 이들은 "딥 시크에 가입하거나 로그인하는 사용자는 자신도 모르게 중국 내 계정을 만들게 돼 신원과 사용한 검색어 등이 중국 정부 시스템에 노출될 수 있다는 것"이라고 설명했는데요. 미 국토안보부 차관을 지낸 존 코언은 ABC 방송 인터뷰에서 "국가안보 당국자들은 언제나 중국 기업들이 판매하는 기술제품에 중국 정부가 자료를 들여다볼 수 있는 백도어가 있다고 의심해 왔다"면서 "이번 사례에선 그런 백도어가 발견됐고 열렸으며 이는 우려스러운 일"이라고 말했습니다. 미 하원 정보위원회 소속인 조시 고트하이머 의원도 "모든 정부 기기에서 딥 시크를 즉각 금지해야 한다"면서 "누구도 본인 기기에 내려받지 못하게 해야 하고 대중에도 알려야 할 것"이라고 말했습니다.​오픈 소스인데 백도어 삽입? 지속되는 보안 관련 논란그러나 좀 이상합니다. 클린 코드 원칙 이야기를 하지만 잘 지켜지지 않을뿐더러, 소스가 공개돼 있는데 백도어를 다 보이게 심어놨다는 게 쉽게 납득하기 힘듭니다. 중국 레지스트리 사이트 역시 다른 단계가 아니라 로그인 단계에서 중국 통신사 네트워크 주소가 하드코딩되어 있다는 것을 증거라고 주장하고 있는거죠. 그런데 실제 개발을 해 보면 서버 주소나 암호화 키 등은 암호화가 되어 숨겨집니다. 저렇게 드러내는 것이 오히려 더 어색하죠.일각에서는 이를 보고 '중국의 세계 감시', '기술 탈취'를 이야기하지만 아직까지 드러난 바에 따르면 과도한 공포가 아닐까 하는 의구심을 갖게 한다는 것입니다. 정말로 숨길 의도가 있었다면 더 깔끔한 방법으로, 티나지 않게 숨길 수가 있거든요. 많은 사람들은 이런 갑작스러운 차단에 대해 미국이 OAI를 차세대 성장 동력으로 내세우는 가운데 스타게이트 프로젝트를 발족하면서 딥 시크의 등장이 달갑지 않아서 스타게이트 프로젝트 참가국들을 통해 압박을 하고 있다는 해석을 내놓기도 했습니다. 실제 미국 FCC(연방통신위원회, Federal Radio Commission)은 차이나모바일을 국가안보 위협으로 지정하기도 했는데, 이 상황에서 딥 시크 로그인 페이지에서 해당 기업의 코드가 발견되었다는 점에서 더욱 더 문제시하려는 것 아닌가 하는 의혹도 있습니다.​딥 시크 보안에 대한 우려와 중국 정부의 반발각국 정부와 기업이 보안 우려에 따라 중국 AI 모델 딥 시크 사용 금지에 나서자, 중국은 불법 데이터 수집은 없다며 반발에 나섰는데요. 궈자쿤 중국 외교부 대변인은 정례 브리핑에서 "중국은 국가 안보 개념을 일반화하고 경제·무역 문제를 정치화하는 방식에 일관되게 반대해왔다"며 "지금껏 기업 혹은 개인에 위법한 형식으로 데이터를 수집·저장하라고 요구한 적도 없고 요구하지도 않을 것"이라고 강조했습니다. 아울러 중국 기업의 합법적 권익을 굳게 수호할 것이라며 경우에 따라 보복 조치에 나설 수 있다고 말했습니다. 하지만 중국의 국가정보법 상 모든 조직과 개인이 정부의 정보 활동을 지원하고 협력하도록 요구하고 있기 때문에, 중국 당국은 딥 시크가 수집한 해외 사용자의 데이터에 접근할 가능성이 있다는 우려 자체는 상존하고 있습니다. 실제 중국은 다양한 분야에서 과도한 개인정보를 가져가는 모습을 보여줬거든요. 물론 아직까지 딥 시크가 이런 위험성이 있다는 것이 증명되진 않았지만, 이번 딥 시크 사태를 놓고 미국과 중국이 다투는 것은 AI 기술이 가져올 수 있는 개인정보 보호, 데이터 주권, 국가 안보, 기술 헤게모니 등 다양한 문제를 잘 보여준다고 생각합니다.​국가 간 데이터 흐름을 관리할 통일된 프레임워크의 필요성사실 국제사회는 이런 문제에 대응하기 위해 다양한 규제 프레임워크를 제시하고 있습니다. 대표적인 것이 EU의 COMPL-AI 프레임워크입니다. 이 프레임워크는 AI 모델의 해킹 위험과 편향성을 체계적으로 평가하는 기술적 규제의 선례를 제시하고 있습니다. EU AI Act의 6대 윤리 원칙을 27개의 기술 벤치마크로 구체화하여, 프롬프트 유출이나 목표 변조와 같은 사이버 보안 위협에 대한 모델의 취약성을 진단하고, HarmBench 데이터셋을 활용해 인종과 성별 편향성을 정량화 합니다. 오는 2025년 4월부터 EU AI Act의 공식 감사 도구로 활용됩니다. 하지만 아직까지 범 국가 간 단일 모델, 통일 프레임워크는 만들어지지 않았습니다.그리고 국가 간 데이터 흐름, 소위 크로스보더 데이터 흐름에 대한 관리의 중요성 역시 부각되게 되었습니다. EU의 GDPR, Data Act, 미국 법무부(DOJ) 등의 정책이 충돌하게 된거죠. 프레임워크를 비롯해 데이터 관리에 있어서 까지 국제 공조, 조화가 시급한 과제가 되고 있는 상황입니다. 미-중간의 다툼도, AI의 미래를 위한 경쟁도 좋지만 무엇보다 사람들이 안전한 시스템을 쓸 수 있도록 투명한 체계를 만드는 것이 피할 수 없는 AI의 대두 시대, 그리고 그 시대에서 살아갈 인류의 공공복리를 위해 필요한 내용이 아닐까 생각됩니다.​

    Feb 13 2025