한국인터넷진흥원

요약

□ 딥시크(DeepSeek)는 중국 스타트업 기업 딥시크(DeepSeek)社에서 개발한 LLM 기반 생성형 AI 모델 및 추론 강화 모델
 ○ 함께 발표한 생성형 AI 모델(DeepSeek V3)과 추론 강화 모델(DeepSeek R1)에 대한 논문(기술 문서, ’25.1.23)을 통해 “저비용·고성능 AI 모델”을 강조하며 전세계의 주목을 받음
   - 해당 논문에서 DeepSeek V3의 개발 비용은 약 557만 달러(한화 약 78억 원)으로 경쟁 AI 모델(GPT-4o, OpenAI-o1, MS Copalit 등) 대비 저렴하지만 성능 더 뛰어나다고 발표
 ○ 이로 인해 전세계의 AI 개발 연구 및 산업에 영향을 미쳤으며, 특히 미국-중국을 중심으로하는 글로벌 AI 개발 및 기술 경쟁을 심화시키는 계기

□ 전세계 이슈가 된 딥시크에 대해 글로벌 보안 기업, 언론 등에서 보안 조치 미흡 등을 이유로 딥시크에 대한 보안 위협의 우려를 제기
 ○ 글로벌 보안 기업인 팔로왈트 네트웍스社의 보안 연구팀 Unit42, CISCO 등에서 발표한 딥시크 AI 모델에 대한 보안 취약점 검증 결과에 따르면 AI 탈옥(Jailbreak)을 발생시키는 공격에 다른 AI 모델 보다 매우 취약하다고 분석
   - 또한 딥시크社는 자사의 AI 모델을 오픈소스화하여 일부 AI 학습 데이터, 알고리즘을 제외한 모델 개발 코드를 공개하는 과정에서 수집된 데이터가 저장된 DB가 공개되며 데이터 유출 우려 제기
 ○ 특히, 딥시크社가 중국 내 설립되어 있으며, 중국 내 서버 등에 당사의 데이터를 저장하고  있다는 점, 중국 데이터보안법 등에 따라 중국 정부의 요청에 따라 데이터를 제공해야 한다는 점 등으로 인해 서비스에 대한 불안감 증대

□ 이에, 미국 등 주요국은 딥시크 차단 및 조사 등의 규제를 시행하거나 시행을 검토
 ○ 미국, EU 국가, 영국 등 주요국들은 딥시크 출시 이후 개인정보 유출 및 국가 안보 등의 취약점과 위협을 우려하여 해당 서비스를 차단하거나 위해성에 대한 조사에 착수하였음
 ○ 우리나라 역시 정부 부처 및 민간 기업까지 딥시크 서비스에 대한 전방위적 금지 조치가 확산되고 있으며 2월 15일부터 딥시크의 보안 우려가 해소될 때까지 국내 신규 다운로드 차단


□ 딥시크가 촉발한 AI에 대한 보안 우려를 중심으로 AI 안전(Safety)의 관점에서 AI 위험(Risk)과 AI 보안(Security)을 구분하고 특히 AI 보안 위협에 대해 심층 분석
 ○ (AI 위험(Risk)) AI 위험은 AI가 인간과 사회에 미칠 수 있는 모든 부작용 또는 악영향 등을 말하며, AI 위험은 크게 AI 윤리 위험, AI 신뢰 위험, AI 보안 위험으로 구분
 ○ (AI 보안(Security)) AI 보안은 외부의 사이버 공격‧침해행위 등으로 인한 AI 조작, 손상, 탈취 등 무결성, 기밀성, 보안성을 저해하는 행위를 말하며, 크게 AI 모델 취약점 공격, 사이버범죄 등 AI 악용, 데이터 유출 등으로 구분

□ 딥시크의 공개는 글로벌 AI 산업 및 R&D 경쟁을 더욱 심화시키는 한편, AX 시대에서의 보안 위협에 따른 불안감이 증폭됨에 따라 AI 보안에 대한 정책 필요성 증가
 ○ 미국, EU, 영국, 프랑스 등 주요국은 AI 기술 개발 연구(R&D)를 위해 대규모 국가 투자 정책 시행 또는 수립하는 한편 국가 안보와 직결되는 AI 보안 확보·강화 정책의 시행을 병행
 ○ 우리나라는 AI 산업 육성 및 R&D 강화 등을 중심으로 정책이 수립되고 있으며, 인공지능 기본법 제정(’26.1월 시행) 및 AI 안전연구소 설립(’24.11월) 등 AI 안전성 확보 조치는 시작 단계
   - 국민이 안전하게 AI를 개발하고 이용하고, 국가 안보를 더욱 강건히 하기 위한 AI 보안 대응 정책의 필요성이 강조되고 있어, 정책 수립이 필요하나 해당 정책이 AI 산업을 저해할 수 있는 우려가 있어 신중한 접근 필요

목차

목차

Ⅰ 딥시크(DeepSeek) 현황
  1-1. 딥시크(DeepSeeK) 개요 및 특징

Ⅱ 딥시크 관련 보안 이슈 및 국내·외 대응 현황
  2-1. 딥시크 관련 보안 이슈
  2-2. 국외 주요국 대응 현황
  2-3. 국내 대응 현황

Ⅲ 딥시크(DeepSeek) 등 AI 보안 위협 분석
  3-1. 인공지능(AI) 위험(Risk)과 보안(Security)
  3-2. AI 보안 관점에서의 보안 위협 분석

Ⅳ 시사점