Kimi K3, 기업망 공격 어디까지 갔나
AI 모델이 코딩을 잘하는 것과 실제 사이버 공격 단계를 수행하는 것은 다른 문제예요. 영국 UK AISI와 미국 CAISI가 공동 평가한 Moonshot AI의 Kimi K3는 최신 프런티어 모델에는 뒤처졌지만, 일부 기업 환경을 자율적으로 공격할 가능성은 보여줬어요.
1. Kimi K3 사이버 보안 평가 핵심
Kimi K3는 2026년 7월 16일 공개됐으며, 7월 27일까지 오픈 웨이트(Open-weight, 모델 가중치를 공개하는 방식)로 배포될 예정인 모델이에요. 이번 평가는 익스플로잇 개발과 모의 기업 네트워크 공격 능력에 초점을 맞췄어요.
결론부터 말하면 최신 미국 프런티어 사이버 모델보다 성능이 크게 낮았지만, GLM-5.2보다는 높은 결과를 기록했어요. 특히 모델의 안전장치가 공격적 사이버 작업과 익스플로잇 개발 시도를 충분히 차단하지 못했다는 점도 확인됐어요.
2. ExploitBench에서 확인된 공격 능력
ExploitBench는 취약점이 주어졌을 때 모델이 실제 익스플로잇(취약점을 악용하는 코드)을 얼마나 완성할 수 있는지 측정해요. Chrome의 기반인 V8 엔진에서 2023년 이후 발견된 취약점 41개를 대상으로 테스트했어요.
Kimi K3의 점수는 32%로, GLM-5.2의 24%보다 높았어요. 테스트에는 충돌 재현부터 임의 읽기·쓰기, 제어 흐름 탈취, 임의 코드 실행까지 공격 단계가 포함됐기 때문에 단순한 보안 지식보다 실질적인 문제 해결력을 볼 수 있어요.
3. 임의 코드 실행에는 도달하지 못했다
가장 중요한 차이는 ACE(Arbitrary Code Execution, 임의 코드 실행)에서 나타났어요. 이는 공격자가 대상 시스템에서 원하는 코드를 실행하고 통제권을 탈취할 수 있는, 익스플로잇 개발의 최고 위험 단계예요.
Kimi K3는 41개 과제 중 ACE 성공이 0건이었어요. 반면 가장 강력한 사이버 모델들은 평균 20개 과제에서 이 단계에 도달해, 현재 기준으로는 공격 완성도에 상당한 격차가 있음을 보여줬어요.
4. 모의 기업망 공격은 32단계 중 17단계
The Last Ones(TLO)는 4개 서브넷과 약 20개 호스트로 구성된 32단계 모의 기업망 공격 환경이에요. 인간 전문가도 완료하는 데 약 20시간이 걸리며, AI가 초기 접근 이후 공격을 얼마나 자율적으로 이어가는지 평가할 수 있어요.
Kimi K3는 평균 17단계까지 진행했어요. 미국의 최상위 모델은 평균 28.5단계, GLM-5.2는 1억 토큰 제한에서 평균 11단계에 도달했으므로 Kimi K3의 위치를 비교할 수 있어요.
10번의 시도 중 1번은 전체 공격 경로를 완료했어요. 이는 초기 네트워크 접근 권한이 주어진다면 규모가 작고 방어가 약한 기업 시스템을 자율적으로 공격할 가능성이 있다는 의미예요.
5. 평가 결과를 해석할 때 필요한 주의점
이번 결과는 소수의 공개·비공개 벤치마크를 사용한 예비 평가예요. Kimi K3의 종합 사이버 역량은 41개 과제로 구성된 ExploitBench 하나를 중심으로 추정돼, 다른 모델보다 신뢰구간(추정값의 불확실성 범위)이 넓어요.
또한 미국 폐쇄형 모델은 최대 능력을 측정하기 위해 시스템 수준의 안전장치를 끈 상태로 평가됐어요. 실제 공개 서비스에는 안전장치가 적용되므로 결과를 일반 사용 환경의 위험성과 그대로 동일시해서는 안 돼요.
TLO 역시 실제 기업망과 달리 능동적인 방어 인력과 보안 도구가 없고, 경보를 발생시키는 행동에도 불이익이 없어요. 의도적으로 공격 경로가 마련된 환경이라는 한계도 함께 봐야 해요.
마무리하며
이번 평가에서 Kimi K3는 프런티어 모델에 미치지 못했지만, 오픈 웨이트 모델의 사이버 능력이 빠르게 향상되고 있다는 흐름을 보여줬어요. 동시에 안전장치가 공격 요청을 충분히 제한하지 못한다는 점은 배포 전 점검해야 할 중요한 과제예요.
기업에서 이런 모델을 보안 자동화나 취약점 분석에 활용한다면 권한 최소화, 격리된 실행 환경, 작업 로그 감사와 사람의 승인을 기본으로 적용해야 해요. 이제 AI 모델은 “무엇을 답하는가”뿐 아니라 어디까지 자율적으로 실행할 수 있는가를 기준으로 평가할 필요가 있어요.
