사이버 공격이 진화하고 있다. 과거 해커들이 수개월에 걸쳐 시행착오를 거듭하며 시스템을 뚫었다면, 이제는 AI가 몇 시간 만에 최적의 공격 경로를 찾아낸다. SK텔레콤 유심 정보 유출부터 국제 해킹조직의 390억원 편취 사건까지, 올해 한국을 강타한 대형 사이버 공격들은 모두 이런 새로운 위협의 산물이다.

문제는 이것이 시작에 불과하다는 점이다. 인공지능이 사이버범죄계에 본격 도입되면서, 해킹은 더 이상 소수 전문가의 영역이 아니게 되었다.

10조 달러 시장으로 급성장한 AI 사이버범죄

사이버범죄가 AI와 결합하면서 그 규모와 위험성이 기하급수적으로 확대되고 있다. 사이버보안 벤처스(Cybersecurity Ventures)는 2025년 사이버범죄로 인한 전 세계 손실액을 10.5조 달러로 전망한다고 발표했다. 이는 일본 GDP와 맞먹는 규모로, 2031년까지 연평균 2.5% 성장해 12.2조 달러에 이를 것으로 예상된다.

무엇이 이런 폭발적 성장을 가능하게 했을까? 답은 AI 기술의 악용에 있다. 과거 해커들이 서툰 발음과 어색한 표현으로 쉽게 들통나던 보이스 피싱은 이제 AI를 통해 완벽한 현지 억양을 구현한다. 스크립트 기반 자동화 공격으로 기존 소셜 엔지니어링 기법의 한계를 뛰어넘었고, 탐지 난이도는 현저히 증가했다. IT 지원팀을 완벽하게 사칭해 악성 소프트웨어 다운로드를 유도하거나, 원격 접근 권한을 획득한 후 네트워크를 정찰하며 민감 데이터를 탈취하는 AI 기반 공격이 일상화되고 있다.

전 세계 보안 전문가를 대상으로 한 설문조사는 이런 현실을 적나라하게 보여준다. 73.6%가 AI 기반 사이버 위협이 이미 조직에 상당한 영향을 미치고 있다고 답했고, 89.7%는 향후 1~2년 내 심각한 영향을 미칠 것으로 전망했다. AI 위협은 더 이상 미래의 가능성이 아닌 현재 진행형의 현실이다.

자율적 AI 해킹 에이전트의 충격적 등장

가장 우려스러운 변화는 AI 에이전트의 자율적 해킹 능력이다. 기존의 봇이 미리 짜여진 스크립트만 따라 실행했다면, AI 에이전트는 완전히 다른 차원의 위협이다. 타겟별로 최적의 침투 방법을 스스로 추론하고, 사이버 공격 과정을 자율적으로 판단해 실행하기 때문이다. 예상치 못한 상황에서도 대안적 공격 경로를 실시간으로 탐색하고 전략을 수정할 수 있어 방어측의 예측을 무력화하는 것으로 유명하다. 

맬웨어바이츠의 전문가는 "대부분의 사이버 공격이 에이전트에 의해 수행될 것이며, 이는 언제 일어날지의 문제일 뿐"이라고 경고했다. 

이는 빈말이 아니다. 2025년 6월 UC 버클리 AI 연구팀의 사이버짐(CyberGym) 테스트에서 AI 에이전트는 188개 대형 오픈소스 코드 베이스를 대상으로 제로데이 취약점 15개를 발견했다. 상업용 AI 모델의 취약점 탐지 성능이 중급 해커 수준에 근접했다는 뜻이다.

더 심각한 것은 범죄의 대중화다. 다크웹에서는 윤리적 제약이 제거된 '언센서드 AI 모델'이 이미 거래되고 있다고 알려졌다. 악성코드 작성부터 피싱 캠페인 설계, 공격 스크립트 생성까지 범죄 목적으로 무제한 활용된다. 심지어 AI 기반 RaaS(Ransomware as a Service) 모델까지 등장해 구독 서비스처럼 랜섬웨어 공격을 제공한다. 

비전문가도 'AI에게 원하는 해킹을 말하면 자동 실행'하는 '바이브 해킹(Vibe Hacking)'이 현실화되었다. 기술적 지식 없이도 정교한 공격이 가능해진 것이다. 실제로 팰리세이드리서치가 설치한 허니팟에서는 이미 AI 해킹 에이전트로 추정되는 10건의 공격이 탐지되었다. 또한, 2024년 11월 등장한 AI 기반 RaaS 펑크섹(FunkSec)은 이미 미국, 인도 등 주요국 정부·기술·금융 분야를 공격한 것으로 파악됐다.

방어 측면의 AI 혁신, 희망의 신호

하지만 AI는 공격자들만의 전유물이 아니다. 방어 측면에서도 혁명적 변화가 일어나고 있으며, 오히려 방어측이 더 유리할 수 있다는 희망적 신호들이 나타나고 있다.

가장 상징적인 사례는 AI 침투 테스터 ‘엑스보우(Xbow)’의 성공이다. 엑스보우는 2025년 해커원 미국 리더보드에서 1위를 달성하며, 버그 바운티 프로그램 역사상 최초로 AI 도구가 최상위 랭킹을 기록했다. IBM 등 주요 기업들을 대상으로 소프트웨어 취약점을 성공적으로 발견하고 보고해 실제 보안 강화에 기여했으며, 7,500만 달러의 시리즈B 투자까지 유치했다. 기존에 수주 단위로 소요되던 침투 테스트를 수 시간 내 완료할 수 있는 자동화 솔루션으로 인정받은 것이다.

스탠포드 컴퓨터 연구소의 바운티벤치(BountyBench) 평가 결과는 더욱 고무적이다. 클로드 코드(Claude Code)는 87.5%, 오픈AI 코덱스(OpenAI Codex CLI)는 90%의 보안 패치 성공률을 기록했다. 반면 공격 분야에서는 각각 57.5%, 32.5%로 상대적으로 낮은 성과를 보였다. 연구진은 "방어자들이 공격자보다 AI를 더 효과적으로 활용할 수 있는 가능성"을 제시하며, 상용 AI 모델들의 방어 특화 성능이 사이버보안 업계에 긍정적 신호라고 평가했다.

구글의 프로젝트 제로(Project Zero)는 더 나아가 선제적 방어의 가능성을 보여줬다. 빅슬립 프로젝트를 통해 SQLite에서 스택 버퍼 언더플로우 취약점을 발견하고, 2024년 10월 공식 출시 전 사전 패치를 완료했다. AI가 해커보다 먼저 취약점을 찾아 보완하는 시대가 열린 것이다.

실제로 다크레이스(Darktrace)의 설문에서 전 세계 보안 전문가 73%는 사이버보안에서 AI 활용 역량에 높은 자신감을 보였다. 전통적 사이버보안 도구의 AI 위협 대응 능력 신뢰도가 50%에 그친 반면, AI 기반 보안 솔루션 신뢰도는 75%를 기록해 방어 측면에서 AI 기술의 우위성이 입증되었다.

새로운 패러다임, 승부는 속도에 달렸다

이제 사이버보안은 AI를 더 효과적으로, 더 빠르게 활용하는 쪽이 승리하는 경쟁이 되었다. 동일한 AI 기술이 공격과 방어 양측에서 활용되며 기술 경쟁이 본격화되는 이중적 현상이 벌어지고 있다. AI 기반 자동화 공격 도구의 대중화로 진입 장벽이 낮아진 반면, 방어 측면에서도 AI를 활용한 실시간 위협 탐지 및 대응 시스템 개발이 활발해지며 기술 발전 속도 경쟁이 치열해지고 있다.

한국의 연이은 해킹 사건들이 보여주는 교훈은 명확하다. 전통적인 보안 체계만으로는 AI 기반 위협에 대응하기 어렵다는 것이다. 공격자들이 AI를 통해 운영을 자동화하고 규모를 확장하는 속도에 비해, 보안팀의 AI 특화 보안 조치 우선순위 설정이 미흡한 상황이다. 선제적 방어 전략 수립이 시급한 이유다.

하지만 절망할 필요는 없다. 연구 결과들이 보여주듯 방어측이 오히려 AI를 더 효과적으로 활용할 수 있는 가능성이 크다. 관건은 얼마나 빨리, 얼마나 체계적으로 AI 기반 방어 시스템을 구축하느냐다. 정부와 기업, 보안 업계가 협력해 AI 시대에 맞는 새로운 보안 패러다임을 만들어야 할 때다. 사이버보안의 미래는 AI를 두려워하는 것이 아니라, AI를 먼저 제대로 활용하는 데 달려 있다.