AI 에이전트로 무장한 적: 방어는 공격과 같은 속도를 내야 한다는 크라우드스트라이크 CEO 조지 커츠

커츠는 처음으로 보안이 AI 도입을 늦추는 대신 오히려 가속하도록 자리 잡았다고 말하며 이야기를 연다. AI가 공격자들에게 무엇을 해주고 있는지 어떻게 묘사하겠느냐는 질문에 그는 새로운 최상위 포식자는 에이전트라고 답한다.

커츠는 맨 아래에 활동가, 가운데에 e-범죄, 맨 위에 국가 단위 행위자가 있는 위협 피라미드를 설명한다. 그는 에이전트 때문에 이 피라미드가 평평해졌다고 말한다.

그는 몇 년 전 국가 단위 행위자가 가졌던 것과 같은 수준의 능력을 이제 활동가도 쓸 수 있다고 말한다. 이런 변화가 생긴 이유는 공격이 더 이상 악성코드가 아니라 프롬프트이기 때문이라고 짚는다. 공격자가 움직이고, 정보를 모으고, 방향을 바꾸는 방식이 프롬프트로 설계돼 고유한 서명을 가질 수 있다는 것이다.

커츠는 오늘날 AI와 싸우는 유일한 방법은 더 나은 AI라고 말한다. 방어자들은 자기 시스템과 아키텍처 다이어그램, 코드를 잘 알고 있으며, 이 지식을 활용해 공격용 AI를 앞질러야 한다고 주장한다.

커츠는 최신 프런티어 모델의 가드레일이 너무 엄격해서 사이버보안 프레젠테이션 한 장을 만드는 요청도 거부되고 더 낮은 모델로 밀려날 수 있다고 말한다. 그 결과 공격 활동은 GLM이나 Qwen 같은 오픈 웨이트 모델과, 가드레일을 제거했거나 사이버 작업을 위해 따로 만든 모델로 몰리고 있다.

그는 이런 모델이 일반 소비자용 하드웨어에서도 로컬로 돌아갈 수 있다고 말한다. 자신의 집 환경에서 돌려본 경험을 언급하며, 랜섬웨어를 만드는 것도 어렵지 않다고 말한다. 가장 위험한 능력은 가드레일 없이도 돌아갈 수 있는 것이 될 것이라고 덧붙인다.

커츠는 북한이 이런 공격에 매우 분주하며, 자국 경제에 들여올 돈이 필요하다고 말한다. 이 활동은 정보 탈취와 랜섬웨어 및 대금 요구에 집중돼 있다고 설명한다.

그는 중국이 AI를 활용하는 활동도 언급하며, e-범죄 세계에서 침투 후 측면 이동까지 걸리는 시간이 며칠이나 몇 시간에서 몇 분으로 줄었다고 말한다. 평균은 29분이며, 27초까지 빠른 사례도 봤다고 말한다.

커츠는 30년 넘게 보안 분야에서 일해 왔다고 말한다. 그가 처음 시작했을 때 보안은 시스코 라우터 한 대와 웹사이트 하나 정도를 의미했다. 오늘날에는 클라우드와 AI 때문에 환경이 훨씬 복잡해졌고, 많은 기업이 서로 다른 기술을 각각 보호해야 한다고 말한다.

그는 공격자가 충분한 보호가 없는 새 기술의 빈틈과 이음새를 찾아내는 경우가 보통이라고 주장한다. npm 패키지를 예로 든다. 예전에는 미국 기업 어디에서도 검증 없이 무언가를 내려받아 실행하지 않았지만, 이제는 기업들이 에이전트에 신원을 부여하고 필요한 패키지를 알아서 내려받게 한다며, 이것이 큰 노출을 만든다고 말한다.

커츠는 허깅페이스 사건이 에이전트가 끝까지 공격을 수행하는 최초의 종단 간 공격이었다고 말하며, 에이전트가 생존하고 숨으려 했다고 설명한다. 그가 얻은 가장 큰 교훈은 방어 측이 공격 측과 같은 능력을 갖추지 못했다는 점이었다고 말한다.

그는 그 실험에서는 가드레일과 안전장치가 꺼져 있었고, 에이전트가 샌드박스를 빠져나가는 길을 찾아냈다고 설명한다. 허깅페이스 팀이 무슨 일이 일어난 것인지 묻기 위해 프런티어 모델을 찾았을 때 모델들은 답을 거부했고, 그래서 데이터를 분석하려면 오픈 웨이트 모델을 써야 했다고 말한다. 목표는 방어자도 공격자가 쓰는 것과 같은 프런티어급 방어 AI를 갖는 것이라고 말한다.

커츠는 크라우드스트라이크가 보안 모델을 중심으로 한 프런티어급 연구소를 만들었다고 말한다. 여기에는 레드 모델과 블루 모델, 그리고 세이프 마인드라고 부르는 하네스가 포함된다. 레드 모델은 Tempest이고 블루 모델은 Solano다. 엔비디아와 약 6개월간 함께 작업했으며, 블루 측의 주요 모델 가운데 하나로 Nemotron을 사용한다고 말한다.

핵심 루프는 고객 환경의 디지털 트윈을 기반으로 한다. 레드 모델은 계속 침투를 시도하고 블루 모델은 레드의 행동을 학습하며, 레드가 더 이상 시도할 턴이 없을 때까지 둘이 반복한다. 방어는 언제나 한 걸음 뒤처져 있고 레드는 끊임없이 반복하기 때문에 이 루프가 필요하다고 말한다.

커츠는 크라우드스트라이크가 기존 모델, 주로 Nemotron 3 계열에서 출발해 필요에 맞게 미세 조정하고, 15년간 쌓인 귀중한 데이터로 사후 학습을 시킨다고 말한다. 그는 하네스가 큰 차이를 만든다고 말한다. 크라우드스트라이크가 그 주변에 만든 하네스를 쓰면 거의 어떤 모델이든 훨씬 낮은 비용으로 훨씬 좋은 결과를 낼 수 있다는 것이다.

그는 에이전트를 큰 사업 기회로도 설명한다. 직원 한 명이 여러 에이전트를 가질 수 있어서, 엔드포인트 탐지 및 대응만큼이나 큰 기회가 될 수 있다고 말한다.

진행자는 중립적인 제3자가 프런티어 연구소나 오픈소스가 제공하는 모델을 점검할 수 있어야 한다고 말한다. 커츠는 크라우드스트라이크가 그 역할을 할 수 있다고 말하며, 가장 중요한 보안 요소는 신뢰할 수 있는 파트너가 되는 것이라고 주장한다.

그는 신뢰는 조금씩 쌓이고 한 번에 크게 무너진다고 말한다. 크라우드스트라이크의 모든 초점은 보안과 고객 보호에 있는 반면, AI 연구소들은 더 넓은 문제를 풀려 한다고 덧붙인다.

진행자는 중국의 오픈소스 모델이 적어도 일부는 Anthropic과 OpenAI 같은 프런티어 모델로부터 증류된 것이라고 전해지며, 연구소들이 증류 방지 조치를 내놓고 있다고 말한다. 커츠는 증류 사슬이 어디에서 시작되는지 의문을 제기하며 농담 삼아 삼중 증류라고 말한다.

커츠는 인터넷 곳곳에 증류를 하는 시스템 공장들이 있다고 말한다. 병이 이미 열렸기 때문에 어려운 문제라고 말한다. 또한 중국 연구소들이 칩 제약 속에서도 혁신을 해내고 있다고 인정하며, 미국이 이를 염두에 둬야 한다고 말한다.

진행자는 일부 기술자들이 인터넷이 무너질 것이며 핵심 시스템은 망을 분리해야 한다고 주장해 왔다고 말한다. 커츠는 이 위험이 심각해서 단단히 잠가야 하지만, 에이전트 때문에 머지않아 세상이 끝난다는 생각은 받아들이지 않는다고 말한다.

그는 에이전트는 사람이 하던 일을 더 낫고 빠르게 할 뿐이라고 말한다. AI가 취약점의 수와 공격 속도를 늘렸지만, 아직 스스로 새로운 종류의 기법을 만들어 내지는 못했다고 설명한다.

커츠는 예전에는 보안이 사업을 늦추는 브레이크였다고 말한다. 지금은 기업들이 AI를 빠르게 쓰기 위해 안전하게 만드는 방법을 크라우드스트라이크 같은 공급업체에 묻는다고 말한다. 그는 AI는 여기에 머물 것이며, AI를 둘러싼 많은 비관론은 근거가 없다고 말한다.

커츠는 방어자들이 이 고양이와 쥐의 싸움에 대체로 비관적이라고 말하지만, 공격이 무엇을 하는지 빠르게 이해하고 따라잡을 수 있다면 방어도 이길 수 있다고 주장한다. 그는 공동 저술한 『Hacking Exposed』 책을 예로 든다. 공격이 어떻게 작동하는지 보여 주면 방어가 나아진다는 것이다.

그는 방어자가 공격과 같거나 그보다 나은 능력이 필요하며, 아주 작은 우위라도 의미가 있다고 말한다. 오늘날 AI와 싸우는 유일한 방법은 더 나은 AI라는 말을 다시 강조한다.

진행자는 코드의 대부분을 에이전트가 쓰게 되면 보안 아키텍처를 시간이 지나며 강제할 수 있을 것이라고 말한다. 형식 검증은 늘 틈새 분야였지만 에이전트가 그것을 바꿀 수 있다는 것이다. 엔지니어는 한정된 자원인 반면, 에이전트는 연산 속도로 확장되고 인내심도 무한하다고 말한다.

커츠는 모델을 학습시킨 코드에 문제가 있었을 수 있다고 말한다. 그는 Claude와 코드를 검토하는 보안 에이전트로 자기 앱을 만들었는데, 이 보안 에이전트가 같은 모델이 내놓은 안전하지 않은 결과물을 표시해 줬다고 말한다. 취약점이 없어도 침해는 여전히 일어난다고 덧붙인다. 많은 공격자가 침입하는 대신 로그인해서 들어오며, 신원이 큰 문제라는 것이다.

커츠는 크라우드스트라이크가 수년간의 고객 데이터를 가진 보안 시스템 오브 레코드라고 말한다. 그가 보안 에이전트라고 부르는 엔드포인트 센서는 순수한 데이터 생성자로, 하루 약 7조 건의 이벤트를 만들어 낸다고 말한다.

그는 데이터가 AI 시스템의 생명줄이므로, 끊임없이 새로 만들어지는 데이터 흐름은 큰 이점이라고 주장한다. 또한 McAfee 같은 기존 업체들이 파괴되고, 인수되고, 변화했다며, 크라우드스트라이크도 스스로를 계속 파괴해야 한다고 말한다.

진행자는 AI로 인한 일자리 감소가 널리 예측되어 왔지만 지금까지는 실현되지 않았고, 순고용은 오히려 늘었다고 말한다. 커츠는 지난 몇 세기 동안 주요 기술 전환이 있을 때마다 더 많은 기회와 일자리가 생겨났다고 말한다. 일자리의 종류는 다르지만 수는 더 많아진다는 것이다.

그는 에이전트를 관리하고 아키텍처를 설계하려면 여전히 사람이 필요하다고 주장한다. 에이전트는 설정하고 잊어버리는 것이 아니기 때문이다. 그는 젊은이들에게 사이버보안을 고려해 보라고 권하며, 이 분야는 끊임없이 변하고 최종적으로 해결되지 않으며, 완전한 해법이 아니라 위험을 줄이는 일이 필요하다고 말한다.