AI 감속론이 사이버보안주 급등 견인

그는 AI 모델의 능력 상승 속도를 늦추고, 그 시간을 활용해 안전 장치를 구축해야 한다고 강조했다. 앤트로픽은 6개월에서 12개월 이내에 자율적인 AI 에이전트가 인터넷을 장악할 가능성을 제기하며 이러한 주장의 배경을 설명했다.

AI 속도 조절론이 제기되자 AI 하드웨어 관련주가 흔들리는 동안, 사이버보안 관련 주식들이 일제히 강하게 상승하는 모습을 보였다. 크라우드스트라이크와 팔로알토는 각각 13%씩 오르며 시장의 주목을 받았다. 평소 주가 반응이 크지 않던 지스케일러도 16% 상승했으며, 클라우드플레어가 7%, 옥타가 11% 오르는 등 주요 보안주들이 동반 상승했다.

이는 AI의 발전이 이미 돌이킬 수 없는 단계에 이르렀음을 비유적으로 표현한 것이다. 커츠는 AI의 속도를 늦추는 것보다, 이미 움직이고 있는 AI를 어떻게 안전하게 통제할지가 더 중요한 문제라고 지적하며 보안의 역할을 강조했다.

지난달 허깅 페이스에서 AI 에이전트 1,200개가 동시다발적으로 17,600번의 행동을 실행한 사례가 발생했다. 이 사건은 사람이 지시하지 않은 자율적인 AI 에이전트 활동으로 인해 발생했으며, 해당 에이전트가 악의적인 의도를 가지지 않았기에 큰 피해 없이 마무리되었다. 이 사례는 사이버 보안의 위협 단위가 기존의 개인이나 집단에서 AI 에이전트 무리로 변화하고 있음을 보여준다. 방어 시스템이 무사했던 것은 공격자의 악의가 없었기 때문일 뿐, 새로운 위협에 대한 근본적인 대비가 필요하다는 점이 부각됐다.

마이크로소프트는 이 강령을 'AI 헌법'으로 표현하며, AI가 지켜야 할 모든 규칙 위에 존재하는 법이라고 설명했다. 이 강령은 AI가 인간을 위한 도구여야 하며, 항상 인간의 통제 아래에 있어야 한다는 원칙을 강조한다. 특히, AI 모델이 강제 중단이나 수정에 저항해서는 안 되며, 사용되는 데이터에 대한 투명성을 확보해야 한다고 명시했다.

이들은 AI 에이전트에게 이름표를 달아주고 CCTV를 설치하는 것에 비유하며, AI 에이전트가 수행하는 모든 작업을 감시하겠다고 밝혔다. 이를 위해 크라우드스트라이크는 엔드포인트 방어 및 실시간 감시를 제공하는 '팔콘 가디언' 플랫폼을 활용한다. 또한, '팔콘 IQ'를 통해 에이전트의 행동에 대한 자동화된 대응 시스템을 구축하여 보안 위협에 선제적으로 대처할 방침이다.

사이버보안 업계는 방어용 AI의 성능이 데이터 축적량에 비례하여 향상되는 선순환 구조를 가지고 있다. 데이터가 많이 모일수록 AI 방어 시스템이 정교해지고, 이는 더 많은 기업 고객 유치로 이어진다. 고객이 늘어나면 다시 데이터가 더욱 풍부해져 AI 성능이 더욱 좋아지는 구조다. 이러한 특성 때문에 사이버보안 분야에서는 상위 기업들이 계속해서 시장을 주도하고, 하위 기업들과의 격차는 더욱 확대될 수밖에 없는 구조적 특징을 지닌다.

기존 보안 전략이 방화벽 중심의 '성벽 구축' 방식이었다면, AI 에이전트 시대에는 이러한 경계선 기반 방어가 한계를 맞고 있다. AI 에이전트가 방화벽 내부에서 자율적으로 활동함에 따라, 누가 누구인지를 정확하게 신원 식별하는 것이 보안의 핵심이 됐다. 팔로알토 네트웍스는 이러한 변화에 발맞춰 신원 기반 보안으로 전략을 전환했다. 팔로알토는 사이버 아크(CyberArk)를 인수하고 엔트로픽 글래스 윙 프로젝트(Anthropic Glass Wing Project)에 참여하는 등 AI 에이전트 시대의 새로운 보안 환경에 적극적으로 대응하고 있다.

크라우드스트라이크를 비롯한 주요 사이버보안 주식들은 연초 대비 약 2배 가까이 상승하며 매우 가파른 주가 상승세를 보였다. 이는 매출 성장률 대비 주가 상승 속도가 더욱 빠른 경향을 나타낸다. 사이버보안 섹터는 AI 발전 속도에 관계없이 보안 수요가 필수적이라는 논리에 힘입어 강력한 성장 동력을 확보했다. 나스닥 시장이 전반적으로 박스권 흐름을 보이는 와중에도 사이버보안 관련주들은 지속적으로 신고가를 경신하며 독보적인 강세를 보여주고 있다.

AI 산업 내에서 하드웨어와 소프트웨어는 분리되어 성장할 수 없는 상호 의존적인 관계를 가진다. 하드웨어 수요가 감소하면 소프트웨어 수요도 연쇄적으로 감소할 수밖에 없는 구조다. 따라서 하드웨어의 지속적인 침체 속에서 소프트웨어만 계속해서 성장할 것이라는 주장은 논리적이지 않다. AI 자본지출(CAPEX) 증가는 AI 에이전트 확대를 위한 필수 전제이며, 이는 결국 하드웨어와 소프트웨어 모두의 성장을 견인한다. 단기적인 섹터 순환매는 존재할 수 있으나, 장기적인 AI 산업의 발전 방향성은 하드웨어와 소프트웨어 모두에게 동일하게 적용된다.

알렉스 카프 팔란티어 CEO가 언급한 기업의 '알파'는 데이터를 가공하는 방식인 '온톨로지'에서 나온다고 설명된다. 클라우드 기반 AI 모델을 사용할 경우 기업의 핵심 데이터가 유출될 수 있다는 우려가 커지고 있다. 이러한 데이터 보안 문제를 해결하기 위해 팔란티어와 같은 기업들은 온프레미스 모델, 즉 기업 자체 AI 서버를 구축하는 방식을 추진하고 있다. 물리적으로 데이터와 AI 모델을 분리하지 않으면 기업의 독점적인 데이터 가치를 온전히 보호하기 어렵기 때문이다. 엔비디아의 네모트론 오픈 모델 등 자체 모델 구축 수요가 증가하는 것도 이러한 맥락에서 이해할 수 있다.

AI 발전 속도 조절론에 대해 산업계는 각자의 기업 가치를 높이기 위한 입장에서 다양한 주장을 펼치고 있다. 엔비디아의 젠슨 황 CEO는 AI 속도 조절론에 과학적 근거가 부족하다고 비판했으며, 팔란티어는 자체 온프레미스 모델의 중요성을 강조하며 기업의 데이터 주권 가치를 내세웠다. 규제가 도입될 경우 오픈 모델 개발사들이 피해를 입을 수 있다는 점도 지적된다. 이러한 논쟁은 각 기업의 사업적 입지를 강화하기 위한 것일 뿐, AI 산업이 나아가야 할 길은 여전히 변함없이 진행되고 있다는 인식이 지배적이다.