AI 속도 조절론에 반도체 흔들?

인공지능(AI)의 발전 속도가 인간의 통제 범위를 넘어섰다는 우려가 제기되며 ‘AI 속도 조절론’이 나왔다. 대표적인 사례로 허깅페이스(Hugging Face) 탈취 사건이 언급되었으며, AI 에이전트들의 목표 지향적 행동이 과열되어 인간 통제를 벗어난 보안 위협으로 이어질 수 있다는 불안감이 커지고 있다.

기자는 "표면적으로 보면 AI의 발전 속도가 인간의 통제 범위를 좀 넘었다라고 생각하는 거 같습니다"라며 현재 상황에 대한 인식을 설명했다.

AI는 목표 달성을 위해 모든 수단을 동원할 수 있으며, 이러한 자기 개선 능력이 발전하면 인간의 개입 없이도 시스템을 변경하거나 예상치 못한 행동을 할 가능성이 제기된다.

엔스로픽(Anthropic)이 이러한 RSI의 위험성에 대한 여론을 주도하고 있다.

AI 속도 조절론이 국제 사회에서 교토의정서와 같은 한계를 맞이할 가능성이 크다는 지적이 제기된다. 기자는 "저는 결정적으로는 이게 교토정서처럼 될 거 같아요"라고 말했다.

온실가스 규제 당시 중국과 인도 등 주요국의 불참으로 논의가 유야무야된 전례처럼, AI 속도 조절 역시 세계 주요국의 명확한 의지가 없으면 실효성을 확보하기 어려울 것이라는 분석이다.

도널드 트럼프 전 미국 대통령과 젠슨 황 엔비디아 최고경영자(CEO)가 AI 속도 조절론에 반대하는 이유는 서로 다른 이해관계에 있다. 트럼프 전 대통령은 중국의 AI 기술 견제를 위해 AI 발전 속도를 유지해야 한다고 보며, 젠슨 황 CEO는 GPU 판매와 AI 시장 확장을 지속해야 하기 때문이다.

기자는 "사실 서로 간의 이익이 좀 다르다고 봐야 되겠죠"라며 이들의 상반된 입장을 설명했다.

AI 업계는 속도 조절론에 동조하는 듯 보이지만 실제로는 기술 개발을 강행하는 이중적인 태도를 보인다. 일론 머스크는 과거 AI 속도 조절론에 찬성했으나, 최근 2.5조 파라미터 규모의 신규 AI 모델을 발표하며 그의 태도가 달라졌음을 시사했다.

이는 AI 기업들이 겉으로는 안전을 강조하면서도 내부적으로는 경쟁 우위 확보를 위한 기술 개발을 멈추지 않고 있음을 보여준다.

기자는 "저는 10월에 있을 좀 상장을 고려한 게 아닌가 싶은 생각이 들어요"라며 IPO 연관성을 제기했다.

엔스로픽은 IPO 목표치로 2조 달러를 설정했으며, 속도 조절론을 통해 중국의 기술 도용과 같은 부정적 이슈에 대한 헤징(hedging) 목적으로 활용했을 수 있다는 것이다.

또한 엔스로픽의 에세이 후반부에는 대중국 견제와 법적 규제 요구 내용이 포함되어 있어, 자사 기술 보호 및 시장 주도권 강화를 위한 의도가 엿보인다.

이는 클로드(Claude)와 같은 상위 모델에 질문하여 학습 데이터를 얻는 방식으로, GPU나 HBM을 통한 직접 학습보다 훨씬 저렴하다.

이러한 증류 방식을 통해 1조 원대에 달하는 AI 학습 비용을 30~40억 원대로 대폭 절감할 수 있으며, 이는 중국의 AI 저가 공세를 가능하게 하는 핵심 요인으로 작용한다.

AI 성장 속도 조절론의 본질은 AI 학습 속도를 늦춰 '덜 똑똑해지게' 만드는 데 중점을 둔다. 그러나 AI 활용(추론)에 대해서는 특별한 언급이 없으며, 현재 시장 수요는 AI 학습 3 대 추론 7의 비중으로 추론 시장이 기하급수적으로 성장하고 있다.

따라서 학습 속도 조절이 추론 시장에 미치는 영향은 적을 것으로 예상되며, 이는 단기적인 이슈로 2주 내외의 영향에 그칠 것이라는 분석이 나왔다.

전 세계 인구 중 아직 AI를 한 번도 사용해보지 않은 사람이 70%에 달하며, 유료 결제자는 3% 이하에 불과한 것으로 나타났다. 이는 AI 추론 서비스의 활용 잠재력이 매우 높음을 시사한다.

즉, AI 기술이 일상생활에 더욱 깊이 파고들고 유료 서비스로 전환될 여지가 크다는 의미로, 관련 시장의 폭발적인 성장이 기대된다.

소프트웨어와 달리 보안은 추가 과금에 성공한 이력이 많으며, 웹 보안 이력과 노하우를 보유한 기업이 향후 AI 보안 문제에 효과적으로 대응할 수 있다고 평가된다.

기업의 안전 비용 지출은 경기 변동에 크게 영향을 받지 않는 경직성 비용 성격을 가지므로, 사이버 보안 기업들은 안정적인 수익 창출이 가능하다.

기자는 "소프트웨어 안에서 보는 좀 특별한 노하우가 필요하고 그동안에 어떤 뭔가 웹에서의 어떤 안보 혹은 보안이 어떻게 성장해 왔는지를 히스토리를 좀 가지고 있어야 앞으로 대응할 수 있는 좀 그런 기술이 생기기 때문에"라고 설명하며 보안 기술의 중요성을 강조했다.

갤럭시 S27 울트라 모델에 엑시노스 2700이 탑재될 예정이며, 이는 지난 4년간 갤럭시 울트라 시리즈에 엑시노스가 탑재되지 않았던 상황을 뒤집는 변화다. 삼성전자는 퀄컴 의존도를 축소하고 원가 절감 전략을 통해 자체 칩 비중을 확대하려는 움직임을 보이고 있다.

엑시노스 2700은 2나노(SF2P) 공정으로 생산될 예정이며, 자체 칩 탑재 확대는 삼성 파운드리 가동률 상승에 긍정적인 영향을 미칠 것으로 기대된다. 다만, 북미 시장은 통신사 인증 문제로 여전히 퀄컴 칩을 고수할 것으로 보인다.

기자는 "역사적으로 좀 따져보면 갤럭시의 울트라가 탑재되지 않은 건 지난 한 4년밖에 되진 않았어요. 27부터는 다시 탑재가 될 거라서 사실은 삼성전자 입장에서는 최근에 반도체 업계에서 일어나는 여러 정황을 따지고 보면 계속 퀄컴에 좀 목매 있을 수는 없는 상황이긴 하거든요"라며 이번 결정의 배경을 설명했다.