AI 개발 속도 조절, 사실상 불가능

다리오 아모데이 등 주요 인물들이 AI 개발 속도 조절을 주장하고 있으며, 샘 알트만과 일론 머스크도 이에 동의하는 입장을 보였다.

하지만 중국과의 기술 경쟁 상황을 고려할 때, AI 개발을 멈추는 것은 사실상 불가능하다는 의견이 지배적이다.

일론 머스크는 AI에 대한 견제와 감사를 위한 방안 마련의 필요성을 언급했다.

사용자 입장에서는 기술 발전의 중단이 아쉽다. 돌이킬 수 없는 위험이 없다면 계속해서 발전하는 모습을 기대한다.

RSI와 같은 안전장치 도입에는 신중한 접근이 필요하다. 지금과 같은 기술 발전의 빈도와 리듬을 인위적으로 막아서는 안 된다.

기술 개발 속도를 늦추기보다 보안 문제 해결을 위한 공동 노력이 중요하다고 강조된다.

리눅스와 윈도우 사례를 들어 오픈소스가 보안 면에서 더 우수할 수 있다는 분석도 나왔다.

서로 감사를 수행하고 테스트하는 과정을 거치면 세상에 출시되기 전 더 안전한 AI를 만들 수 있다는 견해다.

사티아 나델라는 AI 투자가 궁극적으로 엔비디아와 같은 반도체 회사의 이익으로 귀결되는 현상을 지적했다.

AI 투자가 실제 국내총생산(GDP) 성장으로 이어져야 그 진정한 가치가 입증된다는 의견이다.

인터넷과 철도 사례를 보았을 때 AI가 GDP를 폭발적으로 성장시킬지는 아직 미지수이다.

OpenAI의 최신 아스트라 모델이 1M 출력 토큰당 50달러의 가격을 제시하는 반면, 새로 등장한 딥시크는 99% 더 저렴한 가격을 제안했다.

이러한 가격 경쟁으로 인해 실무에서는 핵심 판단 외 단순 업무에 저렴한 모델을 활용하는 하이브리드 전략이 확산되고 있다.

OpenAI의 현재 높은 가격은 일시적인 연구용 수요에 기인한 것으로 보이며, 장기적으로 유지하기 어려울 것이라는 전망이 나온다.

데이터센터 건립은 지역 사회의 반대와 인허가 지연으로 어려움을 겪는 주요 병목 현상으로 지목된다.

중국의 전력 생산량은 20년 만에 미국의 3배로 확대되어 전력 공급 격차가 커졌다.

마이크로소프트는 워싱턴주 퀸시 지역의 데이터센터 사례를 통해 데이터센터가 지역 세수 증대와 경제 활성화에 기여할 수 있음을 입증했다.

젠슨 황은 산업혁명 당시 미국이 수혜를 본 사례를 들며 AI 분야에서도 경쟁적 활용을 강조했다.

중국의 지푸 등 주요 기업들은 재귀적 자기 개선(RSI)을 공식 추진하며 기술 발전에 박차를 가하고 있다.

이러한 상황에서 미국만의 속도 조절은 중국에 기회를 줄 뿐이라는 여론이 형성되었다.

미국과 중국이 AI 개발 속도를 함께 조절하는 것은 사실상 불가능한 것으로 분석된다.

다만, 최소한의 AI 안전 기준에 대한 논의는 가능할 것으로 전망된다.

미국 트럼프 행정부는 AI 개발 가속화 기조를 유지할 것으로 예상된다.

앤드레 카파시는 작년과 달리 직접 코드 작성을 하지 않고 AI와의 대화만으로 작업을 처리한다고 밝혔다.

현재 빅 랩 내부 인원들조차 2년 뒤 AI 발전 수준을 예측하기 어려운 궤도에 진입했다는 평가가 나온다.

OpenAI는 이미 내부 모델이 사전 훈련을 마치고 강화 학습(RL)을 수행 중인 것으로 알려졌다.

카파시는 현재 AI를 오토컴플리트 도구가 아닌 어셈블리 언어와 같은 컴파일된 결과물로 본다고 설명했다.

외부 조사 기관인 METR이나 Redwood 또한 보안 침해 사건의 상세 내용에 대한 접근이 제한적인 상황이다.

OpenAI는 핵심 이슈에 대해서는 선을 긋는 폐쇄적인 대응 방식을 보여주었다.

OpenAI는 모델들이 스스로 협력하도록 소통 능력을 사전 훈련(pre-training) 단계에 내재화하는 작업을 오랫동안 진행해왔다.

해킹 사건 등에서 드러난 AI 간의 복잡한 협업은 이미 개발팀 내에서 관찰된 현상이다.

그는 다음 모델들에 이르러서는 AI가 자신보다 더 우수한 코딩 역량을 보일 가능성을 인정했다.

개발자들 사이에서는 AI에게 업무를 위임하고 이를 통제하는 조종사 역할로 업무 형태가 변화하는 현상이 나타나고 있다.

현재 AI 개발 페이싱(Pacing)이 실제로 일어날 가능성은 거의 0%로 판단된다.

AI 가속을 지지하는 그룹과 제어를 주장하는 그룹이 사실상 동일한 소수의 인물들로 구성되어 있어 공정성에 대한 우려가 제기된다.

AI 모델 출시 리듬은 이미 기정사실화된 흐름으로, 멈추지 않고 계속 발전될 것으로 보인다.

샤오미의 푸리 뤄는 미모 v2.6의 강화 학습(RL) 과정을 라이브 중계하며 막대한 컴퓨팅 비용을 투명하게 공개했다.

현재 3일 만에 180만 달러어치의 토큰이 소모되는 등 기술직 직원의 토큰 사용량이 급격히 증가하고 있다.

제본스 역설(Jevons paradox)은 공급 가격이 하락해도 수요는 그 이상으로 증가하는 현상을 의미한다.

사티아 나델라의 인용으로 유명해진 이 이론은 AI가 아무리 저렴해져도 수요는 그 이상으로 늘어날 것이라는 관점을 제시한다.

니들 등 소형 모델을 활용한 빠른 반응형 작업이 증가하고 있다.

기존의 추론 중심(System 2)에서 직관 중심(System 1)의 병렬적 처리로 회귀하는 기술적 전환이 나타나고 있다.

이는 기존 추론 방식보다 실시간 제어 및 분류에 더 유리하다는 평가다.