AI 발전 가속화, 경고음 속 투자 활발

소비자물가지수(CPI)가 예상치에 부합하면서 나스닥 시장은 1% 상승하는 모습을 보였다. 핵심 CPI(근원 CPI)는 소폭 상승했지만, 시장은 금리 인상 가능성이 낮아질 것으로 기대하며 긍정적으로 반응했다.

국제유가 하락세도 증시에 긍정적인 영향을 미치며 전반적인 시장 분위기를 끌어올렸다.

이는 전 세계적인 경기 둔화 우려와 맞물려 석유 수요가 예상보다 감소할 것이라는 전망에 따른 것이다.

또한 오만의 중재로 이란과 걸프협력회의(GCC) 외무장관 회동이 추진되는 점도 유가 하락에 영향을 미쳤다. 회동에서는 호르무즈 해협 통행료 징수 문제가 주요 협상 과제로 다뤄질 예정이다.

그는 AMD, 블루에너지, 코어이브 등 AI 관련 핵심 주식을 매수하는 동시에 SK하이닉스, 샌디스크, DRAM ETF 등 AI 생태계 전반에 걸친 투자 행보를 보였다.

이는 AI 기술 발전과 함께 관련 산업의 성장 가능성에 대한 강한 확신을 보여주는 것으로 해석된다.

최근 일부 고객의 서비스 요청을 거절해야 할 정도로 수요가 강해 데이터 센터의 대규모 증설이 불가피하다는 설명이다.

회사는 2032년까지 AI 전용 데이터 센터 용량을 현재의 6배까지 확대할 예정이다. 또한 개인용 에이전트 및 가상 머신 도입으로 일반 데이터 센터 수요도 동반 상승할 것으로 전망했다.

중국의 AI 회사 문샷(Moonshot)이 자사의 AI 키미(Kimi)를 통해 사용자의 요청을 엔트로픽의 클로드(Claude) 모델로 몰래 우회 처리한 사실이 엔트로픽 보고서로 드러났다. 문샷은 5,380개의 사기 계정을 동원해 사용자 요청 30만 건을 클로드 오퍼스(Opus) 모델에 전달한 것으로 밝혀졌다.

이는 AI 모델 개발 및 활용 과정에서 발생할 수 있는 윤리적, 법적 문제에 대한 경각심을 높이는 사례로 지적된다.

오픈AI의 샘 알트먼 CEO가 AI 개발 속도 조절 의지를 표명했지만, 시장에서는 이에 대한 회의적인 시각이 제기된다. 오픈AI가 자체적으로 개발 속도를 조절할 수는 있겠지만, 다른 AI 회사들이 이에 동참할지는 미지수라는 의견이 많다.

특히 오픈AI와 엔트로픽 간의 치열한 경쟁 구도를 고려할 때, 경쟁 기업 간의 평화 협정 가능성은 희박해 보인다는 분석이 나온다.

최근 몇 주 동안 주요 AI 기업 직원들이 AI 시스템의 위험성을 공개적으로 경고하는 발언이 이어졌다. 오픈AI의 야코파스키는 AI의 협력 필요성을 언급하며 안전한 개발의 중요성을 강조했다.

이러한 내부자들의 경고는 엔트로픽과 오픈AI가 IPO를 앞둔 시점에 나왔다는 점에서 주목된다. 일각에서는 IPO를 앞둔 마케팅 또는 대중의 관심을 끌기 위한 ‘어그로’일 가능성도 제기하고 있다.

그는 마치 영화 ‘어벤져스’의 울트론과 같은 방향으로 AI가 발전하고 있다고 경고했다.

제이콥은 2030년 이전에 인류에게 심각한 위협이 될 수 있는 초지능 AI가 등장할 가능성을 언급하며, AI 개발의 위험성을 강력하게 주장했다.

GPT-6 아스트라(Astra)와 관련된 놀라운 데모들이 계속해서 공개되고 있다. 이 모델은 영상 편집을 수행하고 풋볼 매니저 게임을 플레이하는 등 고도화된 기능을 선보이며 한 단계 진보한 성능을 입증했다.

특히 GPT-6 아스트라의 코딩 능력은 재귀적인 자가 개선 가능성을 시사한다. 이는 스스로 학습하고 발전하는 초지능 AI의 잠재력을 보여주는 것으로, 기술 발전의 가속화에 대한 기대와 우려를 동시에 낳고 있다.

세계 최대 헤지펀드 브리지워터의 최고투자책임자(CIO)는 AI로 인한 인류 멸종 위험을 경고하며, AI가 사람을 죽이기 시작하기 전까지는 인류가 아무런 조치도 취하지 않을 것이라고 비판했다. 그는 인류가 AI의 위험성을 너무 방심하고 있다고 지적하면서도, 자신은 오픈AI와 엔트로픽의 초기 투자자였음을 밝혔다.

그는 2~3년 내에 AI의 집단 판단력이 인간을 능가할 것이라고 전망하며, 이로 인한 실존적 위협에 대비해야 한다고 강조했다. 해결책으로는 AI 기업의 법적 책임 강화와 AI 서비스 사용량에 따른 토큰세 도입을 제안했다.

이는 AI 기술 발전이 가져올 사회적, 윤리적 문제에 대한 깊이 있는 고민과 선제적인 대응책 마련의 필요성을 보여준다.

브리지워터는 AI 기술 발전이 고용 시장에 미칠 영향에 대해서도 전망했다. 이들은 향후 5년 내에 미국 전체 일자리의 최대 18%가 AI로 대체될 수 있다고 예측하며, 상당한 규모의 직업 변동이 발생할 수 있음을 시사했다.