AI 발전 가속화, 진실 추구 AI가 잘못된 정보에 맞서다

스페이스X는 월 11억 달러, 연간 총 133억 달러 규모의 새로운 비공개 계약을 확보했습니다. 이 중요한 계약은 스페이스X의 총 고마진 컴퓨팅 계약을 411억 달러로 늘려, 일론 머스크의 연간 반복 매출 1000억 달러 달성이라는 야심 찬 목표에 크게 기여하고 있습니다.

일론 머스크는 2.1조 개의 매개변수를 가진 새로운 AI 모델인 Grok 4.7의 출시를 준비하고 있습니다. 이 모델은 새로운 성능 표준을 설정하고 기존의 모든 AI 벤치마크를 능가하며 인공지능 분야의 현재 리더보드를 뒤흔들 것으로 예상됩니다.

공동 창립자에 따르면, 이 모델은 ARC-AGI 벤치마크에서 99.9%의 점수를 달성했으며 물리학 및 수학 분야에서 숙달된 능력을 보여주었습니다.

모델 연구소, 애플리케이션 래퍼, 인프라 제공업체 간에 경쟁이 존재하지만, 궁극적인 경쟁 우위는 컴퓨팅 가용성에 있습니다. 구글과 같은 기업들은 이미 인프라로 초점을 전환하고 있습니다.

DeepSeek은 디자인을 포함한 다양한 벤치마크에서 Astra의 고급 AI와 성능이 일치하지만 비용은 1.4%에 불과한 오픈소스 모델을 출시했습니다. 이러한 발전은 지능 가격의 급격하고 극적인 하락을 의미하며, 높은 수준의 AI 기능을 더 쉽게 접근할 수 있게 합니다.

새로운 모델이 비교 벤치마크에서 모든 항목에서 우승하는 것은 아니지만, 그 근접한 성능은 AGI로 분류되는 모델들과 실질적으로 동등합니다.

이러한 비용 효율성은 AI 산업 내에서 광범위한 인프라 및 에이전트 생태계에 대한 긍정적인 신호입니다.

고성능, 저비용 오픈소스 모델의 가용성은 다양한 부문에서 혁신과 배포를 가속화할 것으로 예상됩니다.

과거에는 거짓말이 노출되기까지 수년 또는 수십 년 동안 지속될 수 있었지만, 현대 AI 모델은 이제 논리적 불일치를 즉시 감지하여 몇 분 만에 허위 서사를 효과적으로 파쇄할 수 있습니다.

이러한 능력은 가스라이팅이 과거보다 훨씬 더 많은 노력과 정교한 연출을 요구하게 됨을 의미하며, AI가 전통적인 서사 통제 방식을 쓸모없게 만들고 있음을 시사합니다.

진실 추구 AI에 의해 가능해진 강제적 투명성은 중요한 정치적 딜레마를 제시합니다. 정치인들은 무상 서비스와 보조금 제공을 중단하면 유권자를 잃을 위험이 있기 때문입니다. 정치 지도자들은 종종 예산 삭감과 경제적 현실을 포퓰리즘적 서사로 가리는데, 이는 이제 AI의 부패하지 않는 예언자 역할을 통해 도전받고 있습니다.

발표자는 정치인과 전통 미디어가 대중 서사에 대한 권위를 되찾기 위해 AI 도구를 검열하려고 시도할 가능성이 높다고 예측합니다.

이들은 치명적인 충돌을 테슬라의 완전자율주행(FSD) 또는 오토파일럿 기능과 잘못 연결했습니다. 운전자가 음주 상태에서 비계에 충돌한 이 사건으로 인해 ABC 뉴스는 커뮤니티의 지적을 받아 오해의 소지가 있는 보도를 삭제해야 했습니다.

이 사건은 전통 미디어 서사에 대한 실시간 대중 교정과 감시의 힘이 증가하고 있음을 보여주는 사례로, 이는 소셜 미디어와 AI 기반 팩트 체크를 통해 종종 증폭됩니다.

일론 머스크는 AI 도구인 Grok을 사용하여 이 사례들을 감사했으며, 9건은 자살이고 1건은 살인으로 밝혀졌습니다.

살인 사건은 유색인종이 가해자였으며, 이는 특정 그룹이 영속시키는 인종 폭력이라는 암묵적인 서사와 모순되었습니다.

이러한 사건들은 정치인들이 인종 분열을 조장하고 대중의 정서를 통제하기 위해 허위 데이터를 사용하고 있다는 비난을 강조하며, 정치적 발언의 사실 확인에 AI의 역할이 커지고 있음을 보여줍니다.

정치인들은 종종 대중을 분열시키고 통제하기 위해 잘못된 게시물과 서사를 사용하며, 증오심을 조장하기도 합니다. 발표자는 시민들이 서로 싸울 때 정치인들이 대중을 통제하기가 더 쉬워진다고 제안합니다.

AI가 가능하게 할 수 있는 투명성의 증가는 이러한 정치적 거짓말을 해독하는 데 도움이 될 것이라는 희망이 있지만, 이는 X와 다양한 AI 도구와 같은 플랫폼을 폐쇄하려는 정치적 압력을 높일 수도 있습니다.

연구원 Jacob은 9월 8일 Anthropic에서 사임한다고 발표했으며, OpenAI와 Anthropic에서 3년간의 사전 훈련 연구 경험을 주장했습니다. 그러나 발표자는 Jacob이 Anthropic에 6주밖에 머물지 않았다고 지적하며, 자발적 사임이라기보다는 해고되었을 가능성이 높다고 시사했습니다.

주요 IPO 직전에 사임하는 것은 상당한 주식 가치를 포기하는 것을 의미하며, 발표자는 이를 비논리적이라고 평했습니다. Jacob은 또한 정치적 및 반진보적 단체와 연관되어 있어, 그의 퇴사와 이어진 X에서의 반 AI 서사가 대중 인식을 조작하기 위한 조직적인 '사이옵(sci-op)'의 일부일 수 있다는 이론을 더욱 뒷받침합니다.

일론 머스크는 AI '둠(doomerism)'의 갑작스러운 급증을 '사이옵(sci-op)' 또는 조직적인 설정으로 일축하며 그 기원과 동기에 의문을 제기했습니다. 젠슨 황 또한 온라인에서 갑작스러운 공포 확산에 당혹감을 표하며 이를 '약간 미친 짓'이라고 묘사했습니다.

두 업계 리더 모두 이러한 공포 조장 서사가 사실 분석에 기반하여 커뮤니티에 의해 빠르게 반박되었으며, 이는 진정한 우려라기보다는 여론을 조작하려는 조직적인 노력을 시사한다고 말했습니다.

BBC 뉴스나이트 인터뷰에서 제프리 힌튼은 "AI가 모든 인류를 죽일 확률이 10%라는 것은 비합리적으로 과장된 추정치가 아니다"라고 말했습니다. 발표자는 이 발언을 대중에게 공포를 조장하기 위한 선전으로 분류했습니다.

주류 언론 매체들은 이러한 통계와 '둠(doomer)' 주장을 의도적으로 확대하여 대중의 우려를 불러일으키고 AI 개발에 관한 정책 결정에 영향을 미치려는 것으로 보입니다.

영국 하원에서 인공 초지능(ASI)을 국가 안보를 명목으로 표적으로 삼는 의원 발의 법안이 발의되고 있습니다. 제안된 법안은 ASI의 배포, 개발 및 운영을 금지하는 것을 목표로 합니다.

이러한 움직임은 중요한 기술에 대한 더 엄격한 감독을 위한 광범위한 추진을 시사하며, 특히 AI 개발을 위한 고급 GPU 및 기타 필수 칩 공급에 대한 접근을 규제하는 데 초점을 맞추고 있습니다.

일론 머스크는 10년 전 AI의 위험을 북한이 제기하는 위험에 비유하며, "AI 안전에 대해 걱정하지 않는다면 걱정해야 한다. 북한보다 훨씬 더 위험하다"고 말했습니다. 그러나 발표자는 AI 개발이 전 세계적인 노력임을 강조합니다.

서방 국가들이 AI 개발 노력을 중단한다면 중국과 같은 다른 국가들은 필연적으로 계속할 것이므로, "한번 튜브에서 나온 치약을 다시 넣을 수 없듯" AI 개발을 멈출 수 없습니다. 이는 글로벌 경쟁 환경에서 AI를 규제하는 전략적 딜레마를 강조합니다.

행동의 근본적인 이유를 이해하는 것은 특히 AI 환경을 탐색하는 투자자들에게 상당한 명확성을 제공할 수 있습니다. 인센티브를 따르면 "온 세상이 매우 명확해지기" 때문입니다. 투자자들은 공포에 기반한 헤드라인이나 대중 서사에 단순히 반응하기보다는 미래 산업의 궤도를 예측하도록 조언받습니다.

AI는 올바르게 활용될 경우, 조작적인 잡음 속에서 진정한 기회를 식별할 수 있다면 노출과 성장을 위한 강력한 도구로 남습니다.