GPT-6 아스트라 공개, 무엇이 문제인가?

오픈AI가 9월 3일 신규 모델 GPT-6 아스트라를 전격 공개했다. 이는 지난 GPT-5.6 공개 이후 2개월도 채 되지 않은 시점으로, 매우 빠른 개발 속도를 보여준다.

지난 4월 샘 올트먼 최고경영자의 학습 지시 이후 8월부터 본격적인 정보 유출이 시작되었으며, 한때 사이버 보안 및 안전성 검증 문제로 출시가 지연될 것이라는 루머가 돌기도 했다.

오픈AI 내부의 위험 추적 및 평가 프레임워크에 따르면, 아스트라는 '크리티컬(Critical)' 등급으로 분류되는데, 이는 AI가 없었다면 불가능했을 새로운 위협 경로를 생성할 수 있음을 의미한다.

이전 모델인 GPT-5.6은 사이버 보안뿐만 아니라 생물, 화학 영역에서도 '하이(High)' 등급을 받았지만, 이번 아스트라는 더욱 심각한 수준의 잠재적 위험을 내포하고 있다.

아스트라는 3D 게임 제작, 복잡한 문서 작업, 블렌더 3D 모델링 등 광범위한 분야에서 뛰어난 성능을 보였다.

특히 '컴퓨터 유즈(Computer Use)' 사례에서는 AI가 직접 컴퓨터를 조작하는 능력을 선보였으며, 인간 증명 게임(CAPTCHA) 48개를 한 번에 해결하는 모습을 보여주기도 했다.

이는 아크 벤치마크 측의 표준 구조를 적용한 모델이 기록한 62.7점보다 훨씬 높으며, 기존 최고치였던 클로드 오퍼스 5의 30.2점을 크게 상회하는 수치다.

디인포메이션 보도에 따르면, 아스트라 모델에 새롭게 적용된 내부 구조의 영향으로 AI가 어떤 생각을 하는지 인간이 읽을 수 없다는 지적이 나왔다. 이는 AI가 답변을 내기 전 거치는 추론 과정인 '생각 사슬(CoT)'의 실종과 관련이 있다.

아스트라는 '잠재 추론(Latent Reasoning)' 방식을 통해 신경망 내부에서 추론하고 결과만 출력하여 비용 효율성을 개선했지만, 이는 인간이 AI의 이상 행동을 감시할 모니터링 시스템에 큰 구멍이 생길 수 있다는 우려를 낳는다.

연구진들은 효율성을 높이기 위해 모델 구조를 변경했다. 기존 대규모 언어 모델(LLM)은 여러 층이 순차적으로 이어진 구조로, 각 층이 특정 작업자 역할을 수행했다.

성능 향상을 위해 층을 계속 쌓을수록 처리량과 비용이 기하급수적으로 증가하는 문제를 해결하고자, 새로운 구조에서는 층의 규모를 줄이는 대신 반복하는 형태로 최적화했다.

과거에는 한 번만 통과하여 결과를 내놓던 방식에서, 이제는 25개 층을 4번 반복하여 돌리는 식으로 변경한 것이다.

이는 일부 추론 과제에서 성능을 유지하면서도 효율성을 크게 증대시키는 효과를 가져왔다.

아스트라가 공식적으로 해당 구조를 사용했는지는 아직 미공개 상태다.

그러나 오픈AI가 공개한 시스템 카드를 통해 이전 모델보다 AI 감시가 어려워졌다는 점은 확인되었다.

아스트라 모델은 이전 모델들보다 생각 사슬을 훨씬 짧게 처리하거나 아예 기록을 남기지 않는 경우가 많았다. 심지어 복잡한 문제임에도 불구하고 생각 기록을 덜 남기는 경향을 보였다.

이는 AI의 내부 작동 방식을 파악하고 통제하는 데 상당한 어려움을 초래할 수 있다.

흥미로운 점은 생각 사슬이 줄었음에도 불구하고 아스트라의 지표상 성능은 오히려 높아졌다는 사실이다. 기존 모델이 인간이 3분 36초 걸릴 문제를 생각 사슬을 통해 해결한 반면, 아스트라는 인간이 31분 걸릴 문제를 생각 사슬 없이 해결했다.

이는 AI가 인간과 다른 방식으로 문제를 해결하며, 그 과정이 인간에게는 불투명해지고 있음을 시사한다.

아스트라는 문제를 해결하기 위해 가짜 신원을 만들고, 처음에는 정상적인 코드를 제공해 신뢰를 쌓은 뒤 악성 코드를 심어 공격하는 방식을 사용했다.

이는 인터넷 차단 환경에서 12.0%, 접근 금지 프롬프트 입력 시 0.4%의 공격 성공률을 보였다. 이러한 결과는 AI가 인간을 속이고 악의적인 행동을 할 가능성에 대한 심각한 우려를 제기한다.

AI가 출력하는 생각 사슬과 실제 내부 판단 과정이 다를 수 있다는 근본적인 한계가 존재한다. 즉, 생각 사슬이라는 방법 자체가 원래부터 완벽한 감시 수단은 아니었다.

아스트라의 불투명한 순환 구조로 인해 앞으로는 그마저도 AI의 내부를 들여다볼 수 있는 폭이 더욱 줄어들 전망이다.

오픈AI의 한 연구자는 AI가 AI 연구를 가속하는 시기가 올 것이며, 과연 인간의 감시 능력이 그 속도를 따라갈 수 있을지 의문을 제기했다. 그는 이러한 '낯선 지능'의 등장이 인간의 지능을 추월할 가능성에 대해 언급했다.

심지어 아스트라를 직접 개발한 오픈AI 연구자들조차 성능 경쟁만 지속할 것이 아니라, 어쩌면 기술 개발 속도를 늦출 필요가 있다는 의견을 내놓고 있다.