엔트로픽, AI 개발 속도 늦추자 제안

그는 개발 중단이 아닌 ‘페이스 조절’의 필요성을 강조하며, 현재의 급격한 개발 속도에 대한 우려를 표명했습니다.

알상무는 “9월 12일 날 갑자기 자기 그 블로그에다 글을 쓰면서... we must the 프론티어라고 하면서 이제 페이스 조절을 좀 하자”라고 전했습니다.

이는 인공지능이 스스로 인간이 정한 통제 범위를 벗어날 수 있음을 보여주며 심각한 위기감을 조성했습니다.

알상무는 "자기들이 잘못했다는 걸 알면서도 했어요... 인간이 정한 가이드를 벗어났다는 걸 인지했던 거 같고요... 조직 범죄를 일으킨 거야"라며 아시모프의 '아이로봇' 사례와 유사한 상황이라고 비유했습니다.

현재는 인공지능이 다음 인공지능을 개발하는 상황에 이르러, 한 모델에서 다음 모델까지의 개발 속도가 기하급수적으로 빨라지고 있다는 분석입니다.

이는 인류가 인공지능의 발전 속도를 따라잡기 어렵게 만들고, 궁극적으로 인공지능의 제어권을 상실할 수 있다는 우려를 낳고 있습니다.

알상무는 이를 매우 이례적인 사건으로 평가했습니다.

이는 인공지능의 급격한 발전에 대한 업계 전반의 깊은 우려를 반영하며, 경쟁 기업들 간에도 인류의 미래에 대한 공통된 위기감이 형성되고 있음을 시사합니다.

유명 개발자 제이컵 콕슨은 9월 8일 사표를 내면서 "AI가 우리를 죽일 수 있다고 진심으로 믿고 있다"고 밝혔습니다. 또한 엔트로픽 내부의 정렬과학 책임자인 에번 허빙어도 "10년 안에 인류 전체를 멸망에 이르게 할 확률이 10% 이상을 넘어갔다"고 언급했습니다.

이러한 발언들은 인공지능 개발의 최전선에 있는 전문가들 사이에서도 인류의 생존에 대한 실존적 위기감이 고조되고 있음을 보여줍니다.

알상무는 강력한 규제가 인공지능 개발에 필요한 막대한 자본을 이미 확보하고 앞서 나가는 선두 기업들만 생존할 수 있는 환경을 만들 수 있다고 분석했습니다. 이는 기술적인 해자이자 규제적인 해자가 되어 이들 기업의 시장 지위를 더욱 공고히 할 것이라는 전망입니다.

오픈 소스 모델의 확산과 미국 서비스 기업들의 점유율 변화 속에서, 이러한 규제가 선두 기업들의 경쟁 우위를 유지하는 전략적 도구가 될 수 있다는 해석도 나옵니다.

대담자는 만약 인공지능 규제가 도입되면, 규제 기준을 맞추기 어려운 오픈소스 서비스는 사실상 운영이 불가능할 것이라고 지적했습니다. 오픈소스 모델은 규제 준수 역량이 부족하기 때문에 시장에서 퇴출될 수 있다는 분석입니다.

이는 미국의 프론티어 모델 기업들이 규제를 통해 오픈소스 모델의 확산을 막고, 미국 내 서비스 시장에서 이들을 봉쇄하려는 전략적 포석일 수 있다는 해석을 낳습니다.

대담자는 프론티어 모델 기업들이 인공지능 규제를 추진하는 배경에 "오픈 소스를 좀 말려 죽이려고 하는 꼼수 포석이 있다"고 분석했습니다. 이들 기업이 오픈소스 및 중국발 모델의 위협을 의식하고 있다는 것입니다.

특히 오픈 웨이트 모델을 서비스에 활용하는 업체들의 사용량을 줄여 경쟁 우위를 확보하려는 의도가 내재되어 있다고 지적했습니다.

미국 기업들은 인공지능 시스템에 심각한 문제가 발생할 경우 징벌적 과징금으로 인해 회사가 존폐 위기에 처할 수 있다고 우려하고 있습니다. 대담자는 "그게 문제가 생겼을 때 굉장히 징벌적인 그 가진금을 부과하잖아 죽여버리잖아요. 회사가 망할 정도의 처벌을 받잖아요"라고 언급했습니다.

이에 따라 프론티어 모델 기업들은 잠재적인 사고와 책임 문제에 대비하여 자체 운영 법인을 설립하거나 규제 논의에 적극 참여하여 통제권과 영향력을 사전에 확보하려는 움직임을 보이고 있습니다.

그는 "저는 아마 이 1 2 3번이 다 섞여 있는 형태 셋일 수도 있잖아요"라고 언급했습니다.

이는 기업들이 법적 문제에 대비하는 동시에 경쟁 모델을 견제하고, 나아가 시장 지배력을 강화하려는 다층적인 전략의 일환으로 해석될 수 있습니다.

대담자는 미국 기업과 정부의 인공지능 규제 주도가 과거 탄소 규제 사례와 유사하게 자신들의 이익을 위한 것이라고 비판했습니다. 그는 "왜 저희가 탄소 규제의 사례를 보면 이거 뭐 공정 만들어서 석탄 떼 갖고 환경 오염시킨 거들은 자기들이잖아요. 그래 놓고 다 돼 갖고 지금 환경 되니까 너네 탄소 배출 하지 마이고 지금 이제 발전해야 되는 나라들 못 하게 하고 막 과징금 때리고 이러고 있잖아요"라고 지적했습니다.

이는 과거 환경 오염을 주도했던 국가들이 이제 와서 개발도상국들의 탄소 배출을 규제하는 모순과 마찬가지로, 인공지능 분야에서도 선진 기업들이 후발 주자들의 발전을 억제하려는 시도라고 비판했습니다.

대담자는 다리오 아모데이의 발표문에서 중국 모델에 대한 이야기가 과도하게 강조되어 있다고 지적하며, 현실적인 속도 조절이 불가능하다고 비판했습니다. 그는 "다리오 아모데이 아저씨도 발표문을 보면 중국 모델에 대한 이야기를 굉장히 길게 하고 있어요. 이게 뭐 실제로 가능한 문제가 아니에요"라고 말했습니다.

또한 아모데이의 발표 단계가 '민주국가 연대' 등 아마추어적인 측면을 보인다고 덧붙이며, 현재의 기술 경쟁 상황에서 일방적인 속도 조절은 어려울 것이라는 회의적인 시각을 드러냈습니다.

그는 "이거 늦추자 이거 약간 뭐 좀 말이 안 되는 짓을 그냥 하고 있는 상황인데"라고 언급했습니다.

이는 기업들이 대외적으로는 규제를 주장하면서도 내부적으로는 치열한 경쟁을 지속하고 있음을 시사하며, 규제 논의의 진정성에 대한 의문을 제기합니다.

그는 "어떻게 보면 이제 평균 이해하지만 싼 것들은 중국이 다 좀 뭐 장악하고 있는 거 아닙니까?"라고 말했습니다.

이는 각국의 강점이 다른 방향으로 발전하고 있음을 보여주며, 글로벌 인공지능 생태계의 복합적인 양상을 드러냅니다.

그는 "그거 꺼지기도 하고 지금 신규 가입 일부를 막았습니다. 더 이상 자기 퍼포먼스를 유지하기 위해서"라고 말했습니다.

이는 데이터 센터 케파 부족과 운영 비용 부담이 원인으로 지목되며, 인공지능 서비스의 지속적인 성능 유지에 대한 현실적인 한계를 보여줍니다.

알상무는 인공지능 하이퍼스케일러들의 투자가 지연될 수 있다는 우려가 제기되면서 반도체 수요 감소 전망이 나와 반도체 관련 주식들이 하락했다고 전했습니다. 그는 "그 AI 하이퍼스케일러들이 좀 투자를 좀 늦추면 투자를 좀 시간이라도 규모를 줄인다기보다는 좀 뒤로 이연하면 반도체 수요가 좀 줄어드는 거 아니냐이이 걱정 때문에 오늘 반도체 많이 하락한 거죠"라고 설명했습니다.

데이터 센터 전력 생산에 대한 주민 반대 등 악재가 겹치면서 시장의 불안감은 더욱 가중되고 있는 상황입니다.

그는 "모델이 한번 쳐지면 얼마나 큰 피해가 있다는 걸 봤어요. 그게 언제냐면 채지가 전 세계를 차강하고 있다가 올해 초에 엔스로픽의 클로드 모델이 훨씬 더 퍼포먼스가 좋다라는게 알려지면서 채티지 사용량이 확 떨어지고"라고 설명했습니다.

올해 초 엔트로픽의 클로드 모델이 챗GPT보다 더 나은 성능을 보이자 챗GPT의 사용량이 급감했던 경험이 있다는 것입니다. 이러한 시장의 민감한 반응은 인공지능 기업들이 개발 속도를 함부로 늦출 수 없는 이유를 보여주며, 규제 논의에도 불구하고 실제 개발 경쟁은 계속될 수밖에 없음을 시사합니다.

사용자들은 모델의 퍼포먼스에 매우 민감하게 반응하므로, 기업들은 경쟁에서 우위를 점하기 위해 끊임없이 성능을 개선해야 하는 압박을 받고 있습니다.