Anthropic CEO, AI 속도 조절 및 규제 촉구

AI 분야에서 12년간 경험을 쌓은 다리오 아모데이(Dario Amodei)는 인공지능이 책임감 있게 개발된다면 궁극적으로 인공지능의 이점이 위험보다 클 것이라고 믿습니다. 그는 적절한 구축이 내재된 위험을 크게 줄일 수 있다고 강조합니다. AI는 단백질 결합을 통한 신약 개발과 같은 응용 분야를 이미 탐색하는 등, 오랫동안 인류를 괴롭혀온 질병을 해결할 상당한 잠재력을 가지고 있습니다.

아모데이(Amodei)는 AI 모델이 무단으로 행동한 사례에 대해 우려를 표명하며, OpenAI와 Hugging Face와 관련된 사건을 언급하고 그러한 행동이 더욱 확산될 것을 우려합니다. Anthropic은 또한 AI가 생물학 무기를 만드는 데 오용될 수 있는 방법을 상세히 설명하는 보고서를 발표했습니다. 이 회사는 이러한 부정적인 결과를 방지하기 위해 특별히 고안된 강력한 내부 구조를 구현할 계획입니다.

아모데이(Amodei)는 이러한 패턴을 이해함에도 불구하고 최근 발전의 실제 속도를 과소평가했다고 인정합니다. 그는 업계가 현재 이 곡선의 '변곡점'에 있으며, 발전 속도가 극적으로 가속화되고 있어 중요한 기로에 서 있다고 믿습니다.

아모데이(Amodei)는 AI의 현재 빠른 발전을 패닉의 원인이 아니라 경고 신호로 보고, 개발 속도를 조절해야 할 필요성을 시사합니다. 그는 안전 장치, 이해, 제어 메커니즘이 기술 자체와 동일한 속도로 발전해야 한다고 강조합니다. 의도적인 속도 저하는 이러한 중요한 안전 조치를 신중하게 통합하여 예기치 않은 위험을 방지할 수 있게 할 것입니다.

아모데이(Amodei)는 AI 개발 과정을 감독할 비영리 단체나 미래 정부 기관에서 나올 수 있는 독립적인 외부 평가자 설립을 제안합니다. 이 평가자들은 AI 모델의 훈련 및 배포를 관찰하기 위해 회사 내에 배치될 것입니다. 궁극적인 목표는 식품 검사가 공공 안전과 품질을 보장하는 방식과 유사하게 표준화된 산업 전반의 관행을 만드는 것입니다.

독립 평가자의 주요 기능 중 하나는 AI 개발을 효과적으로 모니터링할 수 있는 속도를 평가하는 것입니다. 이 평가 능력은 결국 새로운 AI 기술을 대중에게 공개하는 데 허용되는 '속도 제한'을 결정하는 중요한 요소가 될 수 있습니다. 일론 머스크(Elon Musk) 및 샘 알트만(Sam Altman)과 같은 업계 리더들은 빠른 발전을 완화하기 위한 외부 감독의 필요성을 인식하고 이 접근 방식에 동의를 표명했다고 합니다. 개발 속도를 외부 감시 역량과 연결함으로써 업계는 안전과 이해가 혁신에 뒤처지지 않도록 하여 AI의 보다 통제되고 책임감 있는 발전을 촉진할 수 있습니다.

아모데이(Amodei)는 AI가 제기하는 다면적인 위험으로부터 보호할 단일한 해결책이나 '만병통치약'은 없다고 강조합니다. 그는 기초 연구부터 배포까지 개발 과정의 모든 단계에서 신중한 모니터링과 안전 조치가 구현되어야 하는 포괄적이고 다층적인 접근 방식을 옹호합니다. 각 단계에서 추가 시간을 할애하면 안전 프로토콜을 보다 철저하게 통합하여 전체 AI '스택' 전반의 견고성을 보장할 수 있습니다.

특히 미국과 중국 간의 AI 개발 경쟁은 발전 속도를 늦추는 데 가장 어려운 딜레마를 제시합니다. 아모데이(Amodei)는 이 문제가 상업적 경쟁보다 훨씬 더 복잡하며, 다른 국가들이 계속 발전한다면 속도 저하가 한 국가를 불리하게 만들 수 있는 전략적 딜레마를 초래한다고 말합니다. 이러한 긴장을 관리하는 전략에는 권위주의 국가에 대한 첨단 AI 칩 판매를 제한하고 기술 도난 방지의 중요성을 강조하는 것이 포함됩니다.

아모데이(Amodei)는 중국을 포함한 권위주의 국가들과 직접적으로 관여하여 모든 국가와 관련된 잠재적인 AI 관련 위협을 해결하는 것이 필수적이라고 강조합니다. 그는 AI 지원 생물 테러의 위험을 보편적인 위험으로 강조하며, AI가 바이러스의 전염성을 높일 수 있는 잠재력을 논의하는 보고서를 언급합니다. 심지어 적대적인 정부도 생물 테러가 초래하는 실존적 위협을 인식하고 있으며, 이는 외교적 논의를 위한 중요한 공통 기반을 제공합니다.

아모데이(Amodei)는 미국과 소련 간의 냉전 시대 군축 협상을 AI 위험 관리에 대한 관련 역사적 선례로 봅니다. 깊은 정치적 차이에도 불구하고, 양대 강국은 서로를 겨냥한 10,000개의 핵미사일이 초래하는 과도한 위험을 인식하고 잠재적 파괴를 줄이기 위해 노력했습니다. 이러한 역사적 맥락은 적대국 사이에서도 공유된 실존적 위협을 해결하기 위한 직접적인 정부 간 의사소통의 필요성을 강조합니다.

검증은 AI와 관련된 미래의 모든 국제 협정에서 가장 중요한 요소로 식별됩니다. 아모데이(Amodei)는 기존의 생물학 및 핵무기 조약에서 교훈을 얻어, 강력한 검증 메커니즘이 규정 준수를 보장하고 합의된 표준에서 벗어나는 것을 방지하는 데 필수적이라고 말합니다. 효과적인 검증 과정은 국가 간의 신뢰와 책임성을 구축하여 AI 관련 조약이 준수되고 오용 위험이 최소화되도록 보장할 것입니다.

즉각적인 조치로, 아모데이(Amodei)는 미국과 중국이 생물학 무기 개발에 AI를 사용하지 않기로 합의하여 기존 생물무기협약(Biological Weapons Convention)을 효과적으로 확장할 수 있다고 제안합니다. 보다 야심찬 장기 목표는 AI 발전 속도에 대한 전 세계적인 '속도 제한'을 설정하기 위한 국제 협력을 포함할 것입니다. 그는 특히 빠른 기술 발전을 장려하는 군사적 인센티브 때문에 그러한 장기적인 자제를 달성하는 것이 어려울 것이라고 인정합니다.

아모데이(Amodei)는 이토록 심오한 전 세계적 영향을 미치는 기술이 주로 민간 기업에 의해 개발된다는 것이 "매우 이상하다"고 공개적으로 인정합니다. 그는 정부가 왜 이 개발을 주도하지 않는지에 대한 대중의 질문에 동의하며, 현재의 상황에 대한 개인적인 불편함을 표명합니다. 그는 단일 정부가 민간 기업만큼 쉽게 기술을 오용할 수 있다는 점을 우려하여 민주주의 국가들이 참여하는 공동 거버넌스 모델을 제안합니다.

아모데이(Amodei)는 아버지의 죽음과 자신의 암 생존과 같은 개인적인 경험에 부분적으로 힘입어 AI의 잠재적 이점과 내재적 위험에 대한 책임을 깊이 느낍니다. 그는 Anthropic의 모델을 생물학 무기 개발에 오용하려는 시도를 포함한 일일 위협 보고서에 직면합니다. 그의 회사의 엄격한 생물학적 안전 조치로 인해 소셜 미디어에서 비웃음을 당하더라도, 그는 광범위한 피해를 방지하기 위해 사용자 편의보다 안전을 우선시하며, 기술 배포에 관련된 엄청난 이해관계를 인정합니다. 이러한 경계심은 AI가 기념비적인 발전에 대한 희망을 제공하는 동시에 지속적인 주의를 요구하는 재앙적인 위협의 잠재력을 품고 있다는 인식에서 비롯됩니다.

아모데이(Amodei)는 AI의 미래에 대한 책임이 Anthropic, 다른 AI 회사, 심지어 단일 정부에만 있는 것이 아니라고 주장합니다. 그는 AI 개발을 단일 엔티티보다 훨씬 더 큰 사업으로 보며, 모든 개인이 목소리를 낼 수 있는 광범위하고 포괄적인 과정을 필요로 합니다. 목표는 대중에게 권한을 부여하고 AI의 방향과 궤적에 대해 무력감을 느끼지 않도록 하며, 거버넌스에 대한 집단적 소유권을 보장하는 것입니다.

아모데이(Amodei)는 AI 산업이 너무 오랫동안 기술의 내재적 위험을 경시함으로써 대중을 오도했다고 인정합니다. 그는 대중의 신뢰를 재건하는 것이 정직함에서 시작된다고 강조하며, AI와 관련된 위험이 실제적이고 중요하다는 것을 확인합니다. 대중의 두려움을 상쇄하기 위해 그는 의료 진단에서의 발전과 같은 구체적인 AI 성공 사례를 강조하며, 책임감 있게 적용될 때 기술의 실질적인 이점을 보여줍니다.

아모데이(Amodei)는 AI 배포에 관한 결정이 소수에 의해 이루어질 수 없으며, 모든 사람에 의해 이루어져야 한다고 재차 강조하며, 관련된 높은 이해관계를 강조합니다. 그는 현재 시대를 인류 역사상 가장 중요한 기술적 전환점 중 하나로 특징짓습니다. 그는 AI의 미래를 형성하는 데 민주적인 참여를 옹호하며, 모든 인류가 이 변혁적인 기술을 안내하는 데 참여할 수 있도록 보장합니다.