저커버그: AI는 개방적이고 접근 가능해야 한다

메타 CEO 마크 저커버그는 첨단 AI 모델을 제한해야 한다는 지배적인 업계 견해에 강력히 반대한다고 표명했습니다. 그는 모든 사람을 위한 긍정적인 미래를 위한 가장 효과적인 길은 기술을 가능한 한 널리 배포하는 것이라고 주장했습니다. 저커버그는 AI를 제한해야 한다는 믿음이 지배적인 업계 관점이라고 지적하며, 이는 수십억 명의 개인에게 권한을 부여하기보다는 권력을 중앙 집중화한다고 믿습니다.

저커버그는 메타의 오픈소스에 대한 약속이 절대적이지 않으며, 회사 내 모든 프로젝트가 오픈소스로 공개되는 것은 아니라고 명확히 했습니다. 그는 영리 기업이 첨단 폐쇄형 시스템을 구축하여 독점적인 이점을 개발할 필요성을 확인했습니다. 그럼에도 불구하고 그는 AI 산업 내 경쟁을 촉진하고 투명성을 증진하기 위해 강력한 오픈소스 생태계를 지원하는 것이 필수적이라고 주장했습니다.

메타는 지역 사회에 대한 장기적인 투자 약속을 강조하며 데이터 센터 확장을 옹호합니다. 저커버그는 루이지애나에서 메타의 투자가 5만 달러의 교사 보너스로 이어진 사례를 인용하며, 지역적 영향을 부담에서 경제적 동력으로 재구성했습니다. 그는 광범위한 번영을 지역 인프라 지원과 연결하며, 메타와 같은 회사가 데이터 센터를 구축하여 지역 사회에 수십 년간 약속하는 것이 매우 유익할 수 있다고 주장했습니다.

회사는 광섬유 기술자, 전기 기술자 및 고급 목공 기술에 대한 엄청난 필요성을 확인했습니다. 이 교육 프로그램은 수료 후 참가자에게 일자리를 보장하며, 수십 년간의 인프라 전략에 대한 투자입니다. 저커버그는 이것이 자선 활동이 아니라 메타의 장기적인 확장성에 필수적인 비즈니스 핵심 요구 사항이라고 강조했습니다.

저커버그는 소수의 전문가 집단이 AI가 사회 문제를 어떻게 해결해야 하는지 지시해야 한다는 생각에 회의적인 입장을 표명했습니다. 그는 역사적 진보가 종종 중앙 집중식 통제보다는 개인의 선택에 권한을 부여하는 것에서 비롯된다고 주장했습니다. 그는 AI가 소수의 엘리트가 아닌 일상생활에서 수십억 명의 사람들의 필요와 관심에 따라 인도되어야 한다고 믿습니다. 저커버그는 희귀병과 같은 틈새 문제 해결의 중요성을 인정했지만, 여전히 AI의 주요 방향은 더 넓은 대중의 필요에서 나와야 한다고 주장했습니다.

저커버그에 따르면 AI 에이전트는 기본적인 프롬프트 기반 상호 작용에서 목표 지향적 프로젝트 관리로 전환하고 있습니다. 핵심 혁신은 가상 머신의 추가로, 에이전트가 컴퓨터를 제어하고 로그인하여 작업을 자율적으로 수행할 수 있게 합니다. 이 에이전트들은 가상 머신에서 24시간 내내 작동하여 특정 목표를 달성하고, 밤새 정보를 학습하고 통합할 수 있습니다. 이 새로운 기능은 에이전트가 이전에 완료된 작업을 기반으로 새로운 프로젝트를 선제적으로 제안할 수 있게 합니다.

초기에 이 서비스는 채택을 장려하기 위해 무료 사용자에게 높은 토큰 한도를 제공할 것입니다. 궁극적인 목표는 대다수의 사람들이 접근할 수 있는 저렴한 서비스를 구축하여 AI가 사용자에게 상당한 가치를 창출함으로써 스스로 비용을 충당하도록 하는 것입니다. 저커버그는 에이전트가 충분한 가치를 창출하여 소액의 거래 수수료가 지속 가능한 비즈니스 모델이 될 것이라고 믿습니다.

저커버그는 AI가 진정으로 유용하려면 사용자를 깊이 이해해야 하며, 이는 시스템의 프라이버시에 대한 매우 높은 신뢰도를 필요로 한다고 강조했습니다. 이를 위해 메타는 Moxie Marlinspike를 영입하여 기밀 가상 머신을 개발했습니다. 이 아키텍처는 메타가 사용자 에이전트의 내용을 볼 수 없도록 보장하며, 검증 가능한 기술적 프라이버시 및 보안 약속을 다른 AI 연구소와 차별화하는 핵심 요소로 자리매김합니다.

저커버그는 개인 에이전트를 위한 메타의 기밀 가상 머신(VM) 시스템을 강조하며, 로컬 Mac Studio와 같은 설정에 비해 독특한 보안 및 접근성 이점을 주장했습니다. 그는 AI를 로컬로 실행하는 것과 관련된 높은 하드웨어 비용과 기술적 복잡성에 대한 우려를 제기했는데, 이는 비기술적인 사용자가 개인 에이전트에 접근할 수 없게 만들 것이라고 했습니다. 클라우드의 메타 기밀 VM은 로컬 장치와 동등한 보안을 제공하면서 광범위하게 사용 가능하도록 하는 것을 목표로 합니다. 주요 초점은 민감한 데이터 노출을 방지하기 위한 안전한 자격 증명 저장으로, 사용자가 에이전트와 그 내용이 비공개이며 보호된다고 신뢰할 수 있도록 보장합니다.

저커버그는 개인 AI 에이전트 분야에서 최첨단 작업을 수행하는 데 필요한 정교함을 달성할 회사는 12개 미만일 것이라고 예측했습니다. 그는 메타의 경쟁 우위를 수십억 명의 사용자에게 제품을 배포할 수 있는 능력에서 찾습니다. 개인 에이전트 시장은 관계 중심 상호 작용에 특화된 에이전트와 비즈니스 중심 작업에 특화된 에이전트로 나뉠 수 있습니다.

저커버그는 메타의 이전 머신러닝 확장 접근 방식을 대규모 언어 모델(LLM)에 직접 적용했던 초기 실수를 반성했습니다. 이는 메타의 AI 전략에 상당한 변화를 가져왔고, 대규모 실험에서 벗어나 소규모의 고밀도 전문가 팀에 집중하게 되었습니다. 그는 '절편'보다는 모델 진행의 '기울기'를 우선시하는 것의 중요성을 인식하고 지속적인 개선과 전문 인재의 전문성을 강조했습니다.

그는 의료 상태나 알레르기와 같은 민감한 개인 정보를 AI가 관리해야 하며, 모든 상호 작용에 대해 사용자 입력을 지속적으로 요구하지 않아야 한다고 강조했습니다. 개인 데이터의 지능적이고 비공개적인 처리에 대한 이러한 초점은 메타의 에이전트 목표를 보다 전문화된 코딩 중심 AI 모델과 차별화합니다. AI는 선택적으로 정보를 공유하면서 세상과 상호 작용하고 사용자를 위해 작업을 수행할 수 있어야 합니다.

저커버그는 AI에서 모델이 목표를 달성하기 위해 때로는 의도치 않은 방식으로 지름길을 찾는 '보상 해킹'이라는 도전을 인정했습니다. 그는 AI 훈련과 육아를 비유하며 명확하고 단호한 경계 설정의 필요성을 강조했습니다. 적절한 경계를 설정하면 모델이 원하는 커리큘럼을 학습하고 더 나은 근본적인 가치를 개발하여 더 유익하고 윤리적인 행동으로 이끌 수 있습니다.

그는 AI 접근을 제한하는 개념을 거부하며, '견제와 균형'은 모든 사람이 동일한 도구에 접근할 수 있을 때 가장 잘 달성된다고 제안했습니다. 그는 예를 들어 설명했습니다. 초지능 변호사는 소수의 선택된 사람들만이 아닌 모든 사람이 접근할 수 있을 때만 공정성을 만들 수 있습니다. 그는 광범위한 배포를 통해 사람들이 AI 기능으로부터 모든 기회를 포착하고 권력의 균형을 보장할 수 있다고 믿습니다.

특히 제품이 주류 채택을 얻음에 따라 더욱 그렇습니다. 그는 제품의 첫 버전부터 설계된 내장된 프라이버시 조치에 대한 소통이 시간이 지남에 따라 희미해졌음을 인정했습니다. 그는 하드웨어 기반 녹음 표시기를 포함한 제품의 프라이버시 설계를 옹호했지만, 사용자에게 이러한 기능을 지속적으로 재확인하는 것의 중요성을 강조했습니다.

저커버그는 메타가 소셜 미디어에 대한 역사적 우려를 해결하는 데 충분히 직접적이지 못했음을 인정했습니다. 그는 과거의 소통 격차에서 배우겠다는 약속을 강조했습니다. 앞으로 그는 사용자 즐거움과 대중의 신뢰 유지 사이의 균형을 성공적으로 맞추는 모델을 위해 노력하며, 미래 제품 출시에서 더 투명해지는 것을 목표로 합니다.