아모데이 “AI 안전, 자동차처럼”

그는 자동차 회사가 안전을 관리하는 방식에서 AI 안전 관리의 해법을 찾을 수 있다고 제안했다.

그는 AI 기술이 사회에 미치는 영향이 커짐에 따라, 자동차 산업이 차량의 안전을 확보하고 규제에 대응하는 것처럼 AI 산업도 유사한 접근 방식을 채택해야 한다고 역설했다.

먼저, 개별 기업의 자체 점검을 통해 AI 개발 및 배포 과정의 관행을 개선하고 투명성을 확보해야 한다고 말했다.

다음으로, 업계 전체가 참여하는 논의를 통해 공통된 안전 표준을 정립해야 한다고 강조했다. 마지막으로, 국가 간의 국제적 협력 체계를 구축하여 AI 기술의 글로벌 안전성을 보장해야 한다고 역설했다.

전기차 충전기 사례에서 볼 수 있듯이, 표준화는 때로는 기업의 재산권과 충돌할 수 있다.

표준이 제정되면 기업들은 특허권을 포기하거나 공유해야 할 수도 있으며, 이는 경쟁 관계에 있는 기업들 간의 협력을 어렵게 만들 수 있다. 각 기업이 가진 기술적 우위가 희석될 수 있다는 우려가 제기된다.

AI 기술은 자동차와 달리 국경을 넘어설 수 있는 특성을 지니고 있어 규제에 한계가 있다. 자동차는 국가별 표준 준수가 필수적이지만, AI는 국경의 제약 없이 확산할 수 있다.

이는 해킹이나 우회 경로를 통해 통제가 불가능한 상황을 야기할 수 있으며, 이러한 특수성 때문에 자동차 업계의 안전 관리 모델을 AI에 직접적으로 적용하는 것은 부적절하다는 지적이 나온다.

연산 자원 기반의 스케일링 법칙에 따라 AI 성능은 지속적으로 향상될 것으로 예견된다.

따라서 AI 기술을 현 상태에서 동결하는 것은 시기상조이며, 지속적인 연구와 개발을 통해 잠재력을 최대한 발휘해야 한다는 의견이 제시되었다.

AI 안전 우려와 규제론에 대해 도널드 트럼프 전 대통령은 이를 ‘사기극’으로 규정하며 반대 입장을 밝혔다. 그는 AI 기술을 핵무기 군비 경쟁에 비유하며, 미국이 AI 기술 주도권을 상실할 경우 국가적 안보 위험이 발생할 것이라고 경고했다.

트럼프 전 대통령은 AI 기술의 무조건적인 규제보다는 미국의 경쟁 우위를 확보하고 유지하는 것이 중요하다고 주장했다.

트럼프 전 대통령은 미국이 현재 AI 분야를 주도하고 있으며, 이 주도권을 다른 나라에 빼앗겨서는 안 된다고 강조했다. 미국이 AI 발전을 멈추면 중국이 앞서나갈 것이며, 이는 결국 중국의 지배를 받는 나라로 전락할 위험이 있다고 경고했다.

그는 미국의 AI 주도권 유지가 국가 안보와 직결되는 문제임을 여러 차례 역설했다.

앤트로픽의 IPO를 앞둔 상황에서 이러한 주장은 기업 가치를 유리하게 평가받기 위한 전략으로 해석될 수 있다는 것이다.

밀스 부차관보는 빅테크 기업들이 투자자들에게 긍정적인 신호를 보내기 위해 AI의 잠재적 위험성을 부각하는 동시에, 자신들이 책임감 있는 기업이라는 이미지를 구축하려 한다고 분석했다.

폭스뉴스에서는 거대 기술 기업들의 AI 속도 조절론이 정치적 전략이라는 분석을 내놨다. 이들은 빅테크 기업들이 민주당 성향을 보이며, 대선 이후 오바마 지지자들에게 방어 태세를 갖추라고 외치는 신호로 해석될 수 있다고 보도했다.

이러한 주장은 AI 규제 논의가 단순한 기술적 문제가 아니라, 기업의 정치적 입지와 선거 전략의 일부로 활용될 수 있음을 시사한다.

그는 기업들이 만약 사람들에게 해를 끼칠 제품을 만들었다면 왜 이제 와서 갑자기 발전을 늦추려 하는지 의문을 제기했다.

워터스는 정부의 새로운 규제를 자처하기보다는 기존의 규제 체계만으로도 충분히 통제할 수 있다고 주장하며, 기업들의 의도에 대한 의구심을 표했다.

팬데믹 당시 제약사들이 트럼프 행정부에 백신 개발 및 접종 과정에서 발생할 수 있는 문제에 대한 면책권을 요구했던 사례가 AI 기업의 상황과 비교되고 있다. AI 기업들이 정부에 안전 표준 제정 및 면책을 요구하는 의도에 대한 분석이 제기되었다.

결함 없는 제품이라면 굳이 면책권을 요구할 이유가 없다는 지적이 나오면서, AI 기업들이 잠재적 위험에 대한 책임을 회피하려는 것이 아니냐는 의혹이 제기됐다.

규제가 강화되면 대기업들은 기존의 기술과 자본력을 바탕으로 시장 진입 장벽을 높일 수 있다는 분석이다.

이러한 관점은 AI 규제 논의가 단순한 안전 문제뿐 아니라, 산업 생태계 내에서의 경쟁 구도와 정치권의 전략적 활용 가능성을 내포하고 있음을 보여준다.

AI 규제 이슈를 두고 공화당 내부에서 벌써부터 분열이 벌어지고 있는 상황이다. 마샤 블랙번 상원의원과 같은 일부 인사들은 AI 규제의 필요성을 주장하고 있다.

하지만 여론조사 전문가 파브리찌오는 AI 규제에 무조건적으로 반대할 경우 유권자 설득력을 잃을 수 있다고 조언했다. 이는 공화당이 AI 정책에 대해 통일된 입장을 정립하는 데 어려움을 겪고 있음을 시사한다.

이는 과거 부정 선거 논쟁과 유사한 양상으로 전개될 수 있다.

정치 컨설턴트들은 한 지역구에서 AI 규제 찬성론자와 반대론자가 맞붙을 경우, 주민들은 규제 찬성론자의 주장에 더 귀 기울일 것이라고 실무적으로 판단하고 있다. 대중은 기술의 위험성에 더 민감하게 반응하기 때문이다.

AI 기술로 인해 발생할 수 있는 문제는 정부가 법으로 해결해달라고 요구할 부분이 아니라, 개발하는 회사 스스로 해결해야 한다는 원칙이 강조되었다. 문제 해결 능력 자체가 기업의 경쟁력으로 평가되기 때문이다.

정부 규제는 오히려 후발 주자의 성장을 가로막고 기술 혁신의 정당한 시장 경쟁 과정을 방해할 수 있다는 지적이 나온다. 기업은 스스로 기술적 문제를 해결하며 시장의 요구에 부응해야 한다.

유럽연합(EU)은 정부가 AI 규제책을 마련하기 위한 논의에 이미 착수했으나, 이러한 규제 일변도의 전략은 EU가 AI 강국으로 성장하는 데 한계가 될 것이라는 분석이 나온다. EU는 스스로 AI 기술을 육성하기보다는 미국의 기술에 대한 의존도가 심화될 가능성이 크다.

반면 중국은 국가 주도로 AI 기술을 적극적으로 육성하며 미국의 AI 주도권을 위협하고 있어, EU의 전략과 대조를 이룬다.

이는 기업 특혜를 주거나 공공 자원을 투입하는 것을 지양하겠다는 입장이다.

정부는 AI 기술 개발과 관련된 안전 문제는 업계 종사자들이 근본적으로 책임을 완수해야 할 부분이라고 보고 있다.