양자 컴퓨팅, AI, 사이버 보안: 미래 기술의 도전과 기회

최근 며칠간 암호학 분야에서 양자 컴퓨팅에 의한 위협, 즉 'Q-day'에 대한 논의가 활발해지고 있습니다. 이는 OpenAI의 수학 관련 사건 이후 더욱 부각된 주제로, 양자 암호화 기술 도입에 대한 필요성이 커지고 있다는 인식이 대두되고 있습니다.

미국 방위고등연구계획국(DARPA)의 양자 벤치마킹 이니셔티브(QBI)는 실용적인 양자 컴퓨터 구축을 목표로 한 경쟁 프로그램입니다. 2년 전 수백 개 기업이 참여했으나, 현재는 13곳만이 남아있어 이 분야의 난이도를 보여주고 있습니다. 이는 일부 기업의 과장된 주장과 실제 진행 상황을 구분해야 한다는 점을 시사합니다.

양자 컴퓨터의 발전은 두 가지 주요 단계를 통해 평가됩니다. 첫 번째는 시뮬레이션이 아닌 실제 양자 컴퓨터에서 오류 정정 수준을 입증하는 것으로, 2027년쯤 한두 곳이 이를 달성할 것으로 예상됩니다.

두 번째 단계는 양자 컴퓨터의 게이트 연산 수를 현재 약 1만 게이트 수준에서 100만, 나아가 1,000만 수준으로 확장하는 것입니다. 이 두 가지 단계가 양자 컴퓨팅 기술의 실용화에 핵심적인 지표가 될 것입니다.

양자 컴퓨팅에서 '논리 큐빗'은 여러 물리 큐빗을 묶어 오류를 정정한 단위로 정의됩니다. 예를 들어, 약 1만 개의 물리 큐빗이 논리 큐빗 약 200개로 묶이는 구조입니다.

논리 큐빗은 오류가 정정된 상태를 의미하므로, 양자 컴퓨터의 성능을 평가할 때 매우 중요한 지표가 됩니다. '논리 큐빗 하나'라는 표현이 때로는 기준이 모호할 수 있어 신중한 해석이 필요합니다.

모든 IT 인프라에 암호화 키가 사용되고 있기 때문에, 양자 컴퓨팅의 발전은 전 산업에 걸쳐 영향을 미칠 것입니다. 2029년에서 2030년 이전에 포스트 양자 암호화 인프라로의 전환을 시작하지 않으면, 향후 막대한 비용을 감수해야 할 것이라는 주장이 제기되었습니다.

일각에서는 현재 IT 예산의 절반 이상이 비양자 안전 인프라에 쓰이고 있다고 추정하며, 시급한 전환의 필요성을 강조하고 있습니다.

일부 AI 연구자들은 양자 컴퓨터가 실용화되기 전에 AI 모델이 기존 암호화 문제를 해결할 수 있는 기법을 찾아낼 가능성을 제기했습니다. 이는 AI가 숫자론의 경계에서 암호 해독으로 이어질 수 있는 새로운 증명을 탐색할 수 있다는 관점에 기반합니다.

최근 OpenAI의 수학 관련 성과는 이러한 가능성의 초기 신호로 해석될 수 있으며, AI의 예측 불가능한 발전 속도에 대한 경계심을 더하고 있습니다.

AI 도입의 실험 단계에서는 팀이 비용 최적화에 매몰되지 않도록 해야 합니다. 만약 AI 기술을 수용하기 어렵거나 이해하기 어렵게 만들면, 조직 내 AI 확산이 지연될 수 있습니다.

따라서 초기에는 검증된 최고의 모델을 사용하고, 이를 가장 쉽게 활용할 수 있는 방법을 제공하여 AI의 잠재력을 이해하고 검증하는 것이 중요하다고 대담 참가자들은 강조했습니다.

기업들은 평상시에는 비용 효율성을 위해 오픈 소스나 소형 AI 모델을 활용해야 합니다. 그러나 침해 사고 발생과 같이 비즈니스 영향이 막대한 위기 상황에서는 손실을 방지하기 위해 비용을 고려하지 않고 최고 사양의 프런티어 AI 모델을 사용하는 것이 필수적입니다.

이러한 상황에서는 보안 방어 측면에서 오디트 가능성과 설명 가능성이 특히 중요해집니다. 고객들은 침해를 막기 위해 필요한 어떠한 모델이든 사용하라고 요구할 것이며, 그 침해의 비즈니스 영향이 수십억 달러에 달할 수 있기 때문입니다.

따라서 기업은 평상시에는 효율성을 추구하되, 비상시에는 즉각적인 대응을 위한 최고 수준의 AI 모델 활용 전략을 갖추어야 합니다.

사이버 보안 분야에서 공격자와 방어자 사이에는 근본적인 비대칭성이 존재합니다. 공격자는 단 하나의 취약점만 찾아내면 성공할 수 있지만, 방어자는 모든 잠재적 취약점을 파악하고 패치해야 하는 불리한 입장에 있습니다.

또한, AI 모델이 취약점을 제시하더라도 실제 현장에서는 반드시 재검증 과정을 거쳐야 합니다. 이는 AI가 생성한 결과의 신뢰도를 높이기 위한 필수적인 절차입니다.

사이버 보안을 강화하기 위해 각 기업이 개별적으로 취약점에 대응하는 대신, 신뢰할 수 있는 협력 체계를 구축하여 방어 효율성을 높이자는 제안이 나왔습니다. 이는 확인된 공격 기술을 기계 학습 코드로 변환하여 모든 고객에게 배포하는 방식입니다.

이러한 협력 모델은 신뢰할 수 있는 소수의 당사자들이 취약점 정보를 공유하고, 이를 바탕으로 통합된 패치를 개발하여 모든 참여 기업이 동시에 보안을 강화할 수 있도록 돕습니다.

현재 소프트웨어 개발 과정의 약 절반은 AI 에이전트를 활용하여 코드를 생성하고 있습니다. AI가 생성한 코드는 기존 인간이 작성한 코드보다 나은 경우가 많지만, 모든 것을 완벽하게 테스트하는 것은 현재 계산적으로 불가능한 작업입니다.

이는 AI가 생성한 코드 역시 오류가 없을 것이라는 보장이 없으며, 여전히 인간의 검증과 테스트가 필요하다는 것을 의미합니다. 따라서 AI 코드 생성의 효율성에도 불구하고, 품질 보증의 한계는 여전히 존재합니다.

AI를 개발하고 배포하는 기업은 자신들이 만든 소프트웨어에 대한 책임을 져야 한다고 강조되었습니다. 기업이 무언가를 만들어서 내놓았다면, 그것을 어떻게 제어해야 할지 모른다고 변명할 수는 없다는 것입니다.

특히, AI가 스스로 코드를 작성했다는 식의 변명은 인정될 수 없으며, 소프트웨어의 개발 주체로서 기업이 최종적인 책임을 져야 한다는 원칙이 분명히 제시되었습니다.

디지털 기술의 발전 속도를 인위적으로 늦추는 것은 사실상 불가능하다는 의견이 제시되었습니다. 유럽의 규제 사례는 기술 자체의 위험성보다는 미지의 가능성에 대한 두려움이 앞선 결과로 평가되었습니다.

이는 과도한 선제적 규제가 역동적인 기술 생태계의 성장을 저해할 수 있음을 시사합니다. 전 세계가 동시에 속도를 늦추지 않는 한, 특정 지역의 규제는 오히려 다른 지역에 기술적 우위를 가져다줄 수 있습니다.

현재 컴퓨팅 자원은 공급 제한으로 인해 확보가 매우 어려운 희소 자원입니다. 이러한 컴퓨팅 자원의 불균등한 분배는 전 세계적인 기술 격차를 심화시킬 수 있다는 우려가 제기되었습니다.

특히 기술 발전의 중심지에서 멀어질수록 컴퓨팅 자원에 접근할 기회가 줄어드는 현상이 발생하고 있습니다. 이는 경제적 요인보다는 공급망의 물리적 제한이 디지털 기술 불평등을 가속화할 가능성을 보여줍니다.

대담 참가자들은 세계 두 강대국이 컴퓨팅 개발에서 앞서나가면서, 다른 지역에서는 컴퓨팅 자원이 고르게 분배되지 않을 것을 염려했습니다.

과거 혼란기에 IBM 메인프레임처럼 수직 통합된 구조는 자본의 안전한 항구 역할을 하며 65년간 생존했습니다. 이는 칩부터 시스템까지 모든 것을 자체 설계한 수직 통합의 성공적인 모델로 평가받습니다.

현재 엔비디아의 전략 또한 강력한 수직 통합을 통해 전체 가치 사슬의 이익을 확보하는 현대적인 사례로 제시되었습니다. 이는 기업이 불확실한 시대에 생존하고 경쟁 우위를 확보하기 위한 중요한 전략적 선택임을 시사합니다.

수직 통합은 기업이 특정 스택 내에서 어떤 부분을 상품화(Commoditize)할지 결정할 수 있게 합니다. 이는 수익 풀(Profit pool)을 재조정하거나 공격적으로 수익을 이동시켜 기업의 수익성을 최적화하는 데 기여합니다.

또한, 강력한 시장 레버리지를 통해 경쟁자들의 진입을 제한하고 시장 지배력을 유지하는 데 효과적인 전략으로 작용합니다.

과거 기업들은 500개에서 5,000개에 이르는 수많은 소프트웨어 공급업체의 솔루션을 구매해 이어 붙이는 방식으로 운영되어 왔습니다. 이는 사이버 위협에 대한 방어뿐만 아니라 엄청난 공격 표면을 야기하는 문제점으로 지적되었습니다.

이제 기업들은 파편화된 SaaS 환경에서 통합된 플랫폼으로 이동하고 있으며, 특히 AI 도구들이 기존의 단순 상호작용 위주 소프트웨어의 기능을 대체하면서 업체 수가 5개에서 10개의 주요 플랫폼으로 통합될 것으로 예상됩니다. 다만, 복잡한 데이터베이스 기반 업무는 AI로 대체되기 어려울 것으로 보입니다.

최근 AI 관련 기대감으로 사이버 보안 업계의 기업 가치가 매우 높게 형성되고 있습니다. 기업들이 사이버 보안에 제한 없는 예산을 지출할 예정이기 때문에 이러한 현상은 당분간 지속될 것으로 보입니다.

하지만 장기적으로는 이러한 막대한 투자가 통합과 합리화를 이끌어낼 것으로 예상됩니다. 즉, 파편화된 보안 솔루션들이 통합 플랫폼으로 재편될 것이라는 전망이 나오고 있습니다.