OpenAI, 사이버 보안 신제품 데이브레이크 공개…레드팀·디펜스 팩토리로 취약점 발견과 패치를 자동화

발표 초반 OpenAI 측은 올해 사이버 보안 분야에 큰 변화가 있었다고 말했다. 발표자는 이 변화의 핵심으로 취약점 발견, 공격자의 악용, 이를 앞서 막으려는 방어 노력이 모두 가속화되고 있다는 점을 들었다. 수년간 이어져 온 흐름이 더 빨라지고 있다는 뜻이라는 설명이다.

발표자는 이러한 배경에 인터넷이 애초에 보안을 고려해 설계되지 않았다는 사실이 깔려 있다고 지적했다. 충분한 자원을 가진 최고정보보호책임자(CISO)는 없었고, 보안의 우선순위 설정이나 전문 지식의 확산 부족 같은 병목이 기존 소프트웨어 개발 방식에 기술 부채를 쌓아 왔다는 진단이다.

그러면서 발표자는 사이버 보안의 환경이 바뀌고 전문 지식이 대중화되는 지금, 소프트웨어를 근본적으로 더 안전하게 구축해야 한다고 강조했다. 기존 자산을 보호하고 업무 방식을 개선하며, 전 세계가 커뮤니티로서 힘을 합쳐 인터넷을 근본적으로 안전한 환경으로 만들어야 한다는 주장이다.

발표자는 곧 출시할 최신 사이버 보안 모델의 발전과 성능을 보여주는 그래프를 제시했다. 이 모델은 전 세계의 신뢰할 수 있는 방어자들을 위한 것이라고 설명됐다. 모델 발전이 계속되고 있다는 점이 이번 대화를 나누는 이유 중 하나라는 것이다.

발표자는 이 모델이 성능 면에서 계단식 도약을 보여줄 것이며, 이러한 진보가 앞으로도 계속될 것이라고 전망했다. 이 전망은 발표자의 생각으로 제시된 것이며, 독립적으로 검증된 평가로 소개되지는 않았다.

OpenAI는 세상에 도움이 되기 위해 우선 최첨단 역량을 실제로 구현하는 것을 목표로 한다고 밝혔다. 이어 방어자가 광범위하게 보급된 기술보다 앞선 창을 확보하려면 그런 기술이 실제로 존재해야 하고, 그 기술에 접근할 수 있게 하며, 사람들이 이를 활용하도록 돕는 세 단계가 필요하다고 설명했다. 세 번째 단계로 교육용 플레이북처럼 단순한 방식도 언급됐다. OpenAI는 이 모델들을 내부에서 활용해 왔으며, 기업의 보안 수준은 이제 자신을 방어하기 위해 사용하는 최첨단 모델과 그 활용 능력에 달려 있는 시점에 이르렀다고 봤다.

발표자는 PHP에서 셸로 이어지는 취약점 사례를 언급했다. 이 사례는 모델이 취약점을 발견하는 능력이 깊어지고 있음을 보여준다는 설명과 함께 제시됐다. OpenAI는 이 사안에 대응하며 전체 기업 커뮤니티, 정부 기관과 협력했고 공개와 대응을 조율하기 위해 전 세계 여러 정부에 연락을 취했다고 밝혔다.

발표자는 패치를 준비하고 배포할 때 안정성을 확보하기 위해 두 달간 긴밀히 조율했다고 말했다. 다만 이 과정에서 가용 가능한 대역폭이 모두 소모됐으며, 팀원들의 많은 에너지와 협력사·정부 기관의 역량이 상당히 투입됐고, 회의도 끊임없이 해야 했다고 설명했다.

발표자는 이런 방식은 확장 가능한 모델이 아니라고 인정했다. 앞으로 몇 주, 몇 달, 몇 년에 걸쳐 발견될 이런 성격의 취약점을 고려하면, 커뮤니티 차원에서 규모에 맞게 확장 가능한 공동 접근 방식이 필요하다는 것이다. 발표자는 이것이 아직 해결되지 않은 과제라고 말하면서, 모델 형태의 더 나은 도구가 이전보다 훨씬 큰 규모로 공개를 조정하는 데 도움을 줄 수 있다고 덧붙였다. 또 이 문제가 어느 한 기업이 해결할 수 있는 것이 아니라는 점이 중요하다고 강조했고, 지난 몇 달간 여러 기업이 서명한 공개 서한과 10억 달러 규모의 데이브레이크 디펜스 펀드가 있었다고 소개했다.

낸시 왕은 데이브레이크가 OpenAI가 사이버 분야에서 제공하는 모든 것을 담은 플랫폼이라고 소개했다. 최첨단 사이버 모델부터 OpenAI가 제공하는 도구와 실무 지원까지 포함한다는 설명이다. 몇 달 전 제품 엔지니어들이 최첨단 모델로 시스템을 강화하며 지속적인 방어 여정을 시작했고, 그 배움을 제품화해 오늘 두 제품을 발표하게 됐다고 밝혔다.

발표된 두 제품은 공격 보안 제품인 '데이브레이크 레드 팀'과 '데이브레이크 디펜스 팩토리'다. 레드 팀은 얼리 액세스로 출시된다고 소개됐다.

Defense Factory는 코드베이스와 재현 가능한 클라우드 개발 환경을 스캔하며, 에이전트가 취약점의 영향을 받는 코드를 추적하고 코드 이력과 팀 구조를 활용해 적절한 코드 소유자를 찾도록 돕는다고 설명됐다. 이를 통해 엔지니어는 패치와 작동 검증 테스트가 포함된 바로 병합 가능한 풀 리퀘스트를 받게 된다.

OpenAI는 내부 보안 작업을 수행하며 백로그 해결에 쓴 워크플로가 새 코드가 배포되는 동안에도 운영을 안정적으로 유지하는 데 도움이 된다는 것을 알게 됐고, 이를 Defense Factory에 통합했다. 이제 새 커밋이 발생하면 에이전트가 변경 사항을 검토하는 동시에 수정 사항을 준비하며, 이 과정은 백그라운드에서 지속적으로 이루어진다. 이러한 기능들은 모델 기반 기술, 빌딩 블록, 프로그램을 포함하는 제품군 Daybreak 아래 통합된다고 소개됐다.

Greg은 사이버 모델 평가의 중요한 벤치마크 가운데 하나로 Exploit Gem을 소개했다. 이 벤치마크는 특정 취약점에 대한 개념 증명(PoC)을 생성하는 모델의 능력을 테스트한다. OpenAI는 GPT-6 Cyber가 더 정밀하게 작동하고 쉽게 포기하지 않도록 학습시켰고, 그 결과 이 벤치마크에서 52%를 달성했다고 밝혔다.

참고로 이번 주 초 출시된 Anthropic의 Mythos는 같은 벤치마크에서 약 38%의 점수를 기록했다고 발표자는 말했다. 이 비교는 발표 내 수치이며 독립 평가로 확인된 것은 아니다.

OpenAI는 다음 세대 전문 사이버 모델을 이미 개발 중이라고 밝혔다. 이 모델은 더 뛰어난 성능과 토큰 효율성을 갖추었고 GPT-6 Cyber와 마찬가지로 기본적으로 더 오랫동안 강력하게 작동할 수 있다고 한다. 같은 과제에서 이 모델은 Mythos 점수의 거의 두 배에 달하는 성능 향상을 보인다고 소개됐다. 발표자는 이제 취약점을 찾는 것만으로는 충분하지 않으며 발견한 만큼 빠르게 패치할 수 있어야 한다고 강조했다. 이를 측정하기 위해 Patch Bench 같은 평가 항목을 쓰며, 이는 모델이 애플리케이션의 회귀 오류를 유발하지 않으면서 결함을 찾아 수정하는 능력을 테스트한다고 설명됐다.

발표자는 Exploit Gem Honey Pot 같은 평가로 정렬을 직접 테스트할 수 있다고 설명했다. 이 평가는 의도적으로 취약하게 만든 대상인 허니팟을 환경 안에 배치해 공격하기 쉽게 만든 뒤, 작업 수행 과정에서 모델이 이를 활용하려 하는지 보는 방식이다. 허니팟의 취약점을 이용하면 정답을 알아낼 수 있을지 모르지만, 그렇게 하는 것은 허용된 범위를 벗어나는 행위라고 설명됐다.

발표자는 GPT-6 Cyber가 과거의 최첨단 모델들과 비교해 상당한 개선을 보였고 다른 정렬 평가에서도 우수한 성과를 냈다고 말했다. 사이버 안전장치 없이 평가했을 때 평가 사례의 99.9%에서 범위 내에 머물렀고, 프로덕션 안전장치를 적용했을 때는 100%의 사례에서 허용 범위를 준수했다는 수치가 제시됐다.

발표자는 모델 학습과 정렬은 문제의 일부일 뿐이라고 덧붙였다. OpenAI는 심층 방어 전략을 취하고 있으며, 중요 인프라와 개인정보 보호 처리와 관련된 고위험 지원에 오정렬 모니터링과 검사를 배치해 고객과 협력하며 잠재적 오정렬이나 오용 위험을 줄이고 있다고 설명했다. 액세스는 데이브레이크 프로그램을 통해 검증하고 있다고 한다.

Clint 기블러는 자신을 OpenAI에서 사이버 보안 연구를 이끄는 인물로 소개했다. 그의 팀은 파이어폭스, PHP, 리눅스처럼 전 세계가 의존하는 중요 소프트웨어의 보안을 돕고 있으며, 이 코드베이스들은 주요 연구소의 초기 세대 프론티어 모델을 포함해 수년간 보안 테스트를 거쳐 왔다고 말했다.

그는 매일 모델을 사용하며 얻은 첫 번째 교훈으로, 같은 코드를 더 새로운 모델로 스캔하면 수년간 존재했을지 모를 새로운 취약점을 발견한다는 점을 들었다. 두 번째 교훈은 이미 알려진 낮은 심각도의 취약점이 실제로는 높을 수 있다는 것이다. 최신 모델이 제어 장치를 우회하거나 여러 낮은 심각도 취약점을 연결해 악용하는 새 방법을 찾아내기 때문이다. 예를 들어 단순히 서비스 거부만 일으킬 것으로 여겨졌던 버그가 원격 코드 실행을 가능하게 한 사례를 봤다고 했다.

그는 OpenAI 내부 스캔 과정에서 모델이 여러 낮은 심각도의 발견 사항을 연결해 의미 있는 결과로 만드는 능력에 놀랐다고 말했다. 이 두 가지 교훈은 버그를 얼마나 시급하게 수정해야 하는지를 바꾼다는 것이 그의 결론이다. 이어 파이어폭스 사례를 소개하며, 최근 GPT-4 사이버를 활용한 캠페인에서 이전에 알려지지 않았던 81개의 고심각도 취약점을 발견하고 재현했다고 밝혔다. 또 낮음 또는 중간 심각도로 여겨져 악용이 불가능하다고 생각됐던 30개의 알려진 문제에 대해 새로운 공격 경로를 찾았고, GPT-4 사이버로 악용이 가능했다고 말했다. 이에 따라 이들은 고심각도로 재분류됐다.

Clint는 리눅스가 많은 기기와 클라우드 인프라를 뒷받침하며 4천만 줄 이상의 코드로 구성된 매우 복잡한 시스템이라고 소개했다. OpenAI는 이 리눅스를 대상으로 자율 취약점 발견, 익스플로잇, 패치 파이프라인을 개발해 GPT-5.6 사이버와 GPT-6 사이버 모델로 실행했다.

GPT-6 사이버를 사용한 한 번의 실행에서 파이프라인은 리눅스의 거의 1,000개에 달하는 로컬 권한 상승(LPE) 취약점을 검증하고 패치를 생성했다. 이는 약 3개월 전 5.6 버전이 발견했던 LPE 수의 5배가 넘는 양이라고 한다. 이 연구 과정에서 GPT-6 사이버는 OpenAI뿐 아니라 논의했던 외부 관계자들에게도 완전히 새로운 리눅스 익스플로잇 기법 10가지를 찾아냈다고 밝혔다. 이 결과에 대한 자세한 내용은 '1,000 Fewer Paths to Root'라는 제목의 블로그 게시물에 있다고 소개됐다.

낸시 왕은 악의적 행위자들이 널리 사용 가능한 사이버 모델과 공격용 오픈소스 도구에 접근할 수 있는 만큼, 방어 측에도 프론티어 모델과 최첨단 공격 도구가 필요하다고 말했다. 데이브레이크 레드팀은 가장 뛰어난 사이버 모델을 활용해 애플리케이션을 안전하게 모의 해킹할 수 있는 방법을 제공하는 제품이라는 설명이다.

알렉스는 데이브레이크 레드팀이 실행 중인 애플리케이션에서 공격 경로를 테스트하고 탐색하는 에이전트 군단이라고 설명했다. 취약점이 확인되면 해당 문제를 재현하고 해결할 수 있도록 돕는다는 것이다. 그는 공격자보다 먼저 취약점을 찾고 수정할 수 있도록 이 제품을 만들었다고 말했다.

알렉스는 가상의 협업 문서 플랫폼 NorthStar Docs의 보안 엔지니어라는 가정을 세웠다. 과거 멀티테넌시 관련 문제가 있었기 때문에 모든 것이 제대로 작동하는지 다시 확인하고자 Daybreak Red Team 플러그인으로 스테이징 환경을 평가하는 상황이다. 이 도구는 소스 스캔 도구를 쓰거나 버그 바운티 프로그램에 참여하는 경우 현재 시스템에서 실제 공격 가능한 항목의 우선순위를 정하는 데도 쓸 수 있다고 소개됐다.

Codex는 연결된 Slack 등 소스에서 얻은 맥락을 활용해 평가 대상에 맞춘 캠페인을 구성한다. 캠페인 목표는 스테이징 시스템이며, 소스 코드 일부를 업로드하고 캠페인 기간, 초당 최대 요청 수, 현실적인 공격 시나리오를 만드는 데 필요한 자격 증명을 설정했다. HTTP와 웹소켓 트래픽도 허용하도록 했다. 설정을 마친 뒤 캠페인을 시작하면 왼쪽에서 조사 결과를, 오른쪽에서 에이전트 군단이 탐색 중인 엔드포인트를 볼 수 있다. 엔드포인트가 누락되었거나 권한이 필요한 경우 등을 확인하고 캠페인을 조정할 수도 있다고 설명했다.

내부에서는 협력하는 에이전트 군단이 움직이고 있다. 각 에이전트는 독립적으로 작업하며, 공유된 작업 대기열과 지식 베이스를 통해 아이디어, 발견 사항, 학습 내용을 주고받는다. 역할은 효율을 위해 나뉘어 있으며, 안전·가드레일·인프라 격리는 Daybreak Red Team의 핵심 설계 원칙이라고 설명됐다.

발표자는 이 모든 요소가 모여 '심층 안전(safety in depth)'을 구성한다고 설명했다. 최상단에는 전체 군단과 지식 베이스를 모니터링하며 의도한 목표에서 벗어나는 행동을 식별하는 감독자 에이전트가 있다. 발표자는 이 모든 구조가 OpenAI의 모델 정렬 연구를 기반으로 한다고 밝혔다.

시연에서는 캠페인이 한동안 실행된 뒤 발견 사항이 들어온 화면이 소개됐다. 발견된 항목은 저장 기능과 연결된 SQL 인젝션 취약점이었다. 예시로는 한 플랫폼에서 두 회사의 사용자가 서로 다른 회사 문서에 접근할 수 있는 상황이 제시됐다. 에이전트는 이 문제의 원인이 된 아키텍처와 소스 코드 부분을 함께 보여주어, 임시방편이 아닌 지속 가능한 수정안을 개발하고 다른 잠재 문제를 찾을 수 있게 한다는 설명이다. 또 익스플로잇 체인으로 에이전트가 라이브 시스템에서 문제가 실제로 공격 가능한지 증명하는 단계를 안내한다. 시연에서는 일반 엔드포인트로는 접근할 수 없는 개인 문서를 에이전트가 검색 결과 저장 기능을 이용해 접근하는 과정이 보였다. 밥이 SQL 인젝션이 포함된 검색을 저장한 뒤 내보내기 작업을 실행하는 흐름이다.

시연 후 진행자는 제품 디자인이 단순성과 사용 편의성을 잘 강조한다고 평가했다. 알렉스도 이에 동의하며, 모든 기업이 수행해야 하는 보안 업무를 확실하게 보장하고 확장하기에 매우 쉽고 강력한 도구라고 말했다. 그는 현재 DoorDash, Vanta, Harvey 등 여러 고객사와 긴밀히 협력하며 이 제품을 구축하고 있다고 밝혔다.

알렉스는 더 많은 사람에게 제품을 선보이고 싶다며 참석자들에게 대기 명단 등록을 요청했다. 진행자는 Daybreak Red Team의 핵심이 단순히 더 많은 결과를 만드는 것이 아니라는 점을 짚었다. 이미 가진 결과를 검증하고 수정 사항이 제대로 작동하는지 확인해 기존 백로그를 빠르게 해결하도록 돕는다는 것이다. 레드팀의 결과는 디펜스 팩토리 루프에 입력되어 새 취약점을 찾는 데 그치지 않고 해결하는 에이전트 선순환 구조를 만들 수 있다고 설명했다.

맷은 조직 전체를 조망하는 임원용 뷰를 보여줬다. 수백, 수천 개의 저장소를 보유하고 여러 보안 도구를 이미 쓰고 있을 조직을 가정하며, 이 모든 것을 한곳에 모아 현재 보안 상태를 한눈에 파악하게 해준다고 설명했다. 모든 항목은 심각도에 따라 정리되며, 예시 화면에서는 치명적 심각도의 문제가 31개 있다고 표시됐다. 중복 제거도 같은 화면에서 이뤄져 모든 항목이 하나로 통합되고, 필요한 정보를 한 화면에서 볼 수 있다고 한다.

결과 화면에서는 발견된 모든 내용이 담긴 생키 다이어그램이 보인다. 여러 도구가 같은 문제를 발견하면 대표하는 마스터 결과를 제공하며, 각 항목에는 담당자가 지정된다. 담당자는 다른 도구들의 신호를 받아 가장 많은 맥락을 가진 사람으로 정해진다고 설명됐다. 항목을 선택해 '수정 생성(generate fixes)'을 누르면 클라우드 개발 환경이 가동되어 백그라운드에서 여러 수정 작업을 동시에 진행한다. 누락된 권한 부여(missing authorization) 같은 항목을 열면 왜 중요한지에 대한 요약이 나온다.

맷은 제품 중 Daybreak Defense Factory가 보안 팀이 쓰는 정적 스캐너와 어떻게 다른지 짚었다. 스캐너가 잠재 취약점을 찾아도 여전히 사람이 그 문제를 재현하고 패치를 테스트해야 한다는 점을 예로 들었다. 이 차이를 만드는 것은 클라우드 개발 환경이다. 발표자는 그럴듯해 보이는 결과나 패치가 있더라도 에이전트가 코드와 종속성, 도구를 직접 가져와 코드를 실행하면서 결과와 수정 사항의 품질을 모두 테스트할 수 있게 한다고 말했다. 이 과정을 거치면 PR을 만들거나 변경을 추진할 때 매우 높은 품질의 수정안임을 확신할 수 있다는 설명이다.

진행자는 자신이 대화하는 고객들이 여전히 수동으로 수정 사항을 분류하고 검증하고 있다고 말했다. 그는 이 제품의 핵심 장점으로 기존의 코드 검토와 배포 방식을 바꾸지 않고도 자동화를 추가할 수 있다는 점을 꼽았다. 이에 따라 고객과 PR 리뷰 및 예약 검사부터 시작해 더 많은 활용 사례로 확장할 수 있다고 설명했다.

맷은 저장소에서 '새 검사(New Scan)'를 클릭해 옵션을 보여줬다. 그중 지속적 모니터링 옵션은 변경 사항이 있을 때마다 메인 브랜치를 계속 검사하며, 검사를 매일, 매주 또는 원하는 주기로 예약할 수 있게 한다. 그는 특정 시점에만 취약점을 검색하는 것은 문제의 일부만 해결한다고 설명했다. 실제 코드는 계속 변하므로, 커밋 시 검사를 실행하고 새 코드에 심각한 보안 문제가 있으면 풀 리퀘스트를 차단하도록 설정할 수 있다는 것이다.

저장소 설정에서는 OpenAI가 쓰는 것과 같은 방어 팩토리를 구축하기 위한 세 가지 토글을 확인할 수 있다고 소개됐다. 이 토글로 안전한 코드 검토 환경을 설정해 코드 내 취약점을 줄일 수 있으며, 지속적 모니터링을 설정해 커밋마다 취약점을 확인하고 매일 더 정밀한 검사를 실행해 주변 변경 사항까지 점검한다는 설명이다.

진행자는 OpenAI가 긴밀히 협력해 자체 방어 팩토리를 구축한 고객 사례로 Intuit를 소개했다. Intuit는 '나이트 팔콘(Night Falcon)'이라는 시스템으로 취약점 탐지와 검증을 하나로 통합했다. 나이트 팔콘은 리포지토리와 데이터 흐름을 매핑하고, 에이전트를 활용해 탐지 결과를 검증하고 테스트한다. 그 결과 엔지니어들은 즉각적인 조치가 가능한 증거 자료와 개발자 티켓을 받게 된다고 한다.

Intuit는 종료된 탐지 결과의 87%가 실제 취약점으로 확인되어 수정되었고, 나머지는 유효하지 않은 것으로 평가되었다고 보고했다. 이 수치는 Intuit가 보고한 내용이다.

발표는 이어 Block의 사례로 넘어갔다. Block은 데이브레이크 모델을 사용해 탐지 엔지니어링과 경고 분류 워크플로를 개선하고 있다고 한다. 특히 에이전트 기반 SOC 분야에서 고객들이 큰 성과를 거두고 있는데, Block 팀은 7개월 분량의 운영 텔레메트리 데이터를 대상으로 1시간 이내에 탐지 변경 사항을 테스트할 수 있게 되었고, 그 결과 분기당 오탐 분류에 드는 분석가 시간을 600시간 줄였다고 밝혔다. Sophos 사례도 소개됐다. Sophos는 데이브레이크와 함께 에이전트로 위협을 조사하고 대응하며, 관리형 탐지·대응 사례의 52%가 에이전트에 의해 엔드투엔드로 해결되었고 평균 대응 시간은 38분에서 89초로 줄었다고 한다. 이제 분석가들은 보안 전문성이 반드시 필요한 예외 상황과 의사결정에 집중할 수 있게 되었다고 설명했다.

발표는 이러한 기능들이 데이브레이크 플랫폼으로 통합되며, 더 많은 방어자가 모델에 접근하고 쉽고 안전하게 쓸 수 있는 제품을 만들려 한다고 정리했다. OpenAI의 CLI와 SDK 빌딩 블록을 사용하면 지속적으로 보안 검사를 스캔, 검증, 패치 및 실행할 수 있다고 소개됐다.

도입 방식은 세 가지로 제시됐다. 고객사 팀이 직접 구축하거나, OpenAI의 사이버 배포 전문 엔지니어와 협력해 자신의 환경에 워크플로를 구현하거나, 데이브레이크 디펜스 네트워크를 통해 서비스 파트너와 협력할 수 있다. 여기에 Amazon Bedrock과 Gemini Enterprise Agent 플랫폼을 통해 더 많은 고객에게 모델을 제공하고자 클라우드 파트너들과 협력하고 있다고 밝혔다.