AI, 개발자의 조력자 넘어 의사결정자로 진화… 비용·보안·윤리적 문제 제기

라이브스트림 진행자는 기술적인 문제로 인해 예정된 음향 효과를 재생할 수 없다고 밝혔다. 대신 그는 자신이 직접 입으로 음향 효과를 내어 시청자들에게 전달하겠다고 말했다. 이는 라이브 방송 환경에서 발생할 수 있는 예상치 못한 상황에 대한 즉각적인 대처 방안으로 제시됐다.

강연자는 AI가 사용자에게 무조건적으로 동의하는 '아첨'을 방지하기 위한 새로운 접근 방식을 제안했다. 그는 AI가 항상 자신의 말에 반대 의견을 제시하도록 사용자 환경설정에 저장할 것이라고 밝혔다. 이는 AI가 때때로 틀릴 수 있는 인간의 프롬프트에 대해 모순이나 모호함, 또는 비합리적인 부분을 지적하도록 요구함으로써, AI의 유용성을 극대화하고 잠재적인 오류를 줄이려는 시도다.

강연자는 스스로도 실수를 할 수 있는 존재임을 인정하며, AI가 이러한 오류를 걸러내는 '가드레일' 역할을 해주기를 기대했다. 이는 AI를 단순한 명령 수행 도구가 아닌, 비판적 사고를 가진 협력자로 바라보는 관점을 반영한다. 이러한 설정은 AI가 개발 과정에서 더욱 신뢰할 수 있는 파트너로 기능하도록 만드는 데 중요한 역할을 할 것으로 보인다.

컨텍스트 창은 AI가 한 번에 처리하고 기억할 수 있는 정보의 양을 의미하며, 이는 LLM(대규모 언어 모델)의 성능에 직접적인 영향을 미친다. 이처럼 컨텍스트 창이 제한되면, AI가 처리할 수 있는 코드나 문서의 양이 줄어들어 개발 효율성에 부정적인 영향을 미칠 수 있다.

일부 개발자들이 코파일럿이나 클로드 같은 LLM과 몇 주 동안 장시간 대화를 이어가는 방식에 대해 비판적인 시각이 제시됐다. 하나의 대화로 모든 개발 내역을 기억하는 것은 해당 기능의 개발 기록을 보존한다는 장점이 있지만, 팀 협업 환경에서는 문제가 될 수 있다는 지적이다. 만약 개발자가 휴가를 가거나 다른 팀원이 해당 티켓 작업을 이어받아야 할 경우, 장시간 이어진 개인적인 대화 기록은 다른 팀원들이 상황을 파악하기 어렵게 만들 수 있다. 이는 개인의 효율성을 넘어 팀 전체의 생산성과 투명성에 악영향을 미칠 수 있음을 의미한다.

AI가 이전 메시지 기록과 현재 생각을 포함한 모든 입력 토큰을 매번 다시 처리해야 하는 '상태 비저장(stateless)' 특성 때문에, 대량의 코드를 읽고 다시 작성하는 작업은 기술적으로 가능하더라도 실용적인 비용 문제가 발생한다는 설명이다. 특히 Opus와 같은 고급 모델은 코드 작성 비용이 매우 높다고 지적됐다.

고도로 보안된 은행의 VDI(가상 데스크톱 인프라) 환경에서 개발자가 휴대폰으로 챗GPT를 사용하는 상황을 예로 들며, 민감한 회사 데이터가 AI 모델을 통해 외부로 유출될 수 있는 위험을 지적했다. 이러한 맥락에서 깃허브 코파일럿(GitHub Copilot)이 선호되는 이유는 마이크로소프트가 이미 모든 라이선스와 계약을 통해 데이터 보안을 관리하기 때문이라고 설명했다.

젯브레인즈는 자체 제품을 판매하고 싶어 하며, 코파일럿이 그들의 시장에서 경쟁자로 인식될 수 있다는 점에서 상호 배타적인 입장을 취할 것이라는 분석이다. 이는 개발 도구 시장에서 AI 기반 보조 도구와 기존 IDE 간의 경쟁 구도를 보여준다.

클로드 Opus나 Sonnet 같은 대규모 언어 모델(LLM)과 '하네스(Harness)' 간의 차이점이 설명되었다. LLM은 GPU에서 입력 토큰을 출력 토큰으로 변환하는 수많은 기가바이트의 부동소수점 숫자로 이루어진 반면, 하네스는 이러한 모델에 도구, 보안 기능, 에이전트 오케스트레이션, 컨텍스트 관리 등 모든 환경 요소를 추가한 개념이라고 설명됐다. 이는 단순한 AI 모델을 넘어, 실제 개발 환경에서 AI가 활용될 수 있도록 지원하는 포괄적인 시스템을 의미한다.

AI 에이전트가 프로젝트의 본질이나 패턴을 담은 마크다운을 생성하는 기능에 대해 회의적인 시각이 제기됐다. 일부 인터넷 사용자들은 이를 'LLM 추론에 필요한 LLM 음식'이라고 비유하며, 지금 추론했다면 왜 내일 다시 추론할 수 없는지에 대한 의문을 제기했다. 이는 AI가 프로젝트를 스캔하여 얻은 정보의 지속적인 유효성과 실제적인 가치에 대한 논쟁으로 이어진다. 현재의 방식이 좋은 시작이 될 수는 있지만, 장기적인 관점에서의 효용성에 대한 의문은 여전히 남아있다.

AI가 생성한 프로젝트 요약이나 패턴 정보가 단기적으로는 유용할 수 있지만, 시간이 지남에 따라 프로젝트의 변화를 반영하지 못하거나 반복적인 추론 작업이 필요하게 된다면 그 가치가 떨어진다는 주장이다. 이러한 회의론은 AI 에이전트의 기능이 단순히 정보를 요약하는 것을 넘어, 동적으로 변화하는 프로젝트 환경에 적응하고 의미 있는 통찰을 지속적으로 제공할 수 있어야 한다는 점을 시사한다.

이러한 비판적 시각은 AI 에이전트의 개발 방향과 활용 방안에 대한 중요한 논의 지점을 제공한다. 단순한 정보 제공을 넘어, AI가 개발자의 실제 업무 부담을 줄이고 지속 가능한 가치를 창출하기 위한 방안에 대한 고민이 필요하다는 점이 강조된다.

강연자는 Anthropic에서 제공하는 최고의 학습 자료를 참고하여 슬라이드를 만들었으며, 이를 청중들과 공유하겠다고 약속했다. 그는 Anthropic의 슬라이드를 단순히 재현하는 것이 아니라, 자신만의 방식으로 재구성했음을 밝혔다. 이 과정에서 오래된 슬라이드를 '레거시 슬라이드'라고 언급하며 유머러스하게 표현했다. 이는 최신 AI 기술에 대한 강연자의 깊은 이해와 자료 활용 능력을 보여주는 부분이다.

그는 에이전트 오케스트레이션의 핵심으로 세 가지를 꼽았다. 첫째, 두 개의 보조 에이전트를 생성하는 것. 둘째, 이들이 병렬로 작업을 수행하도록 하는 것. 셋째, 이들이 수행한 작업을 요약하도록 지시하는 것이다. 이 세 단계를 통해 에이전트 오케스트레이션의 기본 원리를 이해하고 실제 적용할 수 있음을 강조했다.

이는 개발자들이 AI 에이전트 기술에 대한 실질적인 경험과 이해를 증명할 수 있는 실용적인 가이드라인을 제공한다. 강연자는 이 간단한 세 단계를 통해 복잡해 보이는 에이전트 오케스트레이션 개념을 쉽게 접근하고 자신의 기술 스택으로 추가할 수 있다고 설명했다.

이러한 접근 방식은 이론적인 지식뿐만 아니라, 실제 프로젝트에서 AI 에이전트를 활용하여 특정 작업을 효율적으로 관리하고 자동화하는 능력을 보여줄 수 있음을 의미한다. 결과적으로 개발자들은 이를 통해 AI 시대에 필요한 역량을 갖춘 인재로 자신을 어필할 수 있게 된다.

강연자는 오늘 강연의 목표 중 하나가 이 중독을 깨닫게 하는 것이라고 밝혔다. 이는 AI 도구가 제공하는 편리함과 효율성이 사용자에게 심리적인 의존성을 유발할 수 있음을 경고하는 것으로 해석된다. AI가 제공하는 즉각적인 결과와 반복적인 성공 경험이 개발자들로 하여금 AI에 대한 의존도를 높일 수 있다는 점을 지적하며, 이러한 중독 메커니즘을 명확히 인지하고 적절히 대응하는 것이 필요하다고 강조했다.

예를 들어, AI가 스웨거(Swagger) 계약을 변경하거나 REST API를 수정하는 등의 중요한 결정은 인간의 승인 없이는 이루어질 수 없도록 해야 한다는 것이다. 이는 AI가 자율적으로 승인 절차를 자동화해버릴 가능성을 차단하고, 최종적인 책임과 통제권은 인간에게 있음을 명확히 하기 위함이다.

강연자는 AI가 '휴대폰을 핥아서 승인'하는 것과 같은 극단적인 자동화가 일어날 수 있음을 경고하며, 중요한 의사결정은 반드시 인간의 물리적인 확인과 승인을 거치도록 해야 한다고 설명했다. 어떤 의사결정을 인간의 통제하에 둘 것인가는 일종의 예술이며, 때로는 계약 변경이 필요할 수도 있지만, 그럴 때는 인간이 직접 나서서 처리해야 한다고 덧붙였다.

이러한 가드레일 설정은 AI의 효율성을 유지하면서도 잠재적인 위험을 최소화하고 윤리적인 문제를 방지하는 핵심적인 요소로 작용한다. AI의 자율성을 허용하되, 인간의 개입이 필요한 중요한 지점을 명확히 함으로써 AI와 인간의 협업 모델을 더욱 안전하고 책임감 있게 구축할 수 있다.

AI는 정확히 무엇을 고쳐야 할지 알고 있으며, 인간 개발자가 '테스트 안 함'이라고 할 수 없는 미묘한 버그도 처리할 수 있다. 궁극적으로는 버튼 하나만 누르면 지라가 자체 로봇 개발 기능을 이용해 수정 사항이 담긴 PR(풀 리퀘스트)을 깃허브에 올리고, 개발자는 이를 검토만 하면 되는 수준에 이를 것이라고 전망했다.

이는 개발 과정에서 반복적이고 시간이 많이 소요되는 버그 수정 작업을 AI가 대폭 단축시켜 개발 생산성을 혁신적으로 높일 수 있음을 시사한다. AI는 단순한 코드 보조를 넘어, 문제 해결 프로세스 전반에 걸쳐 핵심적인 역할을 수행하게 될 것이며, 개발자는 더욱 고차원적인 작업에 집중할 수 있게 될 것으로 기대된다.

팀은 AI 봇과 채팅하게 될 것이고, 이 봇은 커뮤니티의 일원으로서 경고를 올리거나 정보를 제공하는 역할을 수행할 것이라는 설명이다. 이러한 변화는 P2P(개인 대 개인) 채팅 기능을 비활성화함으로써 가능해질 수 있으며, 팀원들은 서로에게 직접 메시지를 보내는 대신 봇 아래에 메시지를 보내 소통하게 될 것이다.

이는 '당신과 그'가 아닌 '우리'라는 협업 문화를 강화하며, AI 봇이 팀의 집단 지성을 활용하고 지라(Jira) 같은 시스템과 연동하여 직접 답변을 제공하는 역할을 맡게 된다는 것이다. 예를 들어, 팀원이 '기억나?'라고 물으면 봇은 '네, 지라 링크를 추출한 바에 따르면'이라고 답하며 관련 정보를 즉시 제공할 수 있다. 이처럼 AI 봇이 팀 커뮤니케이션의 중심이 되면서, 개인 간의 비공식적인 대화보다는 공식적이고 정보 중심적인 팀 협업이 더욱 강조될 것으로 보인다.

AI 봇이 온콜(on-call) 엔지니어의 업무를 지원하는 시나리오가 제시되었다. 밤에 시스템 문제가 발생했을 때, 엔지니어가 잠에서 깨어나기도 전에 AI 봇은 이미 7가지 가능한 수정 사항을 시도했고, 그 중 하나를 성공적으로 해결했다는 것이다. 봇은 엔지니어를 기다리며 어떤 시도가 성공했고 어떤 시도는 실패했으며, 어떤 시도는 아직 진행되지 않았는지 보고한다. 엔지니어는 간단히 '알겠어'라고 답하며 문제가 해결되었음을 확인한다.

이는 MTTR(평균 문제 해결 시간)을 거의 0에 가깝게 만들 수 있는 AI의 잠재력을 보여준다. 물론, AI 봇이 무한정 파드를 재시작하는 등의 부작용을 막기 위한 '가드레일' 설정의 중요성도 함께 강조되었다. 이 시나리오는 AI가 긴급 상황 대응 및 문제 해결 과정에서 인간 전문가의 부담을 대폭 줄여주고 효율성을 극대화할 수 있음을 보여준다.

이러한 시스템은 특히 24시간 운영되는 서비스에서 인력 부담을 줄이고 서비스 안정성을 높이는 데 기여할 수 있다. AI의 자율적인 문제 해결 능력이 실제 업무 환경에 적용될 수 있는 구체적인 사례를 제시하며, 미래의 IT 운영 방식에 대한 기대를 높였다.

강연자는 만약 AI 서비스 제공자들이 실제로 발생한 비용만큼 제대로 가격을 청구한다면, 현재의 가격 구조가 유지되기 어려울 것이라고 언급했다. 이는 AI 기술이 확산됨에 따라 서비스 제공자들의 운영 비용 부담이 커지고 있으며, 장기적으로는 AI 사용료가 현실화될 필요가 있음을 시사한다.

6월 26일 온라인으로 첫 AI 워크숍이 개최될 예정이며, 이미 두 그룹이 가득 찼다고 밝혔다. 강연자는 공유할 콘텐츠가 너무 많아서 원래 하루 과정이었던 워크숍을 이틀 과정으로 확대할 예정이라고 덧붙였다. 이는 AI 기술에 대한 높은 관심과 함께, 강연자가 제공할 정보의 양과 깊이가 상당함을 시사한다.

강연자는 한두 달 후부터 이를 조정하기 시작할 것이라고 밝혔다. 예를 들어, 한 고객은 '슈퍼파워즈(Superpowers)'의 브레인스토밍과 '오픈스펙(Openspec)'을 결합하여, 요구사항을 물을 때마다 AI가 먼저 브레인스토밍을 하고 그 후에 제안을 제시하도록 요청했다고 설명했다. 이는 AI 스킬 프레임워크가 다양한 고객의 특정 요구사항과 업무 흐름에 맞춰 유연하게 진화할 수 있음을 보여준다.

이러한 맞춤형 접근 방식은 AI 기술의 적용 범위를 넓히고, 각 기업이나 개발 팀의 고유한 환경에 최적화된 솔루션을 제공하는 데 기여할 것으로 보인다. 오픈소스 기반의 유연성과 고객 피드백을 통한 지속적인 개선은 AI 스킬 프레임워크의 실용성을 높이는 핵심 요소가 될 것이다.

강연자는 인텔리제이(IntelliJ)에 매우 익숙하여 눈을 감고도 사용할 수 있을 정도라고 밝히며, 여전히 2GB의 RAM을 투자하고 있다고 말했다. 반면, Visual Studio Code로 전환하려고 노력하고 있지만 매우 어렵다고 토로했다. 이는 개발 도구에 대한 숙련도와 익숙함이 새로운 도구로의 전환을 어렵게 만드는 요인이 될 수 있음을 보여준다. 새로운 기술과 도구의 장점에도 불구하고, 기존의 편의성과 생산성을 포기하기 어려운 개발자들의 현실적인 고민을 드러낸다.

무료 도구는 로컬 모델 덕분에 사용 가능하지만, 유료 AI와의 가장 큰 차이는 '규모'에 있다고 설명했다. 유료 도구는 훨씬 더 많은 작업량을 처리할 수 있으며, 예를 들어 ChatGPT 코딩은 'Codex'라는 할당량을 통해 매월 수천 달러를 지불할 수 있는 반면, 무료 버전은 몇천 번 사용하면 한계에 도달하여 결국 무용지물이 될 수 있다고 지적했다. 이는 AI 코딩 도구의 선택이 개발자의 생산성과 직결되며, 고성능의 AI 기능을 활용하려면 그에 상응하는 비용을 지불해야 함을 시사한다.

대부분의 기업들이 'Cursor'에서 'Cloud Code'로 전환하는 경향이 관찰되었다는 내용이 언급되었다. 이는 비용과 전반적인 품질에 대한 논쟁 때문인 것으로 분석됐다. 강연자는 자신이 목격한 바에 따르면, 몇몇 회사들이 Cursor 사용을 중단하고 Cloud Code로 이동했다고 밝혔다. 이는 기업 환경에서 AI 코딩 도구 선택 시 비용 효율성과 제공되는 서비스의 품질이 중요한 결정 요인이 됨을 보여준다.