AI 코딩 도구, 개발자 효율성 10배 약속하지만 현실은 코드 작성 20% 증가, 검토 40% 증가

아이작 레빈은 AI 기술의 발전 속도가 매우 빠르기 때문에 강연 내용이 실시간으로 부정확해질 수 있다고 경고했습니다. 그는 개발자 속도와 효율성 향상에 대한 광범위한 조사 결과를 공유할 것이며, 강연 말미에 모든 참조 논문과 슬라이드 덱으로 연결되는 QR 코드를 제공할 것이라고 밝혔습니다. 이와 함께 강연 내용이나 데모가 100% 최신이 아닐 수 있음을 면책 조항으로 명시했습니다.

아이작 레빈은 AI가 개발자를 더 빠르고 효율적으로 만들어 '10배 개발자'로 만들 것이며, 코드를 100% 작성하여 개발자는 고수준 사고에 집중하고 문서와 테스트 작성까지 대신해 완벽한 코드를 제공할 것이라고 주장했습니다. 그는 수백만, 수십억, 수조 줄의 코드로 훈련되었기 때문에 버그가 없을 것이라는 약속을 제시하며, 청중에게 이러한 약속에 대한 믿음을 물었습니다.

실제 개발 환경에서 AI를 사용할 경우, 개발자들은 20% 더 많은 코드를 작성하고 그 결과물을 검토하는 데 40% 더 많은 시간을 보내는 것으로 나타났습니다. 아이작 레빈은 한 연구 결과를 인용하며, AI가 15초 만에 함수를 작성할 수 있지만, 이를 이해하고 검토하는 데 더 많은 시간이 소요될 수 있음을 지적했습니다. 그는 개발자들이 코드 작성자가 되도록 교육받았지 코드 검토자가 되도록 교육받지 않았으며, 코딩을 멈출 경우 좋은 코드 검토자가 되기 어렵다는 점을 강조했습니다.

아이작 레빈은 AI 모델의 '환각' 현상에 대해 설명했습니다. 그는 '환각'이라는 표현이 의인화된 것처럼 보이기 때문에 선호하지 않지만, AI가 질문에 대해 예상되는 응답을 예측하여 제공하는 과정에서 부정확한 결과가 나올 가능성이 있음을 강조했습니다. 이는 AI가 때때로 사실과 다른 정보를 생성할 수 있다는 점을 의미합니다.

아이작 레빈은 대규모 언어 모델(LLM)이 단순한 도구가 아니라고 설명했습니다. LLM은 텍스트를 입력받아 가중치가 부여된 데이터 세트를 기반으로 해당 텍스트에 대한 예측 가능성을 생성하고 출력을 제공하는 확률 기계에 가깝다는 것입니다. 그는 LLM의 본질을 이해하는 것이 AI 도구 활용의 핵심이라고 강조했습니다.

아이작 레빈은 '하네스'가 LLM 위에 있는 소프트웨어 계층으로, LLM의 행동과 입력을 제어하고 컨텍스트 관리를 변경할 수 있는 역할을 한다고 설명했습니다. 그는 하네스를 AI 에이전트의 운영 체제에 비유하며, 입력 형성, 행동 정의, 프롬프트 사용자 정의 등 LLM으로 전송되는 정보를 '마사지'하는 데 유용한 다양한 작업을 수행할 수 있다고 언급했습니다.

아이작 레빈은 Cursor가 닷넷 사용자를 직접 겨냥하지는 않지만, IDE로서 시장에 혁신적인 기능을 빠르게 내놓고 있다고 평가했습니다. Cursor의 주요 독점 기능으로는 작업 공간에 코드를 추가하는 즉시 모든 코드를 색인화하는 기능과, 하네스가 아닌 모델 자체인 'Composer'라는 독점 코딩 모델이 있습니다.

아이작 레빈은 AI 코딩 도구를 사용할 때 '맥락'이 가장 중요하다고 강조했습니다. 그는 맥락이 없으면 AI로부터 가치 있는 결과물을 기대하기 어렵다고 단언했습니다. 이는 AI가 단순히 코드를 생성하는 것을 넘어, 특정 프로젝트나 비즈니스 로직에 대한 깊이 있는 이해가 필요하다는 점을 시사합니다.

AI 코딩 도구의 주요 한계점은 공개 데이터, 즉 온라인에 공개된 소스 코드로만 훈련되었다는 점입니다. 아이작 레빈은 ASP.NET Core의 핵심 상용구는 AI가 파악할 수 있지만, 기업 내부에 존재하는 수백만 달러 가치의 레거시 비즈니스 로직이나 사설 라이브러리는 AI 훈련 세트에 포함되지 않을 가능성이 높다고 지적했습니다. 이로 인해 AI는 기업 특유의 '접착제'와 같은 핵심 로직을 이해하지 못하게 됩니다.

아이작 레빈은 AI 코딩 시대에 타이핑 속도가 아닌 '요구사항의 모호성'이 새로운 병목 현상이 될 것이라고 단언했습니다. 그는 코드가 이제 기본적으로 무료라는 인식을 강조하며, 개발자가 AI에 비즈니스 규칙을 명확하게 설명할 수 없다면 AI는 코드를 작성할 수 없다고 지적했습니다. 이는 코드를 생성하는 능력보다 명확하고 정확한 요구사항 정의 능력이 더욱 중요해짐을 의미합니다.

아이작 레빈은 LLM을 컴퓨터에 로컬로 호스팅할 수 있는 도구로 Ollama를 소개했습니다. 그는 LM Studio와 같은 다른 도구도 있지만, Ollama를 예시로 들며 규제가 엄격하거나 클라우드 호스팅이 불가능한 환경에서 로컬 LLM 구동의 유용성을 강조했습니다. Llama나 DeepSeek과 같은 오픈웨이트 모델도 Ollama를 통해 자유롭게 사용할 수 있다고 덧붙였습니다.

아이작 레빈은 긴 팟캐스트 비디오를 YouTube에 게시하고 이를 TikTok이나 Instagram Reels에 올릴 수 있는 짧은 클립으로 분할하는 개인적인 필요에서 'Video Splitter'라는 AI 도구를 직접 만들었다고 밝혔습니다. 이 도구는 MP4 파일이나 YouTube 링크를 입력받아 Whisper를 이용해 스크립트를 추출하고, AI 프롬프트를 통해 흥미로운 세그먼트 목록을 생성하며, FFmpeg로 클립을 만듭니다. 그는 이러한 서비스를 제공하는 유료 도구들이 있지만, 매달 40달러를 지불하고 싶지 않아 직접 개발했다고 설명했습니다.

아이작 레빈은 Visual Studio 환경에서 사용자 지정 에이전트를 보고 직접 만들 수 있다고 언급했습니다. 그는 .NET 생태계에서 브래디 개스터(Brady Gaster)의 'Squad Vision'을 인기 있는 에이전트 사례로 들며, 에이전트 관리 기능을 통해 여러 에이전트를 다양한 용도로 활용할 수 있다고 설명했습니다. 이는 개발자가 특정 목적에 맞는 AI 에이전트를 직접 구축하고 통합할 수 있음을 시사합니다.

아이작 레빈은 Cursor에서 모델 변경 기능을 시연하고 싶었으나, 무료 요금제로는 더 이상 모델을 변경할 수 없게 되어 데모에 차질이 생겼다고 밝혔습니다. 이는 AI 도구의 유료화 정책 변화가 사용자 경험에 직접적인 영향을 미칠 수 있음을 보여줍니다.

아이작 레빈은 모든 AI 관련 작업을 로컬 환경에서 수행하고 있으며, Copilot이나 Cursor와 같은 유료 서비스에 비용을 지불하지 않고 있다고 말했습니다. 그는 비싼 노트북을 사용하고 있지만, 취미로 사용하는 경우 장기적으로 훨씬 비용 효율적이라고 강조했습니다. 이는 클라우드 기반 AI 서비스의 구독료 부담 없이 AI를 활용할 수 있는 로컬 LLM의 장점을 부각합니다.

아이작 레빈은 AI 시대에 개발자의 역할이 코드 작성자에서 '감사자'로 전환되고 있다고 진단했습니다. 그는 이러한 변화가 좋은 일인지 나쁜 일인지는 아직 알 수 없지만, 코드를 읽고 무엇이 진행되는지 파악하는 기술은 항상 가치를 가질 것이라고 강조했습니다. 이는 개발자가 AI가 생성한 코드를 이해하고 검증하는 능력이 중요해진다는 점을 시사합니다.

아이작 레빈은 AI 시대에 인간 개발자가 반복문의 한 조각만 맡게 되지만, 그 역할은 매우 중요하다고 강조했습니다. 그는 개발자의 모든 집중이 코드의 품질 검토에 있어야 한다고 말하며, 결함 있는 코드를 아무도 실행하지 않을 것이기 때문에 코드를 실행하기 전에 모든 문제점을 파악하는 것이 중요하다고 단언했습니다. 이는 AI가 코드를 생성하더라도 최종 검증과 책임은 여전히 인간 개발자에게 있다는 점을 명확히 합니다.

아이작 레빈은 AI 도구들이 마법이 아니며, 인간의 판단을 대체하거나 망가진 아키텍처를 고치지도 않을 것이라고 결론지었습니다. 그는 AI 도구의 역할은 개발자가 시간을 보내는 방식을 근본적으로 바꿀 것이라고 강조했습니다. AI가 코드 생성과 같은 반복적인 작업을 대신함으로써, 개발자들은 더 높은 수준의 사고와 문제 해결, 그리고 AI가 생성한 코드의 검토 및 최적화에 집중할 수 있게 될 것이라는 점을 시사합니다. 이러한 변화는 개발자에게 새로운 기술과 역량을 요구하며, AI와 협력하여 더 효율적인 개발 프로세스를 구축하는 방향으로 나아가야 할 필요성을 제기합니다. 결과적으로 AI는 개발자의 역할을 재정의하고 작업 흐름을 혁신하는 강력한 도구이지만, 그 한계를 명확히 인식하고 적절히 활용하는 것이 중요하다고 볼 수 있습니다.