LLM, 소프트웨어 엔지니어링 직업의 미래를 어떻게 바꿀 것인가: 생산성 향상과 전문성 저하의 양면성

LLM이 소프트웨어 엔지니어링 직업에 미치는 영향에 대해 전문가들 사이에서 의견이 엇갈리고 있다. 톰 셀렉은 알렉산드레스쿠의 주장을 인용하며, LLM이 기술적인 부분을 대신해 엔지니어들이 판단력과 창의력에 집중할 수 있게 될 것이라고 말했다. 그러나 그는 좋은 판단력이 경험에서 오고, 그 경험은 서툰 판단에서 비롯된다는 점을 들어, 경험이 사라질 경우 엔지니어들의 판단력 저하를 우려했다.

컨퍼런스 진행 중, Anthropic의 데이지 헐먼 박사는 몇 년 안에 소프트웨어 엔지니어들이 코드를 직접 작성하거나 설계를 하지 않게 될 것이라고 예측했다. 그녀는 모든 코딩 및 아키텍처 작업이 LLM에 의해 이루어질 것이라고 단언했다. 이는 LLM이 단순한 보조 도구를 넘어 핵심적인 개발 과정을 완전히 대체할 것이라는 급진적인 전망을 제시한 것이다.

네타 아브눈은 AI 전문가들이 LLM의 역할에 대해 의도적으로 모호한 태도를 유지하고 있다고 지적했다. 이는 LLM이 소프트웨어 엔지니어를 대체할지, 아니면 기존 인력을 흡수하여 기술을 변화시킬지, 혹은 전문가를 위한 도구로 남을지에 대한 불확실성을 유발한다는 것이다. 그녀는 이러한 모호성이 AI 분야의 확장을 추구하며 더 많은 일자리를 목표로 하고 있음을 의미할 수 있다고 해석했다.

즉, AI 전문가들은 LLM의 잠재력을 극대화하기 위해 그 경계를 명확히 규정하기보다 열어두는 전략을 취하고 있다는 분석이다. 이는 LLM이 단순히 보조 도구를 넘어 직업의 근간을 바꿀 가능성을 염두에 둔 포괄적인 접근 방식일 수 있다. 이러한 관점은 LLM이 미래에 소프트웨어 엔지니어링 분야에서 훨씬 더 광범위한 역할을 수행할 수 있음을 암시한다.

아브눈은 이 모호성이 결국 LLM이 소프트웨어 엔지니어링 분야를 넘어 다양한 직업군으로 영향력을 확대하려는 의도일 수 있다고 강조했다. 이는 AI 기술이 특정 직무에 국한되지 않고 여러 산업에서 광범위하게 적용될 수 있는 잠재력을 가지고 있음을 시사한다. 따라서 LLM의 역할은 현재 예측하는 것보다 훨씬 더 유동적이고 확장적일 수 있다.

이러한 관찰은 LLM의 미래가 단순히 '대체' 또는 '보조'라는 이분법적 사고를 넘어설 수 있음을 보여준다. 오히려 LLM은 다양한 직무에 통합되어 새로운 형태의 역할과 기회를 창출할 수 있는 잠재력을 가지고 있으며, AI 전문가들은 이러한 가능성을 염두에 두고 전략을 세우고 있다는 분석이다.

설문 조사 결과에 따르면, LLM 기반 도구의 활용이 소프트웨어 엔지니어들 사이에서 매우 보편화된 것으로 나타났다. 응답자의 80%가 최소 주 2회 이상 LLM 기반 도구를 사용한다고 답했으며, 이는 LLM이 이미 개발자의 일상적인 업무 흐름에 깊숙이 통합되었음을 보여준다. 이러한 높은 사용률은 LLM이 단순한 호기심을 넘어 실질적인 업무 보조 도구로 자리 잡았음을 의미한다.

LLM이 생성하는 코드의 품질에 대한 평가도 긍정적이었다. 응답자의 대다수는 LLM이 생성한 코드가 '최소한 평균 소프트웨어 엔지니어 수준과 동등하거나 그 이상'이라고 답했다. 이는 LLM이 단순한 코드 조각 생성기를 넘어, 실제 개발 환경에서 활용 가능한 수준의 코드를 제공할 수 있음을 시사한다. 이러한 결과는 LLM이 코드 품질 향상에 기여할 수 있다는 기대를 높이는 요인으로 작용한다.

LLM 생성 코드의 품질에 대한 긍정적인 평가에도 불구하고, 실제로 인간 검토 없이 LLM이 생성한 코드를 프로덕션 환경에 직접 병합하는 경우는 전체 응답자의 8%에 불과했다. 응답자의 4분의 3 이상이 LLM 코드가 평균 엔지니어보다 품질이 높고 프로젝트에 긍정적인 영향을 미친다고 생각함에도 불구하고, 대부분의 개발자는 여전히 생성된 코드에 대한 인간의 검토 과정을 필수적이라고 보고 있다.

이는 LLM의 코드 생성 능력이 뛰어나더라도 아직 완전한 신뢰를 얻지 못하고 있음을 나타낸다. 개발자들은 LLM의 결과를 전적으로 믿기보다는 잠재적인 오류나 예상치 못한 문제를 방지하기 위해 추가적인 검증 단계를 거치는 것으로 해석된다. 이러한 간극은 LLM 기술이 실제 운영 환경에 완전히 통합되기 위해서는 코드 품질뿐 아니라 신뢰성 및 예측 가능성 측면에서 추가적인 개선이 필요함을 시사한다.

이러한 결과는 LLM이 제공하는 생산성 향상의 이점을 취하면서도, 잠재적인 위험을 최소화하려는 개발자들의 신중한 태도를 반영한다. 이는 LLM이 소프트웨어 개발의 미래에 중요한 역할을 할 것이지만, 인간의 전문적인 판단과 검토의 역할은 여전히 필수적이라는 점을 보여주는 중요한 지표로 볼 수 있다.

LLM을 코딩 보조 도구로 설명하는 대다수의 사람들은 LLM을 '인턴'에 비유하는 경향이 있다. 이는 LLM이 경험 없는 엔지니어처럼 하루 24시간 무엇이든 지시하는 대로 기꺼이 수행하지만, 그 결과를 완전히 신뢰할 수는 없기 때문이다. 따라서 LLM이 생성한 결과물은 마치 인턴의 작업물을 검토하듯이 반드시 추가적인 확인과 검토를 거쳐야 한다는 것이 공통된 의견이다.

LLM의 효용성에도 불구하고, LLM 사용자들 사이에서는 LLM 결과물을 판단하는 능력의 저하에 대한 우려가 크게 나타났다. 설문 응답자의 80%가 LLM 사용자들이 경험을 쌓으면서 LLM의 결과물을 제대로 판단하지 못할 위험이 있다고 생각하는 것으로 밝혀졌다. 더욱 놀라운 점은 이 진술에 반대한 사람이 단 한 명도 없었다는 사실이다.

이는 LLM이 생산성과 코드 품질 향상에 기여한다고 평가하면서도, 동시에 인간의 핵심 역량인 판단력에 미치는 부정적인 영향에 대해 깊이 인식하고 있음을 보여준다. 즉, 도구에 대한 긍정적인 감정과는 별개로, 장기적인 관점에서 개인의 전문성 발달에 대한 회의적인 시각이 존재한다는 것이다.

이러한 현상은 LLM이 가져오는 생산성 증대가 결국 인간 개발자의 비판적 사고 능력과 문제 해결 능력을 약화시킬 수 있다는 근본적인 질문을 제기한다. 만약 LLM에 대한 의존이 심화될수록 자체적인 판단 능력이 저하된다면, 소프트웨어 엔지니어링 직업의 본질적인 가치와 역할에 대한 재정의가 필요할 수 있다.

네타 아브눈은 드라이퍼스 모델을 통해 전문성 발달 과정을 설명하며 LLM의 한계를 간접적으로 지적했다. 드라이퍼스는 랜드 연구소에서 민족지학자로서 사람들이 기술을 사용하고 개발하는 방식을 관찰하며 전문성 이론을 개발했다. 그는 1972년 저서 '컴퓨터가 할 수 없는 일'을 통해 컴퓨터의 한계와 인간 전문성의 본질을 탐구했다.

드라이퍼스 모델은 초심자에서 전문가로 나아가는 다섯 단계를 제시한다. 이 모델의 핵심은 전문성이 단순히 규칙을 따르는 것을 넘어, 실제 경험을 통해 축적되는 체화된 지식과 직관에서 비롯된다는 점이다. 즉, 이론적 지식만으로는 해결할 수 없는 복잡한 상황에서 전문가는 오랜 경험을 바탕으로 한 직관적 판단을 내린다는 것이다.

이러한 관점은 LLM이 방대한 데이터를 학습하여 규칙 기반의 지식을 생성할 수 있을지라도, 인간 전문가가 지닌 심오한 직관과 상황 인식 능력을 모방하기는 어렵다는 함의를 지닌다. LLM은 주어진 정보 내에서 최적의 답을 찾아내지만, 실제 세계의 복잡성과 모호성 속에서 인간의 '감각'과 같은 역할을 수행하기는 어렵다는 것이다.

네타 아브눈은 개인적인 경험을 통해 미숙련자와 전문가의 문제 해결 방식 차이를 설명했다. 그녀는 고위험 임신 중 태아의 혈관 기형 문제로 무서움을 느꼈던 경험을 이야기했다. 당시 의사들은 규칙과 일반적인 지식에 의존하여 위험성을 설명했지만, 명확한 해결책을 제시하지 못했다. 아브눈은 태아가 태어난 후 발생할 수 있는 독소 문제에 대해 큰 두려움을 느꼈다.

그 후 만난 한 전문가는 상황을 완전히 다르게 접근했다. 그는 정확한 의학적 지식으로 모든 것을 설명할 수는 없었지만, 직관과 오랜 경험을 바탕으로 피의 흐름이 특정 방향으로 가면 괜찮을 것이라는 '느낌'을 전달했다. 그는 파이프에 구멍이 난 것에 비유하며 상황을 이해시켰고, 실제로 그녀의 아이는 괜찮았다. 이 사례는 미숙련자가 일반적인 규칙과 지식에 의존하는 반면, 전문가는 복잡하고 예측 불가능한 상황에서 자신의 체화된 경험과 직관을 활용하여 특정 사례를 해결한다는 드라이퍼스 모델의 핵심을 보여준다.

전문가는 단순히 지식을 암기하는 것을 넘어, 수많은 경험을 통해 얻은 패턴 인식과 미묘한 상황 판단 능력을 가지고 있다. 이러한 능력은 명확한 규칙으로 설명하기 어려운 '암묵적 지식'의 영역에 속한다. 아브눈의 경험은 이러한 암묵적 지식이 특히 고위험 상황에서 얼마나 중요한 역할을 하는지 명확히 보여준다.

결국, 이 일화는 LLM과 같은 인공지능이 아무리 많은 데이터를 학습하더라도, 인간 전문가가 오랜 경험을 통해 체득하는 직관과 미묘한 판단력을 완벽하게 대체하기 어렵다는 점을 강조한다. LLM은 규칙 기반의 지식을 효과적으로 처리하지만, 인간 고유의 '경험에서 우러나오는 감각'은 모방하기 어렵다는 것이다.

네타 아브눈은 AI 업계가 전문가의 암묵적 지식과 AI의 '블랙박스'를 동일시하는 오류를 범하고 있다고 비판했다. 그녀는 LLM을 인턴에 비유하는 것에 확신이 없다고 말하며, AI가 실제 인간처럼 가르침을 통해 성장하는 것이 아니라고 지적했다. AI 분야의 사람들은 전문가들이 몸으로 고통스럽게 알고 설명할 수 없는 암묵적인 지식을 분석하며, 이를 전문성의 정의로 이해하고 있다. 드라이퍼스 모델을 아는 이 커뮤니티에서는 드라이퍼스가 영향력이 크다.

문제는 이들이 머신러닝 계산과 알고리즘의 블랙박스를 전문가의 블랙박스와 같다고 간주하며, 두 블랙박스 사이에 유비를 만든다는 점이다. 그러나 아브눈은 이러한 비교가 오해에서 비롯된다고 강조했다. 인간 전문가의 암묵적 지식은 오랜 경험과 수많은 시행착오를 통해 체득되는 것으로, 이는 외부에서는 관찰하기 어렵지만 본인에게는 명확한 통찰력을 제공하는 과정이다. 반면 AI의 블랙박스는 복잡한 알고리즘과 파라미터로 이루어져 있으며, 인간이 그 내부 작동 원리를 완전히 이해하기 어려운 기술적 한계를 의미한다.

이러한 차이점에도 불구하고 AI 업계는 둘을 동일시함으로써, AI가 인간 전문가의 직관과 판단 능력을 모방하거나 대체할 수 있다는 잘못된 기대를 심어줄 수 있다고 아브눈은 주장했다. 즉, 인간 전문가의 '블랙박스'는 축적된 경험에서 우러나오는 지혜의 저장고인 반면, AI의 '블랙박스'는 단지 복잡한 연산 과정의 불투명성을 의미할 뿐이라는 것이다. 이 두 가지를 혼동하는 것은 AI의 진정한 능력과 한계를 왜곡하고, 결국 소프트웨어 엔지니어링과 같은 전문 직업의 본질을 간과하게 만들 수 있다.

LLM의 도입은 직업별 기술 및 역할에 명확한 변화를 가져오고 있다. 주니어급 인력의 경우, LLM이 엑셀 시트 비교나 법률 문서에서 특정 계약서를 찾는 것과 같은 지루하고 반복적인 작업을 더 효율적으로 수행할 수 있게 되었다. 이에 따라 주니어들은 이제 LLM 모델을 더 효과적으로 훈련시키고 관리하는 역할에 집중하게 된다. 이는 단순 반복 업무에서 벗어나 더 높은 수준의 기술적 역량을 요구하는 방향으로 전환되고 있음을 의미한다.

반면 시니어급 회계사나 변호사의 역할은 LLM의 등장에도 불구하고 크게 변하지 않고 있다. 이들은 LLM을 직접 훈련시키는 대신, 인턴이 AI 소프트웨어를 활용하여 수행한 실사(due diligence) 등의 작업 결과를 요약하여 보고받는다. 시니어들은 이러한 정보를 바탕으로 더 높은 수준의 전략적 판단과 법률 자문을 제공하는 데 집중한다. LLM이 직접 법률 자문을 제공하는 것은 불법이며, 해당 직업에는 이를 안전하게 유지하기 위한 통제가 존재하기 때문에 시니어의 전문적인 판단 역할은 여전히 필수적이다.

LLM 활용이 코드 품질 저하로 이어진다는 연구 결과들이 나오고 있다. CMU의 이전 연구는 일부 오픈소스 프로젝트에서 LLM 사용 초기 몇 달간 코드 생산량이 3~5배 증가했지만, 시간이 지남에 따라 정적 분석 경고와 코드 복잡도 기준으로 측정한 코드 품질이 일관되게 저하되었음을 밝혔다. Orlansky 외 연구진의 최근 연구도 LLM만 코드를 기여하는 시뮬레이션 프로젝트에서 아키텍처 응집력과 코드 품질이 저하됨을 확인했다. 이러한 경향은 Code Rabbit, CircleCI, GitClear와 같은 상업 회사들의 백서에서도 유사하게 보고되고 있다.

이러한 결과는 LLM이 생성한 코드를 프로덕션 코드베이스에 병합하기 시작하면 전반적인 코드 품질이 저하될 수 있음을 시사한다. 특히 갓 졸업한 신입 소프트웨어 엔지니어의 경우, 이러한 품질의 코드를 보고 검토해야 한다면 올바른 기술을 개발하기 어려울 것이라는 우려가 제기된다. 이는 LLM이 단기적인 생산성 향상에 기여할 수 있지만, 장기적으로는 엔지니어의 핵심 역량 형성과 코드베이스의 건강성에 부정적인 영향을 미칠 수 있음을 의미한다.

Anthropic 연구진의 연구에 따르면, LLM을 사용하여 작업을 해결할 경우 익숙하지 않은 코드베이스를 이해하고 코드를 읽으며 디버깅하는 능력이 정량적으로 손상되는 것으로 나타났다. 이는 LLM이 단순히 나쁜 코딩 습관을 유발하는 것을 넘어, 개발자의 근본적인 학습 능력을 실제로 해칠 수 있다는 것을 의미한다.

같은 연구에서는 LLM 사용자와 비사용자가 익숙하지 않은 코드베이스에서 작업을 수행하며 학습한 정도를 비교했는데, 이해 수준에 약 2등급 정도의 차이가 발생했다. 예를 들어, LLM을 사용하지 않고 새로운 코드베이스에서 작업을 수행했을 때 C 학점을 받았다면, LLM을 사용하여 동일한 작업을 수행했을 때는 F 학점을 받게 될 정도로 상당한 차이를 보였다.

이러한 결과는 LLM이 단기적인 생산성 향상을 제공할 수 있지만, 장기적으로는 개발자의 핵심 역량인 코드 이해, 분석 및 문제 해결 능력을 약화시킬 수 있음을 강력히 시사한다. 이는 특히 신입 개발자들에게 더 큰 부정적인 영향을 미쳐, 독립적인 학습 및 성장 기회를 박탈할 수 있다는 우려를 낳는다.

CMU, MIT, UCLA, 옥스퍼드 대학교 연구진의 다른 연구에서도 LLM 사용의 이면이 드러났다. 이 연구진은 다양한 과제에서 LLM 사용이 짧게는 10분만 사용해도 단기적인 성과는 향상시키지만, 참가자들이 LLM에 과도하게 의존하게 만들고 시간이 지남에 따라 과제를 포기하는 경향을 보인다는 것을 발견했다.

이는 LLM이 초기 단계에서 빠르게 결과물을 도출하는 데 도움을 줄 수 있지만, 장기적으로는 사용자 스스로 문제 해결을 위한 노력을 줄이고, 난이도가 높은 과제에 직면했을 때 쉽게 포기하게 만들 수 있음을 의미한다. 결과적으로 LLM은 단기적인 생산성 향상이라는 긍정적인 효과와 함께, 사용자의 자율성과 인내심을 저해하는 부정적인 영향을 동시에 가져올 수 있다는 결론을 내렸다.

LLM에 대한 높은 신뢰는 LLM 결과물을 평가할 때 비판적 사고를 감소시키는 것으로 나타났다. 이는 LLM을 더 많이 사용할수록 사용자들이 자신의 판단에 더 확신하게 되며, 결과적으로 LLM의 결과물을 평가할 능력이 떨어져 다시 LLM을 사용하게 되는 악순환을 형성한다는 것이다.

이러한 현상은 LLM이 제공하는 편리함과 빠른 결과가 역설적으로 사용자의 비판적 사고 능력과 문제 해결 능력을 저해할 수 있음을 보여준다. 즉, 도구에 대한 의존성이 깊어질수록 스스로 판단하고 검증하는 능력이 약화되어, 결국 도구 없이는 독립적인 업무 수행이 어려워질 수 있다는 경고이다.

아마존은 GenAI 생성 코드로 인한 일련의 서비스 중단 및 신뢰성 문제 발생 후, 선임 엔지니어가 AI 생성 코드를 승인해야 한다는 지침을 내렸다. 리눅스 커널과 LLVM 프로젝트 또한 유사하게 인간 제출자가 AI 생성 코드에 대한 소유권을 가지고 검토 후 승인하도록 요구하고 있다. 이는 AI가 생성한 코드의 잠재적 위험을 인식하고, 인간의 책임과 검증 과정을 통해 코드 품질과 시스템 신뢰성을 확보하려는 업계의 움직임을 반영한다.

이러한 조치들은 LLM이 생성하는 코드의 품질이 아무리 뛰어나다고 해도, 최종적인 책임은 인간에게 있으며, 프로덕션 환경에서는 반드시 숙련된 인간 전문가의 검토와 승인이 필요하다는 인식이 확산되고 있음을 보여준다. 이는 LLM이 제공하는 생산성 향상과 잠재적 위험 사이의 균형을 찾는 과정으로 해석될 수 있다.

톰 셀렉은 다른 전문직들이 LLM 사용에 제한을 두는 상황에서, 소프트웨어 엔지니어링 업계는 LLM을 충분히 빠르게 도입하지 못할까 하는 질문에만 집중하고 있다고 지적했다. 그는 이제 LLM을 도입했을 때 어떤 일이 일어나는지를 연구한 사람들의 말에 귀 기울여야 할 때라고 강조했다. 만약 소프트웨어 엔지니어의 인간 전문성을 잃게 된다면, 소프트웨어 작동이 멈추거나 신뢰할 수 없게 되어 사람들이 기기 사용을 중단하고 예전 방식으로 돌아가고 싶어 할 수도 있다고 경고했다.

이는 LLM의 도입이 가져올 단기적인 생산성 향상뿐만 아니라, 장기적으로 인간 전문가의 핵심 역량 상실이라는 더 큰 위험에 대비해야 함을 의미한다. 소프트웨어 엔지니어링 업계가 LLM을 신중하게 도입하고 관리하여, 기술 발전과 인간 전문성 유지 사이의 균형을 찾는 것이 중요하다고 볼 수 있다.