하버드 교수 카림 라카니: AI에 가장 취약한 사람과 진짜 전문성을 쌓는 법

영상은 AI로 인해 가장 큰 위험에 처한 노동자들에 대한 카림 라카니의 경고로 시작한다. 그는 자신의 일을 AI가 해줬다고 말한 사람들을 해고한 적이 있다고 말하며, 위험은 사고를 기계에 넘기는 사람들에게 있다고 강조한다.

라카니는 하버드 경영대학원 교수다. 그는 BCG와 함께한 연구에서 사람들이 AI와 일하는 세 가지 방식을 찾아냈다고 설명한다. 두 집단은 역량을 키웠고, 한 집단은 그러지 못했다. 진행자는 사람이 자신이 어느 집단에 속하는지 어떻게 알 수 있느냐고 묻는다.

라카니는 자동화형 사람들이 가장 나쁜 성과를 낸다고 답한다. 생각을 멈추고 활동에서 손을 뗐기 때문이다. 계속 참여하는 사람들은 훨씬 복잡한 일을 해낼 수 있고, 예전보다 훨씬 멀리까지 자신의 전문성을 밀어 올릴 수 있다는 것이다.

진행자는 AI 비서를 어떻게 훈련시키고 프롬프트는 어떻게 짜야 하느냐는 실용적인 질문을 던진다. 대화는 가까운 미래가 AI 단독 작업이 아니라 사람과 AI가 함께하는 형태가 될 것이라는 라카니의 견해로 옮겨 간다. 그는 AI가 아직 스스로 가설을 세우지 못하며, 사람의 방향 설정과 큐레이션, 안목이 필요하다고 주장한다. 또 실행 업무는 기계가 흡수하고 있는 동시에 조직과 직업도 재편되고 있다고 말한다.

라카니는 미시간대학교의 파브리치오 델 아쿠아 연구를 언급한다. 연구에 따르면 좋은 AI를 쓰는 사람도 운전대에서 졸 수 있으며, 그가 보기에 자동화형의 문제는 여기서 빠르게 커질 수 있다. 그는 사이보그를, AI가 무엇을 잘하고 자신이 무엇을 잘하는지를 세밀하게 파악하며 일하는 사람들이라고 설명한다. R&D와 영업, 마케팅 업무를 관찰해 보니 사이보그도 여전히 배우고 알아낼 것이 많다고 말한다.

켄타우로스는 업무를 자신과 AI 사이에서 나눈다. 라카니의 우려는 이들이 AI가 할 수 있는 일에 대한 예상을 정적으로 유지한다는 점이다. AI의 능력이 기하급수적으로 향상되고 있으니, 사람은 자신과 기계 사이의 역할 분담을 계속 갱신해야 한다는 것이다.

진행자는 '들쭉날쭉한 경계'가 이를 복잡하게 만든다고 지적한다. AI가 잘 처리하는 과제와 똑같이 어려워 보이는 과제가 갑자기 그 능력 밖으로 떨어질 수 있다는 것이다. 라카니는 BCG가 세운 AI가 모든 일을 잘할 것이라는 가설이 맞지 않았다고 말한다. 컨설턴트에게 어떤 과제는 잘 처리되고 어떤 과제는 그렇지 않다. 문제는 AI의 지능이 완벽하지 않은데도 말을 아주 잘하고 설득력이 있어서, 사용자가 회의적으로 생각하고 높은 기준을 적용하지 않으면 운전대에서 졸게 된다는 점이라고 말한다.

라카니는 워크플로와 일상적 루틴이 바뀌고 있다고 말한다. AI가 실행 업무를 더 많이 맡을수록, 사람이 실제로 무엇을 더하는 것인지가 질문이 된다고 말한다. 그는 이것을 인류에게 아주 좋은 자리라고 보는데, 사람은 지금의 균형에 안주해서는 안 되며 더 큰 문제를 풀러 나설 수 있다는 것이다.

진행자는 한 설득 연구를 꺼낸다. BCG 컨설턴트들이 GPT-4에 반론을 제기하면, 모델은 틀렸을 때도 종종 더 강하게 주장했다는 내용이다. 라카니는 이제 이를 피하는 방법이 있다고 말한다. 그는 Kai-Fu Lee가 LinkedIn에 올린 프롬프트 방식을 설명한다. AI가 반론으로 시작해, 사용자가 문제를 잘못 이해하고 있을 수 있다고 제시하는 방식이다. AI는 자신이 하는 모든 주장마다 그것이 자신의 학습에 얼마나 기대고 있는지, 얼마나 확신하는지, 어디가 약한지를 밝힌다.

라카니는 사용자가 첫날부터 모델과 시스템 프롬프트를 훈련해 반박하도록 해야 하며, 사용자 자신도 모델에 반박하는 법을 익혀야 한다고 말한다. 그는 이것이 결정적인 주고받기가 된다고 하며, 이를 순진하게 대하는 사람은 AI가 하는 말을 그냥 믿는 함정에 쉽게 빠진다고 경고한다.

라카니는 사람들이 AI에 디자인을 요청하면, AI는 그 과제에 맞는 답이 아니라 평균적인 답에 해당하는 모델을 고른다고 말한다. 그는 AI를 배움과 학습의 도구로 쓰되, 여러 방향의 목표를 주고 적대적으로 대하라고 제안한다. 스스로 틀렸다는 것을 증명하게 하고, 장단점을 나열하라고 요구하라는 것이다.

한 사람이 운영하는 팀이 AI의 디자인이 세계적 수준인지 아니면 그저 평범한지 어떻게 가려낼 수 있느냐는 질문에 라카니는 책임은 사라지지 않는다고 답한다. 결국 작업물에 자기 이름을 거는 사람이 자신이기 때문이다. 그는 'AI가 그걸 해줬어요'라고 말한 사람들을 해고했다고 다시 말하며, 그 사람이 AI의 살아 있는 인터페이스에 불과하다면 자신에게는 그런 사람이 필요 없다고 묻는다.

그는 사람이 계속 참여해야 하며, 복사해서 붙이는 데 빠지기 쉽다고 말한다. 한 사람이 운영하는 제품팀은 디자인에 대한 지식을 쌓고 배워야 하며, 첫 번째 디자인만 내놓는 대신 여러 방향으로 프롬프트할 수 있도록 AI를 설정해야 한다. 그의 말로는 배움과 안목의 부담은 다시 사람에게 돌아가며, 그렇지 않으면 사람이 판단을 멈출 때 기계가 사람을 대체하게 된다는 것이다.

진행자가 기본 과제를 AI가 이미 처리하고 있다면 학생들은 어떻게 안목을 기를 수 있느냐고 묻자, 라카니는 자신이 쓰나미 한가운데 있는 기분이라고 답한다.

라카니는 스티븐 울프럼과 나눈 대화를 설명한다. 울프럼은 수십 년 전 수학 언어를 설계하며 적분을 기계로 풀 수 있게 만들었지만, 자녀들은 여전히 학교에서 적분을 손으로 배우고 있었다고 말했다. 라카니가 전하는 울프럼의 요점은, 처음에는 적분을 손으로 풀어야 원리를 이해할 수 있지만 그다음의 50개나 100개 적분은 기계에 맡겨도 된다는 것이다.

라카니는 그 이유가 기계가 푸는 적분을 천 개 지켜보는 것이, 손으로 40, 60, 80개째를 푸는 것보다 적분에 대해 훨씬 많은 것을 가르쳐 주기 때문이라고 말한다. 그는 이를 자동화를 다루는 명제로 제시한다. 기초 부분은 먼저 스스로 익히고, 나머지는 기계에 맡겨 기저 패턴을 관찰하는 사람이 되라는 것이다.

그는 이것을 역할 확장의 이야기와 연결한다. 이런 업무를 맡은 사람이라면, 기계를 제대로 쓰기 위해 기초를 충분히 이해해야 한다고 주장한다. 교육자로서 자신이 어느 정도 자기중심적이라는 점은 인정하지만, 학교나 대학에서 배운 것만으로는 이제 충분하지 않기 때문에 배움의 중요성은 계속 커지고 있다고 말한다.

라카니는 학생들에게 가르치는 가장 중요한 것이 배우는 법을 배우는 것이라고 말한다. 배우는 법에 대한 루틴을 가진 학생들은 도전을 두려워하지 않으며, 오히려 도전에서 성장한다. 그는 AI 덕분에 이제 배우는 법을 익히는 것이 꽤 쉬워졌다고 말한다. 그 방법을 아는 사람이라면 누구나 여러 가지 설명 방식과 퀴즈를 활용할 수 있기 때문이다.

이틀 전보다 학생들이 더 많이 배우고 있느냐는 질문에 라카니는 자신이 맡은 필수 MBA AI 과목을 설명한다. 이 과목은 3년 되었으며, AI 때문에 해마다 방향을 바꿔야 했다고 말한다. 작년에 Claude 같은 도구가 갑자기 등장했을 때는 과목의 정당성을 지키기 위해 그것도 가르쳐야 했다. 팀이 내린 핵심 결론은 경영대학원이 AI에 대해 말만 할 수는 없다는 것이었고, 그래서 이제 수업의 절반은 AI로 직접 만들며 RAG 시스템을 구축하고, 평가를 실행하고, 비즈니스 문제를 풀기 위한 다중 에이전트 시스템을 만든다고 말한다.

라카니는 C-레벨 경영진과 함께한 활성화 세션을 설명한다. 거의 모든 임원이나 비서실장은 이미 AI를 많이 쓰고 있다고 말하는데, 그는 그것을 믿지 않는다고 말한다. 그는 C-레벨 전원이 자기 사업에 중요한 애플리케이션을 바이브 코딩으로 만들기를 원한다. 스포츠 베팅 앱처럼 사소한 것이 아니라 말이다. 세계적 대기업 내부의 운영에 대해 묻자, 경영진은 대체로 저항하며 IT 부서를 가리킨다고 한다.

그는 다른 CEO가 실험을 지지하고 나면, 모델이 할 수 있는 일로부터 보호받고 있던 그가 만난 대부분의 리더들이 약 90분 만에 무언가를 만들어 낸다고 말한다. 그 반응은 두 가지다. 5년 동안 이것을 제공하지 않은 CIO에게 소리를 지르는 한편, 자신이 직접 AI를 쓰지 않으면 팀이 그것을 하도록 이끌 수 없다는 사실을 깨닫는다는 것이다.

라카니는 프로그래밍이 AI에서 무엇이 일어날지를 가장 먼저 보여 주는 지표라면, 다른 모든 직업은 6개월에서 2년 뒤처져 있다고 말한다.

진행자는 실리콘밸리에서는 모두가 코딩하고 무엇인가를 만들고 있지만, AI 기업을 세운 친구들은 사람들이 흥미를 느끼는 아주 기초적인 주제로 컨퍼런스를 연다고 말한다. 라카니는 윌리엄 깁슨의 말, 즉 미래는 이미 와 있지만 고르게 분포되어 있지 않다는 말을 인용해 응답한다. 그는 실리콘밸리와 몇몇 지역은 대부분의 기업과는 아주 다른 미래에 살고 있으며, 대부분의 기업은 아마 GPT-4.5 수준일 것이라고 말한다. 그는 이를 사실상 고급 검색이라고 부른다.

라카니는 기업들과 맺은 긴밀한 관계를 통해 그의 연구팀이 대규모 조직의 수십만 명에 대한 프롬프트 수준 데이터와 AI 사용 현황을 관찰해 왔다고 덧붙인다. 그에 따르면 조직 안에는 가파른 곡선이 있어, 상위 5~1퍼센트 사용자와 평균 사용자의 차이는 10배에서 20배에 이른다. 모델이 좋아질수록 활용법을 터득한 사람은 급격히 앞서가고, 나머지는 대체로 제자리에 머문다. 움직이는 보도 위에 서 있는 사람과 에스컬레이터를 타고 올라가는 사람의 차이와 같다는 것이다. 이에 관한 연구는 곧 발표될 예정이라고 한다.

라카니는 목표는 상상력의 행위여야지 AI가 정한 목표가 되어서는 안 되며, 매출 증대처럼 사업 성과로 정해져야 한다고 말한다. 그러고 나서 '이것이 사실이 되려면 무엇이 또 사실이어야 하는가?'라고 거꾸로 생각해야 한다고 덧붙인다.

진행자는 라카니가 H&M을 위해 한 연구를 떠올리며, AI가 해법을 만들어 냈을 때 사내에서 그것을 설득하기 어려웠다고 말한다. 이는 AI가 여러분의 야망을 설정할 수 없다는 뜻인데, AI가 전략을 세우면 팀에 그것을 팔 수 없기 때문이다. 라카니는 완전히 동의하며, 리더가 먼저 밀어붙여야 하고 AI는 그다음에 그것을 뒷받침할 수 있을 뿐이라고 말한다.

야망을 가르치는 것에 대해 라카니는 세상에는 야망의 정규분포가 있으며, 목표는 그것을 더 높은 야망 쪽으로 옮기는 것이라고 말한다. 그는 실패에 대한 두려움과 타인의 시선이 이것을 깊이 개인적인 문제로 만든다고 말한다. 리더가 달성 불가능해 보이는 터무니없는 목표를 세우면 대부분의 경우 그 목표가 실현된다고 그는 주장한다. 2배가 아니라 10배를 목표로 삼고 7배를 달성하면 세상이 바뀐다는 것이다.

라카니는 하버드 경영대학원에 들어가려면 흠잡을 데 없는 이력서와 성적이 필요하다고 말한다. 학생들이 실패를 충분히 겪지 않았다면, 10배 목표는 실패로 끝날 수 있다고 판단해 대신 2배 목표를 세울 수도 있다. 그 정도면 충분히 좋다고 여기는 것이다.

그는 학교가 학생들에게 계속 힘을 실어 줘야 한다고 말한다. 최고의 학교에 다녔으니 언제나 괜찮을 것이라고 말해 주고, 스스로를 믿으면서도 놀라운 목표를 세우라고 요구해야 한다는 것이다. 그런 방향으로 학생들을 밀어붙이는 일은 교수진이 계속 해야 할 과제라고 그는 말한다.

진행자는 AI를 전문가 팀으로 보는 생각은 힘을 주지만, 전문성의 한계비용이 0으로 가고 있다는 주장에는 우려를 표한다. 라카니는 이 질문에 사로잡혀 있다고 말한다. 그는 1990년대 말 오픈소스 소프트웨어를 이해하려고 학계에 들어왔는데, 당시 오픈소스는 경제적으로 말이 되지 않는 것처럼 보였다고 한다. 오픈소스는 많은 사람이 여러 시도를 하는 여러 번의 기회에 기대며, 그 덕분에 가장 성과가 좋은 해법이 공개되고 오른쪽 꼬리에 도달할 수 있다.

라카니는 AI는 여러 면에서 인간 전문성의 흡수이며, 이는 대규모 오픈소스 모델과 같다고 말한다. AI가 하는 일은 인간과 AI가 결합한 전문성 곡선을 오른쪽으로 옮기는 것이다. 그는 P&G, H&M, BCG에서 한 실증 연구가 사람들이 AI가 제공하는 전문성 분포에서 끌어다 쓴다는 견해를 뒷받침한다고 말한다. 이제 모든 사람은 자신이 개인적으로 무엇을 키워 왔는지, AI는 무엇을 가지고 있는지, 그리고 둘이 어떻게 다른지를 이해해야 한다. '그저 AI 없는 당신일 수는 없다. 언제나 AI와 함께하는 당신이어야 한다.'

그는 이것을 CAD/CAM에 비유한다. 그는 손으로 製도를 배웠는데, CAD/CAM이 등장해 디자이너가 훨씬 복잡한 작업을 할 수 있게 되기 전까지는 할 수 있는 일이 많지 않았다고 한다. AI도 마찬가지로 전문가가 더 멀리 나아가게 할 수도 있고, 기계가 전문가를 대체할 수도 있다고 그는 말한다.

라카니는 1993년 학부를 마쳤는데, 그때는 인터넷이 막 등장하던 시기였고, 그 뒤로 모바일과 머신러닝의 물결을 겪어 왔다고 말한다. 그는 이것이 정도의 차이인지 종류의 차이인지 계속 자문해 왔으며, 결국 종류의 차이라는 쪽으로 거듭 결론을 내린다고 말한다.

그렇다면 모든 사람은 자신의 전문성이 무엇인지, 그것을 어떻게 키우고 있는지, AI와 함께 그것이 어떻게 변하는지를 계속 물어야 한다고 그는 말한다. 이는 경험을 통해서만 얻어지는 것이며 단순히 가르칠 수 없고, 사람들은 계속 도구와 씨름해야 한다는 것이다. 그는 예술가인 아내와 디자이너인 딸이 AI로 자신들의 작업을 어떻게 더 밀고 나갈 수 있을지 고민하고 있다고 전한다.

그는 기술이 예술 형식을 바꾼 사례로 힙합을 든다. 두 대의 턴테이블과 믹서에서 출발해 전 세계적인 표현 형식이 되었다는 것이다. 기술은 이와 비슷하게 모든 직업과 직종을 바꾸고 있다고 그는 주장한다.

진행자는 한 모델이 코드를 검토하고 다른 모델이 그 검토를 대신하는 상황을 언급한다. 라카니는 그렇다면 이제 인간은 무엇을 하느냐고 묻는다. 그의 오픈소스 연구에서 그는 많은 사람이 코딩의 고된 과정 자체를 좋아해서 오픈소스를 사랑한다는 것을 알았다고 말한다. 그는 자신은 코딩에 형편없었고 빠져들지 못했지만, 어떤 사람들은 그것을 한다고 말한다. 그것을 빼앗기면 일의 의미는 어디에서 오느냐고 그는 묻는다.

그는 그 답이 에이전트를 관리하는 일일지도 모르겠다고 말하지만, 그것이 의미 있을지는 확실하지 않다고 덧붙인다. 모든 직종의 모든 사람이 새로운 무언가를 알아내려 애쓰고 있지만 아직 답은 없다고 그는 말한다. 그래서 이 상황이 그토록 불확실하게 느껴지고 사람들이 뿌리를 잃은 듯한 기분을 느낀다는 것이다.

소비에 대해 라카니는 모델이 점점 더 결과물을 소비하게 될 것이므로, 창작자는 콘텐츠와 함께 기계가 읽을 수 있는 파일도 공개해야 할 수 있다고 말한다. 인간의 조회는 여전히 중요하지만 점점 이 도구들을 거쳐 이뤄질 것이므로, 창작자는 두 가지를 모두 제공해야 한다고 그는 주장한다.

라카니는 주니어 직원을 걱정하는 동료들에게, 실제 조직과 실제 데이터를 다루는 실제 직원들을 만나 보면 그 주장에 회의적이 될 것이라고 답한다. 진행자는 그것이 주니어 직원에 따라 다르다고 말한다. 라카니는 한 사람이 모델에 대한 복사-붙여넣기식 인간 인터페이스에 불과하다면 그 일은 완전히 사라진다고 말한다.

그는 로펌의 CEO나 다른 CEO들에게도 같은 질문을 한다고 말한다. 로펌이 AI 기업 모델의 얇은 껍데기에 불과하다면, 또는 제조사가 다른 모델의 얇은 껍데기에 불과하다면, 왜 그 회사가 존재해야 하느냐는 것이다. 그는 중요한 질문은 일자리를 어떻게 다시 정의하고 일의 본질이 이제 어떻게 되는지라고 말한다. 그는 AI가 더 넓게 대규모로 쓰인다면 사람들이 지금보다 열 배 더 많은 일을 할 수 있다고 제안한다.

2030년에 대해 그는 두 도시 이야기가 펼쳐질 것으로 예상한다. 변화를 이해하고 일을 재정의하는 기업들, 스타트업과 대기업을 포함한 기업들이 있는 한편, 그렇지 못한 기업들도 있을 것이라는 것이다. 그는 한 동료의 '프런티어 기업 레이더' 조사를 인용하는데, 이 조사에서 AI를 더 잘 활용하는 스타트업들이 더 빠른 ARR 성장과 더 빠른 제품 출시를 보였다고 한다.

라카니는 오픈AI의 사장 그렉 브록먼의 시험을 전한다. 새로운 최전선 모델이 나올 때마다 내 사업이 나아지고 있는지, 아니면 사라지고 있는지를 스스로에게 물어보라는 것이다. 라카니는 이것이 자신의 해자가 무엇인지 알아내고, 그 해자가 최전선의 영향을 어떻게 받는지를 파악하는 방법이라고 말한다. 그는 이런 생각은 조직 밖의 누군가나 주니어에게 외주할 수 없으며, 스스로 해야 한다고 강조한다.

그는 리더들이 지금 이 모델들을 직접 다뤄 봐야 한다고 말한다. 이메일이 처음 등장했을 때를 떠올리며, 그는 비서가 이메일을 읽고 받아쓰게 하면서 정작 자신은 이메일을 한 번도 써 보지 않은 상사들을 묘사한다. 지금 AI 리더들에게도 같은 일이 벌어지고 있는데, 그들은 AI를 다른 사람의 일로 여긴다는 것이다.

그는 또한 AI를 이해하는 CEO들이 시간의 20~30퍼센트를 AI 문제를 논의하는 데 쓰고 있다고 전한다. 한 글로벌 기업에서는 고위 회의의 절반이 AI가 사업에 미치는 영향에 관한 것이었다고 한다.