AI, 인간을 획일화시키는가

인간이 의사결정을 AI에 의존할수록 깊이 있는 성찰과 성장은 저해된다. 예기치 못한 발견이나 스스로의 변화를 이끌어낼 잠재력이 사라지게 된다.

결국 인간은 단조롭고 획일화된 존재가 될 위험에 처한다. AI가 인간을 지루하게 만들 것을 경계해야 한다.

마츠에 따르면, 인간의 의사결정은 과학자들이 '착취-탐색 상충관계(exploitation-exploration trade-off)'라고 부르는 보편적인 딜레마이다.

익숙한 선택(Exploitation)은 안정성을 보장하지만 성장이 없으며, 새로운 도전(Exploration)은 불확실성과 위험이 따르지만 성장의 동력이 된다.

넷플릭스, 스포티파이, 챗GPT 등 오늘날 대부분의 알고리즘은 클릭, 시청, 선호도와 같은 단기적 만족도와 반응을 기준으로 학습된다. 이러한 모델들은 위험 감수나 무작위적 탐색보다 이용에 최적화되어 있다.

위험을 회피하는 성향 때문에 AI는 인간의 새로운 시도를 방해한다. 위험을 즐기지 않는 AI의 특성이 의사결정 과정에 개입한다.

마츠는 챗GPT에게 100번의 독립된 사용자로 가정하고 아이스크림 맛을 추천받는 실험을 진행했다.

그 결과 96번이나 상위 2가지 맛(프랄린 앤 크림, 민트 초코칩)만을 추천했으며, 이는 선택의 폭을 좁히고 다양성을 사라지게 하는 현상이라고 말한다.

이로 인해 창의적 결과물의 다양성이 감소하고 선호하는 항목이 타인과 유사해진다.

사람들은 AI의 안내를 받을수록 취향이 더욱 일반화되고 개별적인 차이가 줄어든다. 개인의 선호가 획일화되는 현상이 발생한다.

AI는 사용자가 선호하는 아이스크림 맛을 학습하면 해당 선택지만 반복해서 제시하는 방식으로 편향성을 키운다.

이러한 경향은 사용자가 과거에 즐겨 먹던 다른 맛들을 시도할 기회를 사라지게 하고 단일 취향으로 고착화시킨다. AI가 사용자의 호기심이나 새로운 시도를 차단하고 개인의 개성을 평면적으로 만든다는 지적이다.

AI 추천은 수천 번의 선택이 축적된 결과로, 더 안전하고 인기 있는 콘텐츠만 반복하게 만들어 개인의 선택 폭을 좁힌다.

마츠는 뉴욕타임스 기자 카슈미르 힐의 사례를 들어, AI에 결정을 맡기자 '평범한 인간'이 되도록 유도되는 경험을 했다고 말한다. 이러한 평범함은 곧 다양성과 창의성의 결여를 뜻하며, 인간 고유의 복잡성마저 지워버리는 결과를 낳는다.

기술을 거부하기보다 사용자가 주도권을 갖고 알고리즘을 제어해야 한다. 넷플릭스나 구글 검색 등에 추천 범위 조절 다이얼을 도입해 일상적인 적합 설정과 예측 불가능한 다양성 설정을 전환할 수 있다.

AI가 기존 성공 사례만 반복하지 않도록 창의적 시도에 보상을 주는 방식으로 훈련해야 한다. 이용과 탐색 사이에서 균형을 찾아 스스로의 세계를 확장하는 선택권을 되찾아야 한다.

AI는 생활의 편의를 돕지만 인간의 탐험과 도전 정신을 앗아갈 위험이 있다고 마츠는 경고한다.

알고리즘이 내놓는 익숙함에 머물지 말고 AI의 분석력을 활용해 취향 밖을 탐색하는 계산된 모험이 요구된다.

넷플릭스나 구글 검색에 추천 범위를 조정하는 다이얼 기능을 도입하는 방안을 마츠는 제시한다.

'정밀(맞춤형)' 설정은 익숙함을 제공하고, '다양성'이나 '의외성' 설정은 새로운 시도를 장려하여 AI가 제안한 새로운 시도를 사용자가 선택할 수 있는 권한을 부여하는 것이 핵심이라고 말한다.

기존 성공 사례만 반복하려는 AI의 경향을 고려할 때 사용자의 적극적인 피드백은 필수적이다.

엉뚱한 제안을 실패가 아닌 성공으로 보상하는 방식으로 AI의 대담한 시도를 유도해야 한다.

인간의 진정한 매력은 이해하기 힘든 취향과 모순, 그리고 독특함에서 비롯된다.

AI는 단순한 추천을 넘어 사용자를 대신해 결정을 내리는 단계에 도달했으므로, AI의 제안에 무비판적으로 따르기보다 주체적으로 새로운 선택을 요구할 것을 당부한다.