AI는 인간 사회의 차별을 학습하고 재생산한다

아마존이 자사 브랜드 상품을 우대한다는 의혹이 제기되었으나, 알고리즘 역추적 결과 직접적인 우대는 발견되지 않았습니다. 고학수 교수는 "아마존이 자체 브랜드를 좀 우대하는 것은 아닌가 라고 하는 이제 맥락에서... 역추적을 하는 방식으로 그 알고리즘을 이제 어 추정을 해 보니까 자체 브랜드를 특별히 우대하는 것은 아닌 것 같은데"라고 설명했습니다. 이는 알고리즘의 복잡성으로 인해 편향성을 명확히 입증하기 어렵다는 점을 시사합니다.

그러나 아마존이 검색 결과를 보여주는 방식에서 자사 브랜드가 노출되는 빈도나 위치가 다른 브랜드에 비해 유리하게 설정될 수 있다는 가능성은 여전히 남아 있습니다. 알고리즘의 미묘한 조작이 사용자 선택에 영향을 미칠 수 있다는 우려를 완전히 해소하지는 못했습니다.

트위터의 자동 이미지 크롭 알고리즘이 흑인 사용자의 얼굴을 화면에서 누락시키는 경향이 있다는 문제 제기가 있었습니다. 초기에는 트위터 측에서 사실이 아니라고 부인했지만, 내부 검토를 통해 이러한 편향성이 실제로 존재했음을 인정했습니다.

고학수 교수는 "트위터 알고리즘이 흑인들은 잘 안 보여 주는 것 같다 뭐 이러한 문제제기가 있었습니다... 트위터에서 그럴 리가 없는데 라고 하고 스스로 그 알고리즘을 회사 내부적으로 검토를 해 보니까 어 근데 사실은 그랬던 겁니다"라고 언급했습니다. 이는 AI 알고리즘이 의도치 않게 사회적 편향성을 학습하고 재생산할 수 있음을 보여주는 중요한 사례입니다.

이 사건은 AI 시스템의 투명성과 자기 검증의 중요성을 부각시키며, 기술 기업들이 자사 알고리즘의 사회적 영향에 대해 더 큰 책임을 져야 한다는 목소리로 이어졌습니다.

알고리즘의 편향성은 주로 이용자의 데이터와 피드백 과정에서 발생합니다. 특정 이미지나 인구 통계에 대한 이용자들의 관심이 더 많으면, 알고리즘은 이를 학습하여 해당 유형의 콘텐츠를 더 많이 노출하게 됩니다. 고학수 교수는 "결국 이용자들이 젊은 또는 여성인 미인형인 이런 이미지에 대해서 더 관심을 많이 보이니까 그게 일종의 피드백 과정을 거치면서" 편향성이 강화된다고 설명했습니다.

그러나 이러한 기술적 원인도 사회적 관점에서 재해석될 수 있습니다. 고학수 교수는 이러한 현상이 "사회적인 관점으로 재해석을 하면 인종에 따른 차별 성별에 따른 차별 나이에 따른 차별 이런 것 아닌가라는 얘기로 금방 변화할 수가 있습니다"라고 지적하며, 기술적 중립성이 사회적 중립성과 다를 수 있음을 강조했습니다.

결국 알고리즘은 인간 사회의 현상을 반영하지만, 이러한 반영이 곧 사회적 차별의 재현으로 이어질 수 있다는 복잡한 문제를 제기합니다. 기술 개발자와 정책 입안자 모두 이 점을 인지하고 해결 방안을 모색해야 할 필요성이 커지고 있습니다.

페이스북과 같은 소셜 미디어 플랫폼의 알고리즘이 사용자 간의 논쟁과 갈등을 의도적으로 유발한다는 논란이 제기되었습니다. 논쟁적인 콘텐츠가 사용자의 참여(engagement)를 높이고 플랫폼 이용 시간을 늘리기 때문에, 알고리즘이 이러한 콘텐츠에 더 높은 가중치를 부여할 수 있다는 해석입니다. 고학수 교수는 "논쟁이 생기는 것에 대해서는 훨씬 더 많은 점수를 부여하고 그래서 노출이 더 많이 생기도록 하는 거 이런 해석도 가능합니다"라고 언급했습니다.

그러나 이러한 주장에 대해 명확한 정답은 아직 없으며, 플랫폼 기업들은 알고리즘의 구체적인 작동 방식을 공개하지 않고 있습니다. 고학수 교수는 "이것은 어느 한 가지 정답이 있는 것은 아닌 것 아니면 적어도 아직까지 이렇게 또렷한 정답이 만들어진 것 같진 않고요"라고 말하며, 알고리즘의 목적과 영향에 대한 논쟁이 진행 중임을 시사했습니다.

애플 카드 출시 당시 성별에 따른 신용 한도 차별 논란이 불거졌습니다. 한 부부가 애플 카드를 발급받았는데, 남편에게는 아내보다 20배 높은 신용 한도가 부여된 사례가 있었습니다. 고학수 교수는 "내가 신용카드 발급을 받았고 와이프랑 부부가 같이 받았는데 어 내 와이프에 비해서 신용카드 한도가 20배가 많았다... 성별에 따른 차별이 있는 것 아냐 라는 문제제기였는데요"라고 상황을 설명했습니다.

이는 개인의 신용도와 상관없이 성별이 신용 평가에 영향을 미쳤을 수 있다는 의혹을 불러일으켰습니다. AI 기반의 신용 평가 시스템이 기존의 성별 편향 데이터를 학습하여 차별적인 결과를 초래할 수 있음을 보여주는 사례로 주목받았습니다.

애플 카드 성별 차별 논란의 중심에 있던 골드만삭스는 자신들의 신용 평가 알고리즘에 성별 요소가 포함되어 있지 않다고 공식적으로 발표하며 의혹을 부인했습니다. 고학수 교수는 "골드만삭스는 우리가 알고리즘을 짜서 신용도 평가를 하는데 그 알고리즘에는 성별에 관한 요소가 들어가지 않는다. 성별을 포함해서 인종, 나이, 성적 지향 이런 것들이 우리 알고리즘에는 포함되지 않습니다라고 골드만삭스에서 공식적으로 발표를 했고요."라고 골드만삭스의 입장을 전달했습니다.

골드만삭스는 알고리즘이 오직 객관적인 신용 평가 데이터만을 사용하며, 사회적 편견을 유발할 수 있는 민감한 정보는 배제한다고 주장했습니다. 그러나 여전히 데이터 자체에 내재된 편향성이 결과를 왜곡할 수 있다는 비판은 남아있습니다. 이 사건은 알고리즘의 투명성과 설명 가능성에 대한 사회적 요구를 증폭시켰습니다.

아마존은 과거 채용 프로세스에 AI 알고리즘을 도입했으나, 결국 해체해야 했습니다. 이 알고리즘은 지난 10년간 축적된 지원자 이력서 데이터를 기반으로 학습했는데, 아마존이 남성 위주의 회사였기 때문에 기존 데이터에 여성 지원자의 비율이 현저히 낮았던 것입니다. 고학수 교수는 "아마존은 기본적으로 남성 위주의 회사였던 것이고요. 기존의 10여 년 동안 지원한 지원자들의 이력서를 가지고 알고리즘을 구축하기 시작했는데, 애초에 그 10년 전부터 쭉 아마존에 지원한 여성 비율이 높지가 않았던 것이고요. 내부 알고리즘은 계속해서 여성한테 뭔가 페널티를 부여하는 그런 걸 볼 수가 있었습니다."라고 설명했습니다.

결과적으로 알고리즘은 여성 지원자들에게 불이익을 주는 방식으로 작동했으며, '여성'이라는 단어가 포함된 이력서에 감점을 부여하는 등 명백한 차별을 드러냈습니다. 이 사례는 AI가 과거의 편향된 데이터를 학습하여 현실의 차별을 자동화하고 강화할 수 있음을 극명하게 보여주었습니다. 아마존은 결국 이 채용 알고리즘을 폐기하고, AI가 편향성 문제를 해결하기 위해서는 학습 데이터의 공정성이 얼마나 중요한지를 깨닫는 계기가 되었습니다.

유럽연합(EU)은 AI 기술의 윤리적 사용을 위한 선도적인 노력을 기울이고 있습니다. 2018년 전문가 그룹을 구성하여 AI 청사진을 그리는 작업을 시작했으며, 이 과정에서 첫 번째 문서는 AI 윤리 가이드라인을 제시했습니다. 고학수 교수는 "유럽연합에서는 2018년에 전문가 그룹을 만들어서 AI 청사진을 그리는 작업을 시작했습니다. 첫 번째 문서가 윤리 가이드라인이었고, 세 번째 문서는 일종의 체크리스트 같은 걸 만들었습니다. 개발 현장에서 이걸 구체화하는 과정을 몇 년에 걸쳐 진행하고 있습니다."라고 EU의 노력을 소개했습니다.

이후 EU는 윤리 가이드라인을 현장에서 구체적으로 적용할 수 있도록 체크리스트와 같은 실질적인 도구들을 개발하고 있습니다. 이는 단순한 원칙 선언을 넘어 AI 개발 및 운영 단계에서 윤리적 고려 사항을 반영하기 위한 실용적인 접근 방식을 보여줍니다.

AI 윤리에 대한 논의는 지난 몇 년간 중요한 변화를 겪었습니다. 2016년부터 2020년 무렵까지는 AI 기술이 가져올 사회적 영향에 대한 인식을 높이고, 대원칙을 선언하는 단계에 머물렀습니다. 이 시기에는 AI의 책임성, 투명성, 공정성 등 광범위한 윤리적 가치들이 주로 논의되었습니다.

그러나 지난 1년 사이에는 이러한 원칙들을 실제 AI 시스템 개발 및 운영 현장에서 어떻게 구체화하고 실행할 것인가에 대한 논의가 활발해졌습니다. 고학수 교수는 "2016년부터 2020년 무렵까지는 대원칙 발표 위주였다면, 지난 1년 사이에는 그걸 현장에서 어떻게 구체화할 것이냐는 실행 단계로 나아가고 있습니다. 원칙만 얘기하는 것으로는 부족하고 이제 현장에서 구체화할 건데라는 질문이 같이 제기되는 단계입니다."라고 설명하며, AI 윤리 담론의 무게 중심이 실천적 적용으로 이동했음을 강조했습니다.

이제는 추상적인 원칙을 넘어, AI 시스템의 설계, 학습 데이터 관리, 알고리즘 검증, 그리고 배포 및 운영 전 과정에 걸쳐 윤리적 고려 사항을 내재화하기 위한 구체적인 방법론과 도구 개발에 초점이 맞춰지고 있습니다. 이러한 변화는 AI 윤리 문제가 단순히 학술적 논의를 넘어 실제 산업과 정책 현장에서 해결해야 할 시급한 과제로 인식되고 있음을 보여줍니다.

이러한 실행 단계로의 전환은 AI 기술의 급속한 발전과 함께, 기술이 사회에 미치는 실질적인 영향에 대한 깊이 있는 성찰이 반영된 결과입니다. 앞으로 AI 윤리 논의는 더욱 정교하고 실용적인 방향으로 전개될 것으로 예상됩니다.

AI 공정성에 대한 논란은 흔히 상반되는 주장으로 나타나지만, 고학수 교수는 이 두 가지 주장이 모두 현실의 한 면을 반영한다고 설명했습니다. 그는 "두 가지가 다 맞는 얘기인 거고요. 두 가지가 어떻게 보면 동전의 한쪽 면을 각각 보여주는 것이라고 하겠습니다. 그러니까 각각이 현실을 반영하는 것인데, 둘 다 어떻게 보면 미국의 현재 현실인 것이죠."라고 말하며, AI 공정성 문제가 단일한 해답을 찾기 어려운 복합적인 양상을 띠고 있음을 지적했습니다.

이는 AI가 데이터를 통해 현실을 학습하는 과정에서 발생하는 모순과 난제를 보여줍니다. 공정성을 정의하고 측정하는 방식에 따라 다양한 결과가 나올 수 있으며, 사회적 가치와 기술적 한계가 상충하는 지점에서 여러 해석이 가능함을 의미합니다.

AI 시스템에서 공정성을 구현하려면, 공정성이 측정 가능해야 한다는 전제가 따릅니다. 고학수 교수는 "공정성이라고 하는 것은 저희가 데이터를 통해서 또는 알고리즘을 통해서 구현을 해야 되기 때문에 측정 가능해야 됩니다. 첫 번째는 메저러블(measurable)해야 하고요"라고 강조하며, 기술적 접근을 위한 공정성의 정의 필요성을 언급했습니다.

그러나 실제로는 '공정성'이라는 추상적인 개념을 측정 가능한 지표로 전환하는 과정에서 수많은 난제와 모순이 발생합니다. 어떤 지표를 공정성의 척도로 삼을 것인지, 그리고 그 지표가 사회적 합의를 얻을 수 있는지에 대한 반문이 끊이지 않습니다. 고학수 교수는 "그 메저를 그러면 측정을 어떤 식으로 해야 되는 거야라는 이제 반문을 하게 되는 것입니다"라고 지적했습니다.

이러한 문제는 공정성을 기술적으로 정의하려 할 때 필연적으로 나타나는 한계점입니다. 다양한 공정성 개념들이 존재하며, 한 가지 공정성 지표를 선택하면 다른 공정성 가치를 희생해야 하는 경우가 발생하기도 합니다. 이는 AI 윤리 연구의 핵심 난제 중 하나로, 기술적 해결책만으로는 충분하지 않음을 시사합니다.

현재 AI 윤리 분야는 즉각적인 해결책을 제시하기보다는, 복잡한 문제들을 체계화하고 이해하는 단계에 머물러 있습니다. 고학수 교수는 "지금으로써는 해결책은 사실은 별로 없고, 문제가 뭔지를 좀 가늠을 좀 해보자, 그걸 체계화해보자, 대략적으로 고런 정도 단계라고 말씀을 드릴 수가 있겠습니다."라고 현 상황을 진단했습니다.

이는 AI 기술의 사회적 영향이 워낙 광범위하고 복합적이어서, 단번에 명쾌한 해법을 찾기 어렵다는 현실을 반영합니다. 전문가들은 다양한 관점에서 AI 윤리 문제를 분석하고, 각 문제의 본질을 파악하며, 미래에 발생할 수 있는 잠재적 위험을 예측하는 데 주력하고 있습니다.

AI 모델이 특정 대상을 인식할 때, 의도하지 않은 배경 정보를 근거로 학습하여 잘못된 판단을 내릴 수 있습니다. 유명한 '늑대와 눈밭' 사례는 이를 잘 보여줍니다. AI는 늑대 이미지를 학습할 때 늑대 자체의 특징이 아닌, 늑대가 자주 등장하는 배경인 '눈'을 늑대의 핵심 특징으로 인식했습니다. 고학수 교수는 "사실은 그 늑대 얼굴이라든가 늑대의 어떤 형상을 보고 판단을 한 게 아니라 늑대가 있었던 그 주변 눈을 보고 판단을 하는 것이죠."라고 이 사례를 설명했습니다.

이처럼 AI가 잘못된 상관관계를 학습하게 되면, 예측의 신뢰성이 크게 떨어집니다. 눈밭에 없는 늑대나 늑대가 아닌 다른 동물이 눈밭에 있을 경우, AI는 오류를 범할 확률이 높아집니다. 고학수 교수는 "그래서 배경을 통해서 판단하니까 이렇게 판별을 하는 알고리즘은 신뢰성이 확 떨어지게 되겠죠."라고 지적하며, AI의 판단 근거를 사람이 이해하고 검증할 수 있어야 함을 강조했습니다.

이 사례는 AI 모델의 '설명 가능성(Explainability)'이 왜 중요한지를 잘 보여줍니다. AI가 어떤 이유로 특정 결정을 내렸는지 알 수 없다면, 그 결정에 대한 신뢰를 확보하기 어렵고, 잠재적인 편향이나 오류를 발견하고 수정하기도 어렵습니다.

유럽연합(EU)은 AI 기술 규제에 대한 실정법 논의를 활발히 진행하고 있으며, 2021년 4월에는 인공지능 법안을 발표했습니다. 고학수 교수는 "EU에서 논의가 좀 활발히 진행이 되고 있다. 작년 2021년 4월에 인공지능 법안이 발표가 돼서 아마 앞으로 논의가 많이 진행이 될 텐데, 아직 본격적으로 논의가 되고 있지 않습니다. 그래서 논의 활동을 좀 지켜볼 필요가 있겠다 이런 말씀을 드리고요."라고 언급하며, 앞으로 이 법안에 대한 본격적인 논의가 시작될 것임을 예고했습니다. 이 법안은 AI 기술의 위험도에 따라 차등적인 규제를 적용하며, 고위험 AI 시스템에 대해서는 엄격한 요건을 부과하는 내용을 담고 있습니다. EU의 이러한 법적 움직임은 전 세계 AI 규제 논의에 중요한 선례를 남길 것으로 예상됩니다.

메타버스 환경이 확산되면서 가상 세계 내에서의 사생활 보호 문제가 새로운 난제로 부상하고 있습니다. 고학수 교수는 "메타버스에서 프라이버시라고 할 만한 게 도대체 존재하긴 하는 거냐, 뭐 이런 도발적인 제목의 기사가 나왔습니다."라며, 메타버스 환경에서 프라이버시의 본질에 대한 근본적인 질문이 제기되고 있음을 언급했습니다.

메타버스에서는 현실 세계와 유사하거나 그 이상의 상호작용이 발생할 수 있으며, 사용자의 행동, 아바타, 가상 자산 등 다양한 정보가 생성되고 기록될 수 있습니다. 길거리 행인과의 상호작용을 현실과 동일하게 볼 것인지, 혹은 다르게 접근해야 할 것인지에 대한 고민이 필요하다는 것입니다. 고학수 교수는 "길거리 행인하고 사이의 어떤 인터랙션을 어떻게 할 것인지 허용을 할 것인지 말 것인지, 메타버스 세상에서는 잘 모르는 사람과의 인터랙션을 비슷하게 생각할지 아니면 좀 다를 것인지 고민이 필요합니다."라고 지적하며, 메타버스 특유의 환경에서 사생활 보호의 정의와 범위, 그리고 이를 위한 기술적·법적 장치 마련의 중요성을 강조했습니다.

AI 추천 알고리즘의 작동 방식에 대한 투명성 요구가 커지고 있지만, 이를 검증할 효과적인 메커니즘은 아직 부재합니다. 사용자가 특정 콘텐츠를 추천받은 이유를 물었을 때, 소스 코드를 공개하는 것은 현실적으로 어렵고, 단순히 '최선을 다했다'는 답변도 사용자에게 충분한 설명이 되지 못합니다. 고학수 교수는 "추천 알고리즘이 왜 나한테 이런 게 추천됐느냐는 질문에 소스 코드를 보여주는 건 현실적이지 않고, 최선을 다했다는 답변도 불충분합니다. 일정한 선에서 검증 가능한 메커니즘을 구축해야 하는데, 아직 만족스러운 답은 나타나지 않은 상황입니다."라고 현재의 한계를 지적했습니다.

이는 AI 시스템의 '설명 가능성'과 '책임성'을 확보하는 데 있어 중요한 과제입니다. 사용자가 알고리즘의 결정에 대한 합리적인 설명을 요구할 때, 기업들이 제공할 수 있는 명확하고 검증 가능한 정보가 필요합니다. 하지만 현재로서는 이러한 요구를 충족시킬 수 있는 표준화된 방법이나 기술적 해결책이 미흡한 실정입니다.