메타, 청소년 중독 소송 합의…규제 강화

메타가 페이스북과 인스타그램의 중독성 설계 및 13세 미만 개인정보 수집 문제로 미국 40여 개 주와 워싱턴 DC로부터 공동 소송을 당했습니다. 이에 메타는 약 26조 원 규모의 합의금을 제시하며 중간 합의에 이르렀습니다. 이번 합의는 메타가 잘못을 인정하는 성격은 아니며, 소송을 마무리하기 위한 중간 단계의 합의입니다.

메타가 제시한 합의금 총액 26조 원 중 127억 달러는 확정된 기본 합의금입니다. 나머지 53억 달러는 경쟁사들이 유사한 소송에서 합의할 경우에 지불될 조건부 금액입니다. 이 합의금은 10년 동안 분할 납부될 예정입니다.

메타는 청소년 관련 규제가 자사에게만 적용될 경우, 사용자들이 틱톡과 같은 다른 플랫폼으로 이탈할 것을 우려합니다. 이러한 사용자 이탈을 방지하기 위해 경쟁사들의 규제 동참을 유도하고 있습니다. 이는 메타 단독으로 불리한 판례가 생기는 것을 피하고, 업계 전반의 규제를 통해 공정한 경쟁 환경을 만들려는 전략의 일환입니다.

메타는 청소년 보호를 위해 서비스 개선안을 발표했습니다. 주요 내용은 18세 미만 사용자의 하루 사용 시간을 2시간으로 제한하고, 부모 승인 시에만 사용 시간 제한을 풀 수 있게 하는 것입니다. 또한, 자정부터 오전 6시까지는 아예 접속을 차단하며, 영상 자동 재생 기능을 비활성화합니다. 알고리즘 추천 대신 시간순 피드 선택 기능도 제공하여 사용자가 콘텐츠를 더욱 능동적으로 선택할 수 있도록 했습니다.

이는 미국 주정부와의 합의에 국한된 내용이기 때문입니다.

오픈AI는 13세부터 17세 청소년을 위한 ChatGPT 4o 키즈·틴즈 버전을 출시했습니다. 이 모델은 자해, 폭력, 성적 콘텐츠를 필터링하는 기능을 포함하고 있습니다. 또한, AI가 아이에게 연애 감정을 표현하거나 정서적으로 기대게 만들고, 감정이 있는 것처럼 말하는 행위를 금지합니다. 이는 기업 상장을 앞두고 발생할 수 있는 리스크를 선제적으로 관리하려는 목적도 있습니다.

빅테크 기업들은 청소년 대상 규제 강화에 대응하여 자체적인 안전 장치를 도입하고 있습니다. 이들 기업은 청소년에 대한 안전 장치를 마련하는 모습을 보여주면서도, 동시에 AI를 청소년들이 더 많이 사용하도록 유인하여 매출을 확장하려는 전략을 추진하고 있습니다. 이는 청소년 보호와 사업 확장을 동시에 이루려는 시도입니다.

ChatGPT, 제미나이, 클로드 등 주요 AI 기능에 '공부하기 기능'이 도입되었습니다. 이 기능은 답을 바로 제공하는 대신, 질문을 유도하거나 역질문을 던져 사용자가 스스로 생각하고 답을 찾도록 돕습니다. 특히 청소년 계정에서는 이 기능이 자동으로 활성화됩니다. 이를 통해 청소년들은 단순 정보 습득을 넘어 사고력을 키울 수 있도록 유도합니다.

단순히 답을 알려주는 것이 아니라, 사용자가 아는 만큼 확인하고 모르는 부분에서 학습을 시작하도록 돕습니다. 예를 들어 아이가 답만 빼가려고 하면, 이 기능이 자동으로 켜져 단순 정보 습득이 아닌 사고 과정을 유도합니다. 이는 기업들이 교육 시장에서의 점유율을 확보하려는 목적도 가지고 있습니다.

튀르키예 고등학생 1,000명을 대상으로 AI 학습 방식에 따른 성취도를 비교하는 연구가 진행되었습니다. 연구 결과, 튜터형 AI로 학습한 학생들이 단순하게 답만 제공받은 학생들보다 장기 기억력에서 우위를 보였습니다. 답만 제공하는 방식은 지식 유지율이 낮아, AI를 걷어냈을 때 제대로 답이 나오지 않거나 글쓰기 능력에서도 부족함이 나타났습니다.

현재 청소년 보호 기능은 신분증 인증이 아닌 기입된 나이를 기반으로 나이를 추정하기 때문에 한계가 있습니다. 또한, 청소년들이 대화 도중에 보호 기능을 회피할 가능성도 존재합니다. 부모가 자녀 보호 기능을 설정하는 과정이 복잡하여 실제 활용도가 낮은 점도 현실적인 한계로 지적됩니다.

빅테크 기업들이 이용 시간 제한, 공부 모드 등 청소년 보호 기능을 도입하고 있지만, 그 실효성에 대한 의문이 제기되고 있습니다. 부모와 자녀 계정을 연결할 수는 있지만 설정이 복잡하다는 문제가 있습니다. 또한, 위험 신호 감지 후 경고 알림이 지연되거나 누락되는 사례가 발생하여 보호 기능의 효과에 대한 논란이 있습니다.

뉴캐슬 대학의 조사 결과, 법안 시행 후에도 85%가 넘는 청소년들이 여전히 자신의 계정으로 SNS를 사용하고 있는 것으로 나타났습니다. 이는 부모나 형제의 명의를 도용하거나 얼굴 인식 기능을 우회하는 방식으로 이루어졌습니다.

부모들은 기능 찾기 및 설정의 어려움을 호소하며, 심지어 아이를 지켜보기 위한 기능을 설정할 때 아이에게 도움을 요청하는 경우도 있습니다. 이는 복잡한 설정 과정이 기능 사용률을 낮추는 주된 원인으로 지목됩니다.

이는 사용자가 직접 기능을 찾아 설정해야 하는 번거로움을 줄여 보호 기능의 실효성을 높이려는 목적입니다. 그러나 일각에서는 이러한 기능 도입 과정에서 업체들의 로비가 결과에 반영된 것 아니냐는 지적도 나옵니다.

AI나 SNS와 같은 디지털 도구를 부엌칼과 같은 위험한 도구에 비유하며 사용자 책임론이 제기됩니다. 부엌칼 사용 시 주의 문구가 있듯이, 디지털 도구 사용에도 위험성을 인지하고 사용하는 사람의 책임이 중요하다는 시각입니다. 규제만으로는 아이들을 완벽하게 보호하기 어렵기 때문에, 부모가 AI 및 SNS 도구의 맥락을 이해하고 적절한 사용법을 지도하는 디지털 리터러시 능력이 중요하다고 강조합니다.

김덕진 소장은 초등학교 4학년 자녀와 AI를 활용한 교육 사례를 소개했습니다. 아이가 하고 싶은 이야기를 충분히 녹음한 후, 이를 텍스트로 변환하여 AI에 입력합니다. AI가 바로 답을 주지 않고, 아이와 함께 맥락을 토론하며 결과를 필터링합니다. 이러한 반복적인 피드백 과정을 통해 아이는 사고의 논리력을 향상시킬 수 있었습니다. 예를 들어, 게임 제작 과정을 통해 규칙 공부의 필요성을 스스로 깨닫는 등 실제적인 학습 효과를 거두었습니다.