유네스코 원탁회의: 교육 분야 AI는 공공의 선택

이 입장은 교육이 인권이라는 신념을 강조하며, 교육 내에서 AI의 역할이 그 기본적인 원칙에 부합해야 함을 시사합니다.

교육 담당 사무총장보는 이 집단적 결정이 학습 환경에서 AI의 윤리적 거버넌스에 대한 통일된 글로벌 관점을 반영한다고 강조했습니다. 논의는 AI의 복잡성을 헤쳐나가면서 교육의 형평성과 품질을 저해하지 않고 향상시키는 방법을 보장하는 데 중점을 두었습니다.

이러한 우선순위는 AI 기술이 광범위한 사회적 선과 교육적 목표에 기여하도록 보장하는 것을 목표로 합니다.

이를 달성하기 위해 유네스코의 2021년 인공지능 윤리 권고는 기본 지침으로 작용하며, 그 준비도 평가 방법론(RAM)은 현재 80개국에서 구현되고 있습니다. 이 방법론은 국가들이 윤리적인 AI 채택에 대한 준비도를 평가하는 데 도움을 줍니다. 또한 유네스코는 정책 입안자와 교육자를 위한 실질적인 지침을 제공하기 위해 '교육 분야의 AI 거버넌스'와 '방 안의 알고리즘'이라는 새로운 출판물을 발행했습니다.

전 세계적으로 22억 명이 여전히 인터넷에 접속하지 못하고 있는 상황에서, ITU는 오늘날의 디지털 소외가 내일의 AI 소외가 되어 교육 기회 접근을 방해해서는 안 된다고 강조합니다.

ITU의 발전 전략은 연결성, 역량, 신뢰라는 세 가지 기둥에 기반을 두고 있습니다. 노력에는 '기가' 이니셔티브가 포함되며, 이 이니셔티브는 이미 230만 개 학교를 매핑하여 연결성 요구 사항을 식별하고 해결하며, 디지털 자원 및 AI 교육에 대한 공평한 접근을 보장하는 것을 목표로 합니다. 이 통합된 접근 방식은 포괄적인 AI 채택을 위한 견고한 기반을 구축하고자 합니다.

글로벌 디지털 협약을 통해 위임된 이 패널은 글로벌 AI 거버넌스를 알리기 위한 포괄적이고 전문가 주도의 통찰력을 제공하는 것을 목표로 합니다.

이 패널은 AI의 다면적인 특성을 반영하여 다양한 분야의 40명 전문가로 구성되어 있습니다. 첫 번째 보고서는 AI 개발의 빠른 속도를 강조하며, 전문가조차도 변화에 발맞추기 어렵다고 언급했습니다. 이는 정책 입안자를 효과적으로 안내하기 위한 지속적인 다학제적 연구의 중요한 필요성을 강조합니다.

이 플랫폼은 모든 UN 회원국에게 동등한 대표성을 보장하며, 중요한 AI 정책 문제에 대한 포괄적인 논의를 촉진합니다.

이 대화는 AI 거버넌스가 소수의 행위자에 의해 형성되는 것을 방지하고, 글로벌하고 공평한 접근 방식을 보장하는 것을 목표로 합니다. 참가자들은 AI에 대한 국제 규범 및 표준을 형성하는 데 기여하여 AI가 모든 국가에 이익이 되는 미래를 조성하도록 격려됩니다.

이 조치는 학생들의 집중력을 향상시키고 수업 중 방해 요소를 줄이는 것을 목표로 합니다. 학교는 정책과 실질적인 필요의 균형을 맞추며 쉬는 시간 동안 기기 사용을 자율적으로 관리할 수 있습니다.

교사 또한 기기의 교육적 사용에 대한 권한을 유지하여, 기술이 학습을 진정으로 향상시킬 때 유연성을 허용합니다. 이러한 미묘한 접근 방식은 제한이 효과적인 교육 관행을 방해하기보다는 지원하도록 보장합니다.

학생들은 수업 중 더 나은 집중력과 집중력을 보였으며, 이는 정책이 디지털 방해 요소를 완화하는 데 효과적임을 나타냅니다. 또한 이 이니셔티브는 학생들이 화면 시간을 보내는 대신 놀이와 의사소통에 참여하면서 쉬는 시간 동안 동료 간 사회적 상호작용이 증가하는 것을 목격했습니다.

학부모들은 자녀의 학습 및 사회 발달에 대한 이점을 인식하며 정책에 강력한 지지를 표명했습니다. 이러한 초기 결과는 신중하게 구현된 제한이 더욱 conducive한 학습 환경과 학생들 사이의 건강한 사회적 역동성을 조성할 수 있음을 시사합니다.

이 접근 방식은 기술 의존성보다 인간 상호작용과 비판적 사고를 우선시하여 AI가 인간 교육자를 대체하는 것이 아니라 보완적인 도구 역할을 하도록 보장합니다.

초기 단계에서는 패턴과 기계와 인간 능력의 구별과 같은 개념을 도입하는 데 중점을 둡니다. 학생들이 발전함에 따라 커리큘럼은 데이터 윤리 및 알고리즘 설계와 같은 더 복잡한 주제를 다루어 책임감 있는 디지털 시민이 될 준비를 시킵니다. 핵심 과목에서 수행된 파일럿 연구는 기기 사용 감소 후 학생 참여도가 향상되었음을 밝혀 인간 중심 철학을 강화했습니다.

이 전략은 AI가 교육 과정을 완전히 자동화하기보다는 교육자와 학생을 지원함으로써 학습 결과를 향상시켜야 한다고 강조합니다. UAE의 프레임워크는 기술이 인간 교육 요소를 보완하지만 가리지 않는 균형 잡힌 환경을 조성하고자 합니다.

AI 기술은 AI 기술을 활용하고 개발하는 능력을 의미하며, AI 리터러시는 AI의 개념, 함의 및 윤리적 고려 사항을 이해하는 것을 의미합니다. 이 포괄적인 접근 방식은 개인에게 AI를 책임감 있게 다룰 수 있는 필요한 역량을 갖추도록 하는 것을 목표로 합니다.

핀란드 정부는 2020년부터 2026년까지 AI 사용에 대한 전략적 연구에 투자함으로써 약속을 보여주었습니다. 이 장기 투자는 AI가 교육 시스템과 더 넓은 사회에 통합되는 것을 지원하여 시민들이 AI 중심의 미래에 잘 대비할 수 있도록 보장합니다.

UAE는 AI 확산과 진정한 교육적 영향 달성 사이의 명확한 구분을 강조하며, 새로움을 영향과 혼동해서는 안 된다고 밝혔습니다. UAE의 비전은 자동화 자체가 목적이 아니라는 것입니다. 진정한 성공은 학습 결과의 입증 가능한 개선으로 측정됩니다. 이 관점은 교사와 학습자의 피드백을 지속적으로 반영하는 반복적인 구현 프로세스를 안내합니다.

진정한 영향을 보장하기 위해 UAE는 '이득'과 '증거'를 구분합니다. 평가의 핵심 지표는 학습 격차가 줄어들고 학생들이 더 깊이 추론하는지 여부입니다. 이 엄격한 접근 방식은 AI의 피상적인 채택을 방지하고 학생 발달에 대한 측정 가능한 이점을 우선시하여 기술이 교육 목표에 기여하도록 보장합니다.

학생들은 학습 과정에 진정으로 참여하지 않고 단순히 지식을 습득하기보다는 요구 사항을 충족하기 위해 AI 도구를 사용하여 과제를 완수하는 경우가 많습니다. 한 언어 교사는 학생들이 AI를 사용하여 전체 에세이를 작성하여 작문 능력 개발을 위한 중요한 브레인스토밍 및 초안 작성 단계를 건너뛰는 것을 관찰했습니다. 이 현상은 AI 통합의 중요한 과제를 강조합니다.

교육자들은 AI 도구가 독립적인 사고를 촉진하는지 아니면 의도치 않게 학생 의존도를 높이는지 비판적으로 평가해야 합니다. 문제는 도구가 작업을 완료할 수 있지만 학습 여정을 반드시 지원하지는 않는다는 것입니다. 광범위한 채택 전에 AI의 테스트 및 평가에 교사를 참여시켜 이러한 도구가 교육적으로 건전하고 진정한 학습 결과를 지원하는지 확인해야 한다는 강력한 요구가 있었습니다.

교육부가 AI를 효과적으로 관리하려면 현재 개발에 대한 깊은 통찰력과 강력한 안전 프로토콜이 모두 필요합니다. 빠르게 진화하는 AI 환경에서 무엇이 일어나고 있는지 이해하는 것은 정보에 입각한 의사 결정을 위해 중요합니다. 여기에는 기술 발전, 그 응용 프로그램, 교육 시스템에 대한 잠재적 영향에 대한 이해가 포함됩니다.

학생과 교육 데이터의 안전을 보장하는 것도 똑같이 중요합니다. AI가 공익에 기여하고 잠재적 해를 방지하면서 이점을 극대화하도록 보장하기 위해 결정은 증거 기반이어야 합니다. AI 통합이 어디로 향하고 있는지에 대한 명확한 비전은 도전에 수동적으로 대응하기보다는 그 궤적을 사전에 형성하는 데 필수적입니다.

이 비유는 초기 전기 시스템이 안전 기준이 부족하여 수많은 사고로 이어진 것과 유사하게, AI가 현재 혼란스럽고 규제되지 않은 단계에 있음을 강조합니다.

역사적으로 전기에서 항공에 이르는 강력하고 위험한 기술은 결국 사회가 안전하게 공존할 수 있도록 확립된 규범과 안전 프로토콜을 개발했습니다. AI의 목표는 상당한 위험을 특징으로 하는 현재의 초기 상태에서 포괄적인 거버넌스 및 안전 메커니즘을 갖춘 성숙 단계로 전환하는 것입니다.

어떤 AI 도구를 사용할지는 국가 주권과 근본적으로 연결된 전략적 결정입니다. AI가 의료, 교육, 금융과 같은 분야에서 중요 인프라가 됨에 따라 배포 및 관리를 결정할 권한이 매우 중요해집니다. Anthropic의 'Fable 5'가 미국 수출 통제로 인해 철회된 사례는 외부 의존성이 국가 시스템을 어떻게 손상시킬 수 있는지 보여줍니다.

이 사건은 외국이 통제하는 AI에 의존하는 국가의 취약성을 강조하며, 누가 이러한 중요한 도구의 철회 또는 수정을 지시하는지에 대한 의문을 제기합니다. AI 모델을 '탈식민지화'하고 미세 조정하기 위한 지역 및 지역 기술 전문 지식 개발이 시급합니다. 이러한 자율성은 AI 인프라가 국가 이익 및 윤리적 표준에 부합하도록 보장하여 외부 세력이 가용성 또는 기능을 지시하는 것을 방지합니다.

AI 관련 사고가 발생했을 때 강력한 거버넌스는 명확한 책임 소재를 정의하고, 책임 있는 시스템을 식별하며, 신속하게 오프라인으로 제거할 수 있도록 해야 합니다. 이러한 수준의 통제는 강력하고 잠재적으로 위험한 기술을 관리하는 데 중요합니다.

항공 안전에 대한 비유는 AI 상호작용이 비극적인 인명 손실로 이어진 캐나다 사건이 보여주듯이, 필요한 경우 포괄적인 조사, 구속력 있는 결과, 그리고 '항공기를 운항 정지'할 용기의 필요성을 강조합니다. 이 프레임워크는 AI 도구가 체계적으로 식별, 중단 및 규제되어 피해를 방지하고 공공 안전을 최우선으로 하도록 보장합니다.

AI 기반 검색 엔진과 알고리즘은 역사적 정확성이나 출처보다는 복잡한 계산을 기반으로 결과를 우선시하는 경향이 있습니다. 이러한 시스템은 어떤 정보가 상위에 노출될지 결정하며, 중요한 역사적 진실과 다양한 관점을 간과할 수 있습니다. 이러한 알고리즘 선택은 동질적이거나 편향된 정보 환경으로 이어질 수 있으며, 지식 보급의 무결성에 대한 우려를 제기합니다.

역사 정보를 담는 전통적인 저장소와 달리, 현재의 AI 데이터 소스는 진정성과 출처를 위해 큐레이션되지 않을 수 있습니다. 이러한 결함은 AI 시스템이 정보를 수집하고 제시하는 방식에 대한 면밀한 조사의 필요성을 강조합니다. 특히 AI가 지식의 점점 더 영향력 있는 원천이 됨에 따라 알고리즘 편향에 대응하고 역사적 및 현대적 정보의 진실성을 옹호하기 위해 데이터의 진정성과 신뢰할 수 있는 출처를 보장하는 것이 필수적입니다.

AI 채택이 보편적이고, 피할 수 없으며, 신속한 구현이 필요하다는 지배적인 서술이 바뀌기 시작했습니다. 한때 널리 받아들여졌던 이 관점은 이제 공공 기관, 기술자, 과학자, 그리고 새로 나타나는 증거에 의해 의문이 제기되고 있습니다. 이러한 회의론은 AI 배포가 미리 정해진 경로가 아니라 광범위한 함의를 가진 의식적인 결정이라는 인식이 커지고 있음을 반영합니다.

이러한 의문의 시기에, 교육은 공동선이며 AI는 선택이지 필연이 아니라는 오래된 생각이 다시 떠오르고 있습니다. 이는 사회가 AI가 교육 및 기타 부문에 통합되는 방식을 형성할 수 있는 주체성을 가지고 있음을 강조합니다. 이러한 변화는 기술 중심의 필연성에서 사회적 가치와 집단적 복지를 우선시하는 인간 중심적 접근 방식으로 전환하여 AI 배포에서 공공 책임의 중요성을 강조합니다.

교육 시스템의 경우, 이 구분은 기술 채택에서 진정한 선택과 외부 제공업체에 대한 구조적 의존성의 차이를 나타냅니다. 진정한 AI 주권은 여러 차원을 포괄합니다.

이러한 차원에는 데이터 및 거버넌스에 대한 관할권 통제, AI 개발 및 유지 관리에 대한 기술적 독립성, 조달에 대한 재정적 자율성, 지역 가치와 AI의 문화적 일치성, 교육 맥락에 대한 교육적 적합성이 포함됩니다. 이러한 영역에 대한 강력한 통제가 없으면 교육 시스템은 고유한 요구 사항이나 가치에 부합하지 않을 수 있는 AI 솔루션에 의존하게 될 위험이 있으며, 이는 자율성과 장기적인 교육 목표를 위태롭게 할 수 있습니다.

한 번의 평범한 행사로 간주되었던 조달은 교육 분야 AI 거버넌스에 있어 중요하지만 간과되었던 지렛대로 재평가되고 있습니다. 기존 교과서와 달리 AI 도구는 동적이며 시간이 지남에 따라 변화하므로 전체 수명 주기 동안 지속적인 감독이 필요합니다. 이러한 변화는 학교가 기술을 획득하고 관리하는 방식에 대한 새로운 관점을 요구합니다.

효과적인 거버넌스는 초기 획득을 넘어 AI 도구가 발전함에 따라 지속적인 모니터링 및 적응을 포함해야 합니다. 조달 과정에 공익 조건을 통합하면 AI 솔루션이 교육 목표 및 윤리적 표준에 부합하도록 보장합니다. 이러한 지속적인 감독은 조달을 학교에 AI를 통합하는 방식을 형성하는 강력한 메커니즘으로 변화시켜 거래적인 이벤트를 넘어 장기적인 거버넌스를 위한 전략적 도구로 만듭니다.

교육자 및 기관은 실수나 부적절한 학점을 '제멋대로' 작동하거나 독립적으로 행동한 AI 탓으로 돌릴 수 없습니다. 모든 AI 기반 결정에 대한 명확한 책임이 유지되어야 하며, 궁극적인 책임은 이러한 도구를 배포하는 인간 주체에 있습니다.

이 원칙은 AI 제공업체와 학생 간의 본질적인 힘의 불균형을 고려할 때 중요합니다. AI 결정이 어떻게 내려지는지 상세히 설명하는 설명의 권리는 학생과 그 가족에게 중요한 권리가 됩니다. 투명한 책임 프레임워크는 교육 기관이 AI 통합 시스템의 무결성과 공정성에 대해 책임을 지도록 보장하여 신뢰 침식을 방지하고 학생 복지를 보호합니다.

발달 과학은 아동의 인지 및 정서 발달이 광범위하게 다르다는 것을 나타내며, 엄격한 연령 기반 이정표를 AI 적합성의 신뢰할 수 없는 지표로 만듭니다.

전 세계적으로 어린이들은 이미 AI를 감독 없이 사용하고 있으며, 이는 자의적인 연령 제한의 실용성과 효과에 도전합니다. 이러한 현실은 정책이 포괄적인 제한보다는 적응형 지침과 책임감 있는 AI 사용에 대한 교육에 더 집중해야 함을 시사합니다. 개별 발달 단계 및 기존 사용 패턴에 민감한 미묘한 접근 방식이 어린 사용자를 위한 안전하고 유익한 AI 통합을 안내하는 데 더 효과적일 수 있습니다.

주요 우려는 학생들이 AI 튜터를 이용하거나 자동화된 콘텐츠 요약을 사용할 때 상업용 제품을 개선하기 위해 아동의 데이터가 수집되고 있는지 학교가 어떻게 확인할 수 있는가 하는 점입니다. 이러한 투명성 부족은 윤리적 및 개인 정보 보호 침해로 이어질 수 있습니다.

현재 많은 교육용 AI 솔루션은 순전히 교육학적 도구라기보다는 주로 상업용 제품으로 설계되었습니다. 이러한 상업적 지향은 종종 데이터 수집을 포함하는 제품 개선이 교육적 목표보다 우선시될 수 있음을 의미합니다. 따라서 학교는 AI 도구와 관련된 서비스 약관 및 데이터 개인 정보 보호 정책에 대해 경계해야 하며, 학생 데이터가 보호되고 기술이 교육적 목표를 우선적으로 달성하도록 보장해야 합니다.

AI가 모든 교육 환경에서 전통적인 인간 교육보다 명확하게 우수하다는 결정적인 증거는 현재 없습니다. AI가 지원 역할을 제공할 수 있지만, 아동의 전인적 발달과 전반적인 학교 환경에 미치는 포괄적인 영향은 엄격한 인간 중심 연구를 통해 아직 입증되지 않았습니다. 이러한 광범위한 증거의 부족은 AI 통합에 대한 신중한 접근 방식을 필요로 합니다.

정책 입안자와 교육자들은 교육 과정 중단과 인간 상호작용 침식의 잠재적인 숨겨진 비용을 고려할 것을 촉구합니다. 더 포괄적이고 맥락에 따른 증거가 수집되는 동안 교사와 그들의 전문성을 신뢰하는 것을 우선시해야 합니다. 이 관점은 AI의 이점을 잠재적인 단점과 철저히 평가하고 항상 아동의 복지와 교육 생태계를 최우선으로 하는 증거 기반 의사 결정을 옹호합니다.