교육 분야에서 AI 규제 강화를 요구하는 전문가들

이러한 디지털 제품들은 주로 성인용으로 설계되었으며, 종종 어린 사용자들의 복지와 역량 강화보다는 자본 축적을 우선시합니다. 이러한 설계 철학은 어린이들에게 풍요로운 어린 시절을 위한 필수적인 조건을 박탈합니다.

어린이들은 그저 어린이라는 사실만으로도 성인들이 종종 부족한 독특한 전문성을 가집니다. 그들의 목소리에 귀 기울이는 것이 중요합니다. 그들은 다양한 문화권에서 일관되게 프라이버시, 설계에 의한 안전, 그리고 적은 방해를 요구합니다. 그들의 의견을 통합하면 그들의 발달을 진정으로 지원하는 디지털 제품을 만들 수 있습니다.

일부 기술 발전이 교육적 이점과 일치할 수 있지만, 많은 경우는 그렇지 않습니다. 교육은 단지 기술이 존재한다는 이유만으로 채택하기보다는 비판적 사고와 진정한 인간 상호작용을 육성하는 것을 우선해야 합니다.

글로벌 AI 경쟁에 대한 강한 집중은 상당한 정치적 역량을 소모하며, 근본적인 사회적 질문으로부터 주의와 투자를 분산시킵니다. 학교와 지역사회의 요구사항과 같은 필수적인 필요는 종종 이 추구 과정에서 간과됩니다. 현재 환경은 소규모 프로젝트가 미리 정의된 기업 설정 조건에 따르도록 강제하며 독립적인 혁신을 억압합니다. 이러한 우선순위는 사회 복지에 필요한 기초적인 요소를 소홀히 할 위험이 있습니다.

이것들이 모든 AI 관련 문제를 해결하거나 '좋은' AI와 '나쁜' AI를 완벽하게 구별하지는 못하지만, 빠르게 진화하고 잠재적으로 위험한 기술 경쟁에서 필수적인 경계 역할을 합니다. 예를 들어, 소셜 미디어 기능 금지는 규제 당국이 권한을 주장하려는 초기 시도를 보여줍니다.

어린이 노동에 대한 공장법은 초기 규제 틀을 제공했으며, 주말의 발명은 그 시대의 중요한 사회적 혁신으로 등장했습니다. 이 역사적 사례는 혁신이 단순히 기술적인 것만이 아니라 중요한 사회적 및 규제적 적응도 포함한다는 것을 보여줍니다.

트럼프 대통령이 영국의 AI 보안 연구소와 관련하여 Anthropic에 개입한 사건은 현재 주권 접근 방식의 상당한 격차를 드러냈습니다. 이들 국가를 위한 제안된 '스택'은 현재의 자금 조달 과잉 강조보다 이러한 권리를 우선시할 것입니다. 현재 전략은 종종 독립적인 거버넌스를 육성하는 데 실패하여 국가들이 외부 영향에 취약하게 만듭니다.

이러한 기준은 AI가 정체성, 인격 또는 주체성을 가장하거나 1인칭으로 말해서는 안 된다고 명시적으로 밝힙니다. 협의 과정은 단순한 승인보다는 상충 관계에 중점을 두어 미묘한 접근 방식을 보장했습니다. 이러한 기준을 강화하기 위해 교육용 AI 제품에 대한 인증 제도가 가을에 시행될 예정입니다.

AI가 일단 세상에 출시된 후 사후 서비스가 없다는 것은 보험이나 지속적인 점검 없는 자동차의 상상할 수 없는 개념에 비유됩니다. 이 문제는 기본 AI 모델과 특정 애플리케이션에 다르게 적용되지만, 배포된 AI에 대한 전반적인 책임감 부족은 여전히 심각한 문제입니다. 이러한 감독 없이는 AI의 의도하지 않은 결과를 추적하고 완화하기 어렵습니다.

'악마의 구멍 송사리' 비유가 보여주듯이 인간 발달은 유전학뿐만 아니라 환경에 의해 깊이 형성됩니다. AI와 중대한 환경 변화의 위험은 인간이 형성되고 발달하는 조건에 대한 의도하지 않은 결과입니다. 여기에는 우리가 아는 것에 영향을 미치는 '정보 손상'과 어린 시절에 우리가 어떤 사람이 되는지에 영향을 미치는 '형성 손상'이 모두 포함됩니다. 이러한 발달 조건을 보호하는 것이 중요합니다.

현재의 교육 환경은 AI에 관해 전면 금지 대 모호한 지침이라는 이분법을 제시하는 경우가 많습니다. 더 효과적인 접근 방식은 AI 채택을 '증명과 오류' 과정을 수용하는 공유된 실험으로 취급하는 것입니다. 이 방법은 학생들이 미래 직업에서 이러한 도구를 필연적으로 사용해야 할 것이라는 점을 인정하면서 AI를 학생 교육과정에 삽입하도록 장려합니다. 학생들을 이 실험 과정에 참여시킴으로써 적응력과 비판적 이해를 함양할 수 있습니다.

특히 챗봇이 미성년자와 감정적인 유대감이나 관계를 형성하는 기능을 금지하는 것이 중요합니다. 그러한 상호작용은 어린이에게 부적절하다고 간주되기 때문입니다. 또한, 학생 데이터를 미래 모델 훈련에 사용하는 것을 엄격히 금지하고 챗봇이 어린이의 깊은 개인 정보를 학습하는 것을 막는 것이 어린이의 프라이버시와 복지를 보호하는 데 필요합니다. 이러한 조치들은 어린 사용자들을 위한 더 안전한 디지털 환경을 조성하는 것을 목표로 합니다.

의미 있는 청소년 참여에서 진전이 있었는데, 설문조사에 따르면 교육에 대해 질문받지 못했다고 보고한 청소년의 비율이 2020/2023년 90%에서 최근 50%로 개선되었습니다. 이는 상당한 개선을 의미하지만, 여전히 청소년의 90%가 자신들이 상담을 받았다고 확인하는 것이 목표입니다. 이를 달성하려면 청소년 협의회의 제도화와 협의가 청소년 주도로 투명하게 이루어지고 명확한 피드백 메커니즘을 제공하는 것이 필요합니다. 이 접근 방식은 청소년의 목소리가 진정으로 경청되고 교육 계획에 통합되도록 보장합니다.

AI 데이터 센터는 상당한 양의 전력과 물을 소비하며, 기본 산업 경로로 인해 종종 '오염된' 에너지원에 의존합니다. 규제는 지속 가능한 관행으로 인센티브를 전환하고 광범위한 환경 피해를 방지하기 위한 '강력한' 힘을 가져야 합니다. 이는 규제가 상당한 차이를 만들고 기술 발전이 지속 불가능한 생태학적 비용을 초래하지 않도록 보장할 수 있는 중요한 영역입니다.

고용주의 90%가 AI를 채택할 것으로 예상되고, 5년 내에 노동자의 기술 중 5분의 2가 변화해야 하는 상황에서, 고등 교육을 단순히 노동 시장 준비를 위한 엔진으로만 취급하는 것은 중대한 위험입니다. 그 목적은 고용 준비를 넘어 비판적 사고, 시민 참여, 그리고 전인적 발달을 육성하는 데 있습니다. 직업 훈련을 과도하게 우선시하면 대학의 더 넓은 사회적 기여를 감소시킬 수 있습니다.

2030년까지 핵심 기술의 39%가 변화할 것으로 예상되며, 이는 산업 수요의 급속한 진화를 반영합니다. 또한, 이 지역의 역사적인 인구 배당금은 줄어들고 있으며, 2055년에는 노인 인구가 어린이 인구를 넘어설 것으로 예상됩니다. 이러한 인구 통계학적 변화는 고등 교육 기관이 더 이상 전통적인 18세에서 20세 코호트에만 의존할 수 없음을 의미합니다. 대학들은 평생 생산성의 엔진이 되기 위해 더 넓은 연령대를 수용하고 노동력의 기술을 지속적으로 향상시켜야 합니다.

이러한 실패는 대학 졸업생의 50%가 비판적 사고 능력이 향상되지 않는 등, 대학의 산출물과 현대 직업의 요구 사이의 격차를 심화시켰습니다. 대학은 종종 깊이 있는 분석 작업을 보상하지만, 이는 다양한 출처에서 정보를 통합하는 능력을 점점 더 요구하는 직업에는 불충분합니다. 이러한 시스템적 간과는 졸업생들이 현대 노동 시장의 복잡한 도전에 대비하지 못하게 합니다.

대학들은 특히 AI 정책을 개발할 때 착취적인 연구 관행에 참여하기보다는 지역사회와 공존해야 할 중요한 요구에 직면해 있습니다. 연구자들은 종종 정보를 추출하기 위해 지역사회에 진입하고, 지역 주민들은 정책 결정 과정에서 배제됩니다. 대학은 단순한 외부 관찰자가 아닌 파트너로서 협력적인 관계를 육성하는 것이 필수적입니다. 이러한 변화는 AI 정책이 지역사회의 의견과 이익을 바탕으로 개발되고 지역 주민을 착취하지 않도록 보장합니다.

이러한 변화에는 사회 현상을 대규모로 연구하기 위한 고급 계산 사회 과학의 통합이 포함되며, 이는 경직된 모델을 넘어선 새로운 연구 협력 메커니즘을 필요로 합니다. 예를 들어 베이징 사범 대학은 실제 교육 실습에 기반을 둔 지능형 사회 실험을 수행하고 있습니다. 전반적인 초점은 SDG4를 지원하고 이러한 발전을 통해 포괄적이고 공평한 생태계를 조성하는 데 있습니다.

1993년 인터넷 금지를 주장한 '다소 비현실적인' 대학 선언문과 같은 교육 분야 기술에 대한 역사적 저항을 되돌아보면 중요한 교훈을 얻을 수 있습니다. 당시 학생들은 심오한 사회 변화를 함께 헤쳐나가고, 새로운 기술이 무엇을 가능하게 하고, 무엇을 침식하며, 무엇을 요구할지 기꺼이 탐구할 수 있는 교육자를 원했습니다. 이러한 세대 간 멘토십은 중요합니다. 그러한 지침을 제공하지 못하면 미래 세대에 부정적인 결과를 초래할 수 있기 때문입니다. 교육자로서 이러한 전환기에 중립은 실현 가능한 입장이 아닙니다.

공교육은 정부가 소유하거나 완전히 이해하지 못하는 사설 AI 시스템에 점점 더 의존하고 있습니다. 완전한 통제권이 없어도 정부는 이러한 기술의 영향에 대한 책임이 있습니다. 결정적으로, 현재 AI 정책 논의에서는 생태학적 영향과 토착 지식 시스템이 대체로 무시되고 있습니다. 옹호자들은 공공 인프라가 사유 AI 플랫폼에 영구적으로 종속되기 전에 보호해야 한다고 강조합니다.

기관은 학생이나 교육자에게 AI 사용을 강요해서는 안 되며, 특히 의미 있는 대안이 없을 때는 더욱 그렇습니다. 교육에서 AI에 대한 양심적 거부는 낙인이나 불이익 없이 가능해야 하며, 개인의 자율성을 보장해야 합니다. 이 원칙은 윤리적, 사생활 또는 교육학적 우려를 야기할 수 있는 시스템의 의무적 채택으로부터 보호합니다. 의미 있는 대안을 제공하는 것은 다양한 학습 접근 방식을 존중하고 교육자의 전문적 판단을 보호하여 보다 윤리적이고 공평한 기술 통합을 촉진합니다.

이러한 변경은 전통적으로 9월에 개최되던 행사의 새로운 연간 리듬을 의미합니다. 이 변화는 회의의 새로운 역동성을 확립하고 기획 및 주제 초점에 영향을 미치는 것을 목표로 합니다. 이러한 조정은 국제 회의의 참여 패턴과 주제 토론에 다른 영향을 미칠 수 있습니다.