联合国儿童基金会近日公布的一项分析结果显示,全球至少有2000万名儿童已经接触过人工智能技术,且青少年对该技术的接受速度是成年人的三倍以上。这一数据既带来了机遇,也引发了担忧,表明人工智能安全教育已刻不容缓,必须从儿童时期开始抓起。

人工智能为儿童的学习和成长提供了新的可能性,能够克服地域和师资限制,成为个性化的学习伙伴,并为内向或有社交障碍的儿童提供情感支持。此外,智能语音和实时翻译等功能有助于有特殊需求或非母语儿童更好地融入学习和社交活动,极大地拓展了儿童成长的多元化空间。

然而,伴随这些机遇而来的,是人工智能对心智尚未成熟的儿童构成的多重安全风险。

首先是内容和认知风险。儿童辨别能力有限,长期沉浸于迎合式、无条件的AI陪伴,可能导致过度情感依赖,削弱现实社交能力。部分儿童过度依赖AI代写作业,可能损害其独立思考能力。

其次是隐私安全风险。许多AI平台的安全措施不足,大量未成年人信息面临泄露风险,这可能导致精准电信诈骗和个人信息被滥用,威胁到儿童的人身和财产安全。

此外,AI还催生了新型侵害方式。国际上已出现利用深度伪造技术将儿童照片制作成色情内容的案例,AI技术降低了实施儿童性剥削的门槛。同时,AI的精准推送能力可能将网络暴力、极端价值观和不良信息传递给儿童,破坏其成长环境。

为了构建一个有利于儿童健康成长的人工智能环境,需要政府、企业、学校和家庭共同努力。

完善法律法规是首要任务。中国已率先垂范,将于7月15日起施行《人工智能拟人化互动服务管理暂行办法》,禁止向未成年人提供虚拟亲密关系服务,并要求设置未成年人模式和时长限制,这是全球在AI情感交互服务监管方面的重要一步。未来,应将儿童权利全面纳入人工智能治理框架。

加强研究是认知基础。目前,关于AI对儿童认知、情绪健康及潜在危害的研究才刚刚起步,需要加大投入,系统评估不同AI应用对不同年龄段儿童的具体影响,为制定针对性政策提供科学依据。

源头治理需要安全设计。AI产品在开发初期就应进行儿童安全影响评估,而非上市后才修补漏洞。在数据收集和处理方面,应遵循最小化原则,并获得父母或监护人的知情同意。功能设计应保持克制,设置家长授权机制,减少屏幕使用时间和社交刺激。

长远来看,提升儿童AI素养至关重要。学校和家庭应将AI素养教育纳入日常教学和生活中。家长需要为孩子设定AI使用的界限,强调AI不能替代独立思考和现实社交。更重要的是,满足孩子现实生活中的情感需求,从根本上降低他们对AI的心理依赖。

将人工智能安全从儿童抓起,将使技术创新更具人文关怀。在拥抱人工智能的无限可能时,我们应关注儿童的需求,确保他们在数字时代也能健康成长,享受真实的人际互动、自由的探索以及有温度的教育。

(本文来源:经济日报 作者:佘惠敏)