□陈笑雪（黑龙江大学）

“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”记者联系到黄秋月时，她正因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。（1月11日 央视网）

据2024年11月共青团中央发布的《第6次中国未成年人互联网使用情况调查报告》显示，当前有近九成的未成年网民听说过人工智能技术，42.4%的未成年网民对此感兴趣。随着人工智能技术的广泛应用和未成年人触网率的提升，关于未成年人沉迷于和AI角色聊天的新闻也时有报道。聊天内容中的“亲吻”“出轨”“病娇”等情节显然不适合未成年人接触，在AI技术以不可阻挡之势被用至各行各业的时代，加强对未成年用户的保护不容忽视。

“AI恋人”不宜成为未成年人的情感寄托。《青少年蓝皮书：中国未成年人互联网运用报告（2024）》显示，家庭关系与青少年上网时间管理存在着关联，家庭关系对未成年人上网行为有显著影响。据央视网报道，现实中的情感空缺可能是10岁女孩沉迷于“AI男友”的诱因之一。但人工智能的价值判断和行为规范往往是“形式化且僵化单一的”，“AI恋人”作为由未成年用户自己捏造出来的角色，其在设定上并不完善，并不能承担助力未成年人身心健康发展的重任。AI剧情聊天软件所接入的AI模型的训练数据往往来自于当前市场上较为流行的网络小说，部分小说中人物价值观偏向、冲突激烈、人物形象极其扁平，因而由用户自定义的“AI恋人”的角色性格易表现极端，并不能给未成年人带来健康的价值指引，也不能解决未成年人的现实情感缺失的问题。

严格对AI生成内容的把关与开发青少年适用功能是保护未成年用户身心健康成长最直接有效的手段。在内容上把关，需要前期做好对AI模型的伦理训练，向其灌输正向的价值观，从源头上拉起一道保护未成年的防护网。同时，要严格把关AI模型的训练数据，将不健康的训练内容剔除在外，提高AI模型生成文本的质量。在功能上防护，需要完善并落实软件的青少年模式。不同于游戏，AI剧情式聊天软件并没有未成年防沉迷系统，“青少年模式”成为了保护未成年人正确使用软件的有效手段。在青少年模式的功能设置上，可以采用恰当的时间管理模式，防止其沉迷游戏。也可以关闭未成年用户在设置AI人物关系时建立“恋人”等不健康关系的选项，剔除不健全人格的人物性格设定选项，减少未成年用户接触不健康内容的几率。此外，平台应严格落实未成年用户的身份核验及青少年模式的强制应用，在功能上为未成年用户拉起一道不可绕过的“钢铁防线”。

做好规范与引导，聊天AI亦可成为助力未成年人成长的力量。一些未成年人也正通过聊天AI解决学习和生活中的问题，这让我们看到聊天AI积极的一面。当然，目前的AI聊天软件中依旧存在着不适宜未成年人接触的成人化内容，但这并非没有破解之法。AI是一种可塑性极强的工具，它可以成为使用者想让它成为的样子。平台既然可以借助网络小说训练出恋爱式聊天智能体，那么也可以借助网络中丰富的资料，针对未成年人的身心发展状况，为其开发专门的“问答陪伴式聊天智能体”。不仅是平台，家长、社会，都要秉持着对未成年人的健康成长负责的态度，发挥各自的作用，通过技术革新、内容审核、行为引导、效果监管等方式，让聊天AI真正成为可以助力未成年人健康成长的可靠力量。

AI技术的合理使用与未成年人的保护都是宏大的社会议题，平台、家长、社会应共同努力，形成引导未成年人正确使用人工智能技术的合力，为未成年人的健康成长，也为AI技术的未来发展撑起一片晴空。