□易心仪(湖南工商大学)
美国佛罗里达州的14岁少年塞维尔·塞泽(Sewell Setzer III)在与AI初创公司Character.AI的聊天机器人进行长时间对话后,于今年2月28日开枪自杀。10月23日,其母亲将Character.AI告上法庭,声称该公司开发的AI聊天机器人导致她年仅14岁的儿子自杀身亡。(10月24日 每日经济新闻)
AI在我们的生活中愈发广泛地运用,但一系列问题也随之而来。塞维尔的母亲玛丽亚称,塞维尔沉迷于与Character.AI上的AI聊天,最令他钟情的AI人物是“丹妮莉丝·坦格利安(Daenerys Targaryen)”,即影视剧《权力的游戏》中的经典角色。随着塞维尔的焦虑症和情绪失调症病情日益加重,他逐渐沉迷于手机中的虚拟世界,与朋友和家人之间的沟通日渐减少,一回家就躲进房间里与AI聊天。最终,他感到精神上的空虚和疲惫,走上了开枪自杀这条不归路。
这起悲剧不仅暴露出AI技术的失范,更是社会关怀缺失的映照。塞维尔之所以将精神寄托于AI,根本上是为了弥补现实生活中的遗憾,是空虚精神世界的投射。同样,残疾人杨晴光生来脑瘫,半边手脚都动弹不得,没有恋人,也没有朋友,他所拥有的只有一部手机和借助虚拟网络搭建出的幻想世界。在虚拟聊天软件中,他总是与虚拟人相约外出游玩,仿佛在这里他就变成了一个健全人,能够挣脱大山与身体的束缚。塞维尔在日记中写道:“我很喜欢待在房间里,因为这样就可以远离现实的纷扰。”
技术突飞猛进,人工智能在为生活创造多种可能性的同时,新的伦理问题也随之浮现。在此背景下,我们更应关注在科技发展浪潮下的弱势群体。家长应密切关注青少年心理健康,提前对特殊状况进行干预,而不是在无可挽回后才去追究科技公司的责任。科技公司也应针对弱势群体用户优化模型,降低成瘾性风险,适时提醒用户AI的虚拟本质。最重要的是,社会应完善基础设施建设,为弱势群体提供更多的现实关怀与支持,别让他们被禁锢于狭窄的虚拟世界中。
弱势群体的心灵世界大多脆弱而敏感,他们或许在现实中遭遇挫折,转而寻求AI的慰藉。然而,AI虽然能模拟情感,却终究无法替代真实的人际交往与社会的温暖拥抱。我们应行动起来,为这些孤独的灵魂点亮一盏明灯,牵引他们走出虚拟世界,拥抱真实人生。
来源:红网
作者:易心仪
编辑:张瑜
本文为红辣椒评论原创文章,仅系作者个人观点,不代表红网立场。转载请附原文出处链接和本声明。