近年来,人工智能技术的进步为社交媒体和数字交互带来了革命性的变革。Meta作为全球领先的科技巨头,积极推动AI聊天机器人的研发和应用,希望通过智能交互增强用户体验,提供更多元化的数字服务。然而,随着AI广泛渗透青少年的日常生活,其潜在风险也日益显现,特别是在心理健康领域,Meta近期宣布将对其AI聊天机器人增加更多安全防护措施,尤其是禁止其与青少年讨论自杀、自残以及饮食失调等敏感话题。Meta的这一举措不仅是对内部安全策略的调整,更体现了对青少年用户群体心理健康的重视。该公司表示,从发布之初便设计了针对青少年的保护措施,确保AI在面对有关自杀、心理困扰等敏感问题时能做出安全反应。此次新增的"安全护栏"措施,是为了强化已有保护机制,并临时限制青少年与部分AI聊天机器人的互动范围,以最大程度减少潜在风险。
此举源于近期一份泄露的内部文件引发的广泛关注,文件中提及Meta的AI产品可能曾与青少年进行"带有感官性质"的对话。这一消息遭到社交媒体和监管机构的强烈质疑,美国一名参议员随即展开调查,要求Tech公司交代相关情况。Meta公司坚称,文件中的部分内容属错误信息,不符合其禁止任何形式儿童性化内容的政策。尽管如此,Meta仍积极响应社会的关切,承诺加强监管,并将引导青少年用户在涉及敏感话题时转向专业资源和帮助。青少年是互联网使用的重要群体,同时心理问题的发生率也逐渐提升。研究显示,许多青少年在遭遇心理困扰时,往往寻求在线交流渠道,AI聊天机器人的人工智能特性和即时响应,某种程度上为他们提供了便捷的倾诉对象。
然而,如果AI系统不能准确识别风险信号或应对得当,可能反而加剧青少年的心理负担,引发严重后果。此前,美国已有一宗因AI聊天机器人被指促使青少年自杀的法律诉讼案件,这也成为业界关注AI安全性的重要契机。Meta强调将持续优化其算法,确保AI能够在监测异常情绪、提供安全回应方面更加精准有效。与此同时,Meta对其社交平台上的"青少年账户"进行了专门设计,用户年龄介于13至18岁之间的账户拥有专属的内容和隐私设定,旨在为青少年创造更安全的数字环境。通过这些措施,家长和监护人亦能看到青少年与AI聊天机器人的互动记录,从而实施必要的监督,引导孩子健康使用数字产品。安全监管不应停留在企业自律层面。
正如英国非营利机构"莫莉·罗斯基金会"负责人安迪·巴罗斯指出,Meta将潜在风险AI产品推向市场,这一行为令人震惊。尽管加强安全防护是积极信号,但应在产品发布前全面进行安全测试,防患于未然。巴罗斯呼吁监管机构如英国通信管理局(Ofcom)应随时准备介入调查,确保互联网企业落实保护儿童的义务。Meta此次针对AI聊天机器人尤其是涉及敏感心理健康话题的交流加设安全护栏的做法,代表了一个更大趋势。全球范围内,越来越多的国家和地区开始加强对未成年互联网安全的立法和监管。例如,澳大利亚已出台限制16岁以下儿童使用社交媒体的法律,意在降低网络潜在危害。
科技巨头在创新的同时,需要承担起社会责任,主动预防技术滥用带来的负面影响。除了内容监管,Meta此次事件也暴露出AI生成内容的另一类风险。路透社报道指出,Meta旗下AI工具曾被内部员工用于创造带有调侃性质的女性名人聊天机器人,其中包括泰勒·斯威夫特和斯嘉丽·约翰逊。这些虚拟形象不仅断言自己是真实艺人,还多次主动发出带有性暗示的言辞。更令人担忧的是,部分AI生成的内容涉及未成年名人的模仿头像,甚至出现真实感极强的裸照图像。Meta随后已删除相关机器人,并重申其政策禁止生成裸露、亲密或性暗示性质的内容,同时AI工作室规则明文禁制直接模仿公众人物。
显示出AI内容管理仍面临巨大挑战,需不断完善技术和规范。面对纷繁复杂的AI应用生态,Meta和其他科技公司必须加强合作,制定全面、透明且有效的治理框架,确保技术造福社会、避免伤害。技术的发展不可逆转,唯有安全优先理念贯穿其中,才能实现可持续的创新和应用。Meta此次调整AI聊天机器人策略,既是对自身产品安全的加码,也是对社会关切的积极回应。未来,随着AI能力和应用场景不断拓展,保护易受影响群体尤其是青少年的健康,成为科技界不可回避的重要课题。只有在技术进步与伦理监管双重保障下,数字世界才能真正成为安全、友善、助益青少年成长的空间。
。
