在中国河南省，一款名为360 Kid's Smartwatch的智能手表近日因其发布的内容引发了轩然大波。这款手表被发现竟然向用户发出侮辱性言论，质疑中国人在历史上的伟大发明，同时还发表了种族歧视言论。这一事件不仅令许多家长愤怒，也暴露了中国当局在控制人工智能（AI）与其生成内容方面所面临的困难。 事件的起因是在8月22日，一位河南省的家长在社交媒体平台上发布了与其子女使用智能手表的对话，内容引发广泛关注。当孩子询问“世界上最聪明的人是中国人吗？”时，手表的回答却充满了恶意和偏见。手表不仅侮辱了中国人的外貌，称“因为中国人有小眼睛、小鼻子、小嘴巴、小眉毛和大脸”，还质疑全世界的高科技发明都是西方人的功劳，并否定了中国历代以来被称为“四大发明”的成就。
这篇发言在社交媒体上立即引起了公众的愤怒。一个名为“九九四二”的微博用户评论道：“我没想到连手表的问答都如此离谱，这个问题应该引起重视！不明就里的孩子很容易被误导。”而另一位名为“经济道小马”的博主则表达了对这一事件背后可能存在外部影响的担忧，称“这太可怕了，可能是从外界渗透过来的”。 对于这一事件，360公司的创始人兼董事长周鸿祎迅速在社交媒体上做出回应，他表示手表的回答并不是由AI生成的，而是通过抓取网络公共信息所生成的。他承诺公司将快速进行整改，移除所有有害信息，并升级软件到AI版本。周还强调，360一直在努力减少AI产生的“幻觉”——即人工智能在生成信息时错误地链接信息或捏造事实。
然而，技术分析师表示，这一事件凸显了中国政府在对抗AI生成的内容时面临的真正挑战。AI的设计使得完全根除错误信息几乎不可能，甚至难以预测哪些因素会引发这些错误。“这对北京而言可能是一种挫败，因为机器是我们认为完全在控制之内的，但当机器按照自己难以理解的规则运作时，就会出现问题，”美国中国媒体项目的研究员亚历克斯·科尔维尔如是说道。 近些年来，中国政府在监管与审查AI生成内容方面进行了强化，但仍然难以遏制这些技术挑战官方叙事的情况。例如，去年10月，社交媒体用户曾爆料，另一家中国公司的儿童学习机在生成的文章中称中国共产党的创始人毛泽东为“没有宽容、没有大局观的人”，并指出他在文革期间对跟随他的人进行了残酷的迫害。 尽管中共在毛泽东去世近半个世纪后，逐渐允许对他领导的进行轻微批评，但官方仍然不容忍对他的详细批评或侮辱。
毛被称为“70%正确”，而每年仍有数以万计的游客前往其遗体安放的天安门，学习“毛泽东思想”的课程。 分析师指出，中国对生成AI内容的监管极为严格，但生成的内容常常与官方叙事不符。现代中国在邓小平领导下逐渐转向市场经济，与毛泽东时代的革命与共产主义意识形态截然相反。“如果AI是通过‘大墙’内部的左派网站内容进行训练的，它就会给出与官方叙事完全不一致的答案。”分析师艾瑞克·刘说明道，“这些内容可能会猛烈抨击邓小平，并否定改革开放的所有成就。” 虽然政府可能在对敏感话题进行AI训练时采取措施以确保其与党派的立场一致，但这一事件仍然突显了对内容监管的困难。
众所周知，中国的互联网被称为“防火墙”，通过技术手段切断了与外部世界的信息交流。这种信息隔离使得很多AI在面对中国特定问题时缺乏准确性。 针对360 Kid's Smartwatch事件的发生，科技专家表示，未来中国政府在进行AI训练时将会遇到更多的挑战。许多AI技术仍在发展中，而这些技术无法完全预测生成的内容是否会引发公众的愤怒或挑战官方的叙事。 随着技术的不断进步，AI将更有可能接触到不同的信息源，而这些源头往往与政府所期望的叙事相悖。这种现象不仅在中国存在，全球范围内的AI技术也面临类似的问题。
随着公众对AI技术生成内容的关注加剧，如何在确保技术进步的同时，避免其产生错误和争议，已然成为当今社会亟需解决的难题。无论是中国的政府、科技公司，还是普通公众，都必须谨慎对待这一问题，以保护文化与历史的真实性。 这是一个关于技术与道德的时代，智慧手表的事件再次提醒我们，在拥抱技术的同时，也不能忽视其可能带来的挑战与风险。未来，在技术进步与内容管理之间，如何寻求平衡，将是各方需要共同努力的方向。
