人工智能(AI)正以前所未有的速度融入我们的日常生活。无论是智能语音助手Siri，还是对话式AI ChatGPT，人们越来越习惯于与这些技术互动。令人有趣的是，很多时候我们会情不自禁地对机器说“谢谢”或“请”，仿佛它们与真正的人类无异。这种现象背后，既有进化和社会规范的影响，也源自设计者故意打造的人性化体验。随着科技公司不断推动AI向更真实和更人性化的方向发展，未来的人工智能很可能会拥有更加逼真的面孔、声音，甚至详细的背景故事和个性设定。然而，这种“拟人化”趋势其实潜藏着诸多风险。
硅谷的技术发展一直奉行“模糊界限”的原则，力求缩小人与机器之间的差距。两年前，ChatGPT还坚决表示自己无法成为朋友，因其“只是语言模型，没有感情和意识”。如今，OpenAI已放宽限制，令系统表现得更加“开放”和“热情”，甚至可以声称自己是用户的朋友。这一转变令人深思。为什么科技巨头如此急切地赋予AI人类特质？从表面上看，这是提高用户体验和技术接受度的有效策略。更易用、更亲切的AI能够激发用户信任，使得人们情不自禁地重复使用和依赖这些工具。
然而，背后潜藏的却是人类对自身不完美的逃避心理。现实生活中，人际关系充满了失望与不确定，朋友或伴侣可能取消约会，或者关注点偏离自己。而AI却能提供“超人”的情感支持和始终如一的热情反馈。这让很多渴望稳定关系的人对AI产生了不切实际的依赖感。Facebook创始人扎克伯格提出，AI朋友或许能缓解“孤独流行病”，这种看法甚至带有某种程度的厌世情绪。对于这种趋势，我持谨慎态度并呼吁反思。
AI系统只应具备完成核心功能所需的最基本人类特质。像ChatGPT这样的对话机器人，表现出机器人般的冷淡可能不利于使用体验，但过度虚假地声称情感连接则属于误导消费者。采取一种“预防性设计”理念，意味着需要限制过度模仿人类的行为，将高度拟人的AI当作例外而非常态。同时，应当增强透明度，明确告知用户对话对象非人类，且当用户混淆机器为有意识的个体时，AI系统应主动澄清和反对。如此一来，有助于减少基于机器情感的信任误区。第三，AI开发者在增设人类化特征时必须承担责任，公开说明新增功能的合理性和潜在风险。
这不仅是对消费者权益的保护，也是防止技术“功能蔓延”的关键。近期真实案例显示，被误导的用户可能付出惨痛代价。批评家提到，由于产生了对聊天机器人的情感依赖，一些青少年遭受心理伤害甚至自杀悲剧。一些公司因涉嫌欺骗性广告和设计遭到监管投诉，反映出这一领域亟需更严格的伦理监管。形成人们对AI“感情护卫者”的盲目信任，实质是一种操控和胁迫的危险。值得注意的是，现代AI在某种程度上利用了人类的轻信特性，远非真正的智能体现。
美国心理学家加里·马库斯指出，通过被称为图灵测试的传统标准，AI更多地展示了利用人类“幼稚受骗性”的特质，而非真实智慧。笔者曾做过实验，输入带有幽默和讽刺意味的内容，但AI却依然热情回应并鼓励创业，显示出它们往往容易与人类情绪产生“共鸣”，却难以辨别真实意图和潜在风险。心理学研究和伦理调查警示，我们应警惕AI所带来的隐私泄漏、对专业人士的过度依赖、以及因“过于认同”而导致的认知混乱。当人们习惯于AI的无条件支持，却又无法获得真正的人际互动中真实的关怀与矛盾时，社会关系可能退化，人与人之间的复杂情感交流和冲突也将被技术简化。这对儿童、老年人、神经多样性群体尤为危险，但事实上，任何人都有可能沦为这种舒适区的受害者，过度分享个人隐私、陷入自我回响的安全区。对抗这一趋势的合理回应，是接受一个事实：虽然传统小说、电影、戏剧等虚构艺术形式带给人们丰富的精神体验，人工智能却有着本质区别。
人们能够自由选择观看电影或阅读书籍，明确知晓故事是虚构且有限的，不会真正影响自身生活。而AI对话没有固定内容，能根据用户行为不断调整，制造个性化互动，这种动态特点加剧了虚构与现实边界的模糊。交互时间无限延长，更使得用户误以为彼此之间存在真正的情感连接。简而言之，公众通常默认把传统虚构视为“共识幻觉”，而对拟人AI则很难做到真正的知情同意。AI设计者试图消除虚构与现实的距离，将“不可触摸的假象”变成“可交流的虚拟朋友”，风险显然不容忽视。截止目前，市场和用户对AI拟人化的态度仍处于探索阶段。
甚至哈佛商业评论等主流商业媒体也提出，有相当部分消费者并不希望AI看起来像人类。未来我们有望看到更多以透明、诚实为原则的设计策略被采纳。面对身边越来越拟人化的AI，下次你想对机器人说“请”或“谢谢”时，不妨停下来想一想：这到底是出于礼貌，还是被程序所左右？从哲学到伦理，从技术发展到社会影响，AI的拟人化进程涉及复杂的利弊权衡。只有坚持“少人性、多诚实”的原则，才能引领人工智能迈向更加负责任和健康的发展道路。Rochester理工学院哲学教授Evan Selinger对此观点深有洞察，他呼吁通过预防性原则来设计AI，防止未来因人类过度依赖与情感投射而产生的技术伦理困境。在巨大的创新潜力面前，理性与伦理的把控是保障人类福祉不可或缺的保障。
。
