随着人工智能技术的飞速发展，它已经逐渐渗透到航空、医疗、核能等众多关键高风险领域，为人类工作带来了前所未有的辅助和效率提升。然而，令人意想不到的是，人工智能在这些高风险场景中并非总是助力，人类专家在接入AI辅助后表现反而可能大幅下降。这种现象引发了对人机协作机制及安全框架的深刻反思，也为我们正确引导AI技术应用提出了严峻挑战。 从软件开发到安全关键的领域，研究显示AI辅助不仅难以保证效率提升，反而可能导致任务完成时间延长及关键判断失误。举例来说，METR非营利组织发布的一份深入研究表明，软件开发者虽普遍认为自己的工作在AI工具帮助下更高效，却实际上花费了更多时间。这一发现折射出人类对AI协作影响的认知偏差。
在航空业中，AI工具对飞行安全的影响尤为重要。空客或波音等客机依赖AI监测气象变化，尤其是对突发微型下击暴流的预警至关重要。然而模拟案例中，AI系统未能及时监测到这种剧变，飞行员和自动驾驶系统没能得到预警，导致飞机在接近降落阶段迅速失去高度。此时飞行员必须在极短时间内进行大量操作，承受高强度工作负荷，最终虽然避免了事故，但却暴露出AI误判带来的潜在灾难风险。 医疗领域同样面临挑战。某些夜班护士仰赖AI辅助仪表判别患者风险等级。
尽管AI能实时评估生命体征并发出预警，但研究显示，当AI未能捕捉到某些缓慢恶化的病情变化时，护士可能因信赖AI的“低风险”标签而忽视真正的危险，错过了关键的抢救时机。心率缓慢攀升的趋势没有引起足够注意，最终导致患者病情突发恶化，此类事件提醒我们AI辅助的判别错误对人类判断的负面影响。 核能控制室场景同样令人警醒。一家核电厂引入了AI增强的告警系统，旨在筛除假警报，聚焦真正紧急的设备异常。然而AI系统在监测冷却液压力逐渐下降时误判其为无害，屏蔽了潜在问题的信号。等待人类工程师的响应时，故障迅速蔓延，最终虽然避免了核反应堆部分熔毁，但设备受损导致厂区运行中断数周。
此事例充分展现了AI辅助可能掩盖真实隐患，降低人类操控的敏锐度和应变能力。 以上案例揭示了人工智能并非孤立存在，而是深度整合于现有人类工作流程、决策体系及技术环境中的核心问题。传统安全框架如美国国家标准与技术研究院（NIST）AI风险管理框架，以及欧盟AI法规第14条，虽然强调人类监督，但未能深入探讨AI如何塑造人类决策机制，导致潜在风险未被有效察觉。 现有许多安全评估方法单独评价AI或人类表现，或者仅用单一指标如“平均绩效”来衡量协作效果，但这些做法往往掩盖了协作中的隐患。平均表现的提升或许掩盖了罕见而致命的失误频发。这些“黑天鹅”事件往往造成不可挽回的后果，因此单纯的指标化评估显然不足以保证安全。
针对这一局限，研究团队提出了“联合活动测试”（Joint Activity Testing）方法，强调在不同复杂度及具挑战性的场景中综合评估人机协作表现。这种多维度测试能够揭示AI辅助在表现突出、中等及低迷三种状态下对人类判断力的具体影响，帮助决策层发现潜在风险点，进而针对性地优化设计和训练，提升整体系统的鲁棒性和安全性。 以医疗为例，研究中450名护理学生及数十名执业护士使用AI预警工具评估重症监护病例。AI对患者需紧急处理的可能性给出百分比预测，并以注释方式标明生命体征相关信息。研究显示，当AI预测准确时，护士的判断力提升幅度高达53%至67%，显著优于无AI辅助情形。然而当AI预测错误时，护士判断力反而骤降96%至120%。
这一严重失误多数源于护士无法可靠地识别AI预测的准确度，导致错误判断被放大。 AI辅助改变了护士分析病情时的思维模式，非单纯因其放弃努力或机械依赖，而是深层认知受到人工智能输出的引导，产生了“认知拖拽”效应。该现象表明即使人类经验丰富，熟练使用AI工具，依然无法完全避免被误导。 这类表现出人意料的协同效应提示我们，任何AI辅助技术在投用前都必须通过真实人机合作情境中的严苛测试。试验需要覆盖AI表现最佳、一般及低效三类情境，以识别潜在的风险，并切忌将合作绩效简化为单一平均分，这样可能掩盖隐藏的罕见故障。 尽管联合活动测试成本较高，步骤繁复，但它是最为可靠的方式，能够全面衡量人机团队在动态挑战中的表现。
这种测试方式强调了应对AI错误的认知弹性和修复能力，促使人工智能设计者与使用者更加注重人机互动的细节及复杂性。 研究还指出对故障单一依赖补丁修复不可取。现实环境中的任务复杂多变，不可能覆盖所有潜在故障场景，频繁打补丁不仅难以根治问题，还可能引入新的漏洞。相反，增强专员识别与应对AI失误的能力、改进系统的可解释性和可监控性是保障整体安全的关键所在。 面对这些挑战，推动测试工具的普及和简化变得尤为重要。开发更容易操作的软件平台和标准化测试流程，将使更多机构提早介入AI系统的联合活动测试阶段，降低调试成本和时间，为后续完善奠定基础。
此外，跨领域合作与知识共享也将催生更加成熟的人机协同安全文化。航空、医疗、核能等行业的安全专家将能借鉴彼此经验，携手打造符合人类认知特征且具韧性的AI辅助系统。 归根结底，AI并非单纯工具，而是一种革新人类认知和工作方式的力量。在高风险设置中，忽视AI对人类判断风格和决策逻辑的深远影响，是难以承受的危机。只有将人类智能与人工智能看作一个整体系统，通过科学严谨的测试和设计，才能真正发挥协同优势，保障安全与效率。 随着AI技术的不断进步和应用场景的拓展，未来人机协作将愈加普遍且复杂。
建构稳健且可信的协作体系，不失为AI时代提升人类工作质量和生命安全的关键所在。我们应力促相关机构加强人机协同测试研究，完善监管标准，推动从技术、心理到制度的多维度协同，迎接一个更加安全可靠的智能未来。
