波士顿大学的一项研究表明,当人工智能被视为“同事”而非工具时,人类的审查能力可能会减弱。研究人员Emma Wiles及其同事发现,在某些情况下,人类对AI生成内容的信任度会显著提高,从而可能导致对结果的审查力度下降。
该研究分析了AI在不同场景下的应用,发现当AI被嵌入到工作流程中并被赋予类似“同事”的角色时,人类的判断力会受到影响。具体而言,研究指出,有16%的受访者倾向于过度依赖AI的建议,而31%的人则在AI提供信息时降低了警惕性。此外,有23%的受访者表示,他们会直接采纳AI的输出,而无需进行深入的核查。
研究还强调了AI Agent在协助内容创作和代码生成方面的潜力,但同时也警告了潜在的风险。例如,在AI Agent生成的代码中,98%的错误都被人类忽视了,这表明人类在审查AI产出时可能存在盲点。尽管AI在某些任务上表现出色,但研究认为,最终的责任仍需由人类承担,尤其是在涉及关键决策和潜在风险的领域。
研究人员建议,企业在引入AI时,应明确AI的角色定位,并建立有效的监督和审查机制。他们强调,AI应被视为增强人类能力的工具,而不是替代人类判断的实体。研究还提到了AI Governance的重要性,指出需要制定相应的政策和指导方针,以确保AI的负责任使用,并防范可能出现的负面影响。