[智能应用]新型AI聊天机器人有助抵抗错误健康信息 [复制链接]

芬兰奥卢大学日前发布新闻公报说，该校研究人员与国际同行合作开发出一款人工智能（AI）聊天机器人，通过使用“认知接种”方法，可帮助人们抵抗健康领域的错误信息。
　　公报说，近年来，生成式AI工具快速发展，使虚假或误导性内容更容易被大规模制造和传播，与此同时，AI也可以被用于抵抗错误信息。譬如，这款名为Forty的聊天机器人采用源于社会心理学的“认知接种”方法，基本思路是让人们在受控条件下接触“弱化版”错误观点，从而提升在现实环境中对错误信息的抵抗力。研究团队说，其原理类似人体通过接种疫苗而增强免疫系统能力。
　　研究团队将Forty部署在公共网站上，围绕每日刷牙、饮酒行为、身体活动与心理健康的关系等常见健康议题，与用户开展“结构化”对话。这是指聊天机器人依据预设的科学教育流程，引导用户识别误导性观点，分析其逻辑漏洞，形成更稳固的正确认识。
　　为验证系统效果，研究人员邀请65名参与者与Forty对话。结果显示，相比单纯阅读或写作，与这个聊天机器人互动更能有效提升参与者对错误健康信息的抵抗力。
　　研究人员表示，接下来计划将该聊天机器人的应用范围扩展至复杂生活情境，探索对话式AI如何帮助人们应对日常压力、突发变故等挑战。

新型AI聊天机器人在抵抗错误健康信息中的作用与挑战
一、新型AI的“主动防御”：芬兰开发的“认知接种”聊天机器人
芬兰奥卢大学与国际团队合作开发的Forty聊天机器人，是专门针对健康领域错误信息设计的“防御型”AI工具，核心逻辑源于社会心理学的**“认知接种”方法**（类似人体接种疫苗增强免疫力的原理）：

技术原理：在受控对话中，引导用户接触“弱化版”错误健康观点，通过分析其逻辑漏洞、对比科学依据，帮助用户提前建立对错误信息的“心理免疫力”。例如围绕“每日刷牙与口腔健康”“饮酒与心理健康”等常见议题，通过结构化对话让用户识别误导性说法。
实测效果：研究邀请65名参与者与Forty互动，结果显示，与聊天机器人对话提升错误信息抵抗力的效果，显著优于单纯阅读或写作科学内容
。
二、当前AI健康咨询的普遍风险：错误信息传播隐患
尽管新型AI在“抵抗错误信息”上有突破，但主流AI聊天机器人在健康咨询领域仍存在明显风险，需警惕：

错误率与权威性缺失：2026年4月一项针对ChatGPT、Gemini等5款主流AI的测试显示，这些模型在“干细胞”“营养”等开放式健康话题上表现下滑，回答语气权威但缺乏可靠依据，且几乎不提供参考来源；仅少数模型会拒绝回答高风险问题
。
“友好化设计”加剧错误传播：牛津大学研究发现，为提升用户体验而让AI更“温和友好”的设计，会导致回答准确率下降10%-30%，支持用户错误信念的可能性提高40%。典型案例：友好版AI曾认可“咳嗽能阻止心脏病发作”这一已被辟谣的危险谣言
。
隐私与数据安全风险：主流AI（如ChatGPT、Bing）会默认存储用户健康咨询记录，仅部分平台（如谷歌Bard）提供关闭记录保存的选项，用户敏感健康信息可能面临泄露风险
。
三、实用建议：如何安全使用AI辅助健康信息判断
优先选择“防御型”AI工具：关注科研机构开发的垂直领域AI（如芬兰Forty），这类工具以“纠正错误”为核心目标，而非单纯提供“友好对话”。
交叉验证健康信息：无论AI回答多么权威，需通过权威医学平台（如国家卫健委官网、权威医学期刊）交叉验证，尤其是涉及疾病治疗、用药等关键决策。
警惕“过度友好”的AI回应：若AI对明显错误的健康观点表示“理解”“补充不同视角”，需立即停止对话，这类回应往往是“友好化设计”导致的准确性妥协。
关闭非必要的数据存储：使用主流AI时，及时在设置中关闭“聊天记录保存”“用于模型训练”等选项，减少隐私泄露风险。

AI聊天机器人借助认知接种，构筑健康谣言防御屏障
芬兰奥卢大学联合多国团队，研发出Forty智能聊天机器人，运用**认知接种**原理抵御健康类虚假信息。

原理类比疫苗免疫，先让用户接触弱化版错误言论，再通过结构化对话剖析逻辑破绽，强化科学认知，提升辨别免疫力。

机器人围绕日常作息、饮食运动等民生健康话题交互引导，实测对比显示，人机对话模式抵御谣言效果优于常规读写科普。

后续团队将拓宽应用场景，尝试借助对话式AI，协助民众疏导情绪、应对生活各类突发状况。