6-31 · 反面清单
不要指望靠 AI 聊天机器人自己判断病情和法律问题，看病、打官司、花大钱之前，把它说的依据找到原文核一遍
说人话
把完整病例交给 AI，九成以上它能认出是什么病。但普通人拿它问症状，认出病的反而比自己上网查的人少，该不该去急诊也没判得更准。问法律问题，通用 AI 至少 58% 的回答有编的内容，还会顺着你问题里的错误说法往下讲。
成本
不花钱。每次核对要多花几分钟到半小时。让 AI 写出它依据的法条、指南或论文，你自己打开原文，找到那句话。要改的习惯是，别因为它说得肯定就照做。
收益
先看看病。2026 年 Nature Medicine 发表了一项随机分组的试验，1298 名英国普通人参加，方案事先登记过。每人拿到两个编好的病例，要判断是什么病、该去急诊还是在家观察。一部分人用 AI 聊天机器人帮忙，用的是 GPT-4o、Llama 3、Command R+。对照组用自己平时的办法，多数是上网搜，或者看英国国家医疗服务体系（NHS）的官网。把完整病例直接交给 AI，它 94.9% 的情况能认出相关的病，56.3% 能判对该去哪看。普通人用同样的 AI，认出相关疾病的不到 34.5%，判对去哪看的不到 44.2%。对照组认出相关疾病的几率是用 AI 的人的 1.76 倍（95% CI 1.45–2.13，可信范围）。认出危险信号类重病的几率是 1.57 倍（1.28–1.92）。判断该去哪看，两边差不多。作者翻了对话记录，问题出在两处：用户没把症状说全，AI 提到了对的病，用户却没采纳。再看法律。一个美国研究团队 2024 年用 ChatGPT 4 等公开模型，问美国联邦法院的判例。ChatGPT 4 有 58% 的回答有编造，Llama 2 高到 88%。编造指和法律事实对不上的内容，论文把它叫「幻觉」。模型分不清自己哪句是编的。用户问题里带着错误的法律前提时，它常常照单全收。同一团队 2025 年又测了律师用的专业法律 AI 工具。这些工具号称不会编，实际 17% 到 33% 的回答有编造。它看起来划算，是因为 AI 随叫随到、不收钱，说话又像医生律师一样肯定
原文怎么说
Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. <https://doi.org/10.1038/s41591-025-04074-y>；Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. <https://doi.org/10.1093/jla/laae003>；Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. <https://doi.org/10.1111/jels.12413>；Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. <https://arxiv.org/abs/2509.04664>；反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. <https://doi.org/10.1001/jamainternmed.2023.1838>
备注
争议。2023 年一项研究从美国论坛抽了 195 个患者提问，让医疗人员不看来源打分。78.6% 的评分认为 ChatGPT 答得比医生好。但它比的是回答写得好不好，没看提问的人最后判断对没有。2026 年那项试验用的是 2024 年的模型，新模型可能更强。不过同一项试验也发现，AI 单独考试的成绩预测不了普通人用它的效果。AI 为什么会编，OpenAI 的研究人员 2025 年在一篇未经同行评审的论文里解释过。训练和打分的方式奖励「猜一个答案」，答「不知道」拿不到分，所以它没把握时也说得很肯定。核对的办法是让它写出法条名称和条号、指南或论文题目，你去官方网站打开原文找那句话，找不到就当它没说过。提问时别把自己的结论写进去，问「这种情况法律怎么规定」，别问「这种情况我是不是赢定了」。突然嘴歪、一侧没劲、胸口压着疼这类信号，别先问 AI，直接打 120。见第 13 节第 3 条（嘴歪、一侧胳膊没劲）和第 13 节第 7 条（胸口压着疼）。打官司没钱请律师的，见第 7 节第 3 条（申请法律援助）。收益定小，因为只有「认没认出病」这类中间指标，没有少死人的数字。受益人是你自己和家里人。
参考文献
相关条目
第 6 节其余 34 条
- 6-1不要为了长寿或防心血管病吃复合维生素
- 6-2不要为了预防心血管病吃普通鱼油
- 6-3不要为了长寿给不缺维生素 D 的人补维生素 D
- 6-4不要为了防癌吃抗氧化补剂（β 胡萝卜素、维生素 E、维生素 A）
- 6-5不要指望氨糖（葡萄糖胺）/软骨素治膝关节炎
- 6-6不要靠维生素 C 预防感冒
- 6-7不要给没有症状的自己做「全身 PET-CT」或「肿瘤标志物套餐」
- 6-8不要指望手环/手表的运动量化帮你减重
- 6-9不要为了「更健康」花溢价买有机食品
- 6-10不要花大钱买保健品、膏方、滋补品来「调理身体」
- 6-11不要在没有肠道问题时长期吃益生菌
- 6-12不要为了「增强免疫力」逼自己洗冷水澡
- 6-13不要买排毒、清肠、酵素、碱性水这类产品
- 6-14不要为了凑够「每天 8 杯水」强迫自己喝水
- 6-15不要花钱算命、看塔罗、看星座来做决定
- 6-16不要买防蓝光眼镜来「保护视力」，也不要相信「对着屏幕干几个月眼睛就废了」，但眼睛胀痛发红要当急症
- 6-17不要把献血当保健：「排毒、降血脂、防心梗」没有随机试验支持，频繁献倒是真会缺铁
- 6-18不要靠通用体检套餐防病，按年龄性别做那几项有证据的筛查
- 6-19不要因为体检查出尿酸高、但从没痛过，就开始吃降尿酸药
- 6-20不要因为体检查出胆囊结石、但从没疼过，就去预防性切胆囊
- 6-21不要为了防肾结石把钙戒掉
- 6-22不要为了「转运」「招财」「养人」买水晶、手串、貔貅这类物件
- 6-23不要指望买东西改善心情或身份感
- 6-24不要为了「在周围人里往上挪一档」多花钱换房、换车、换圈子
- 6-25不要相信「意志力像肌肉，用一会儿就没了」
- 6-26不要指望吃早餐或 16:8 轻断食帮你控制体重，吃饭时间挑你能长期坚持的
- 6-27不要相信「手淫伤身」「戒色才能变好」，真正要看的是有没有耽误睡觉、工作和关系
- 6-28不要花钱做「性取向矫正」「同性恋治疗」，也不要把家里人送去
- 6-29不要指望学会「正确搬运姿势」、上搬运培训就能防腰痛，要减的是搬的重量和次数，平时多锻炼
- 6-30不要指望骨折之后猛补钙、喝骨头汤能让骨头长得更快
- 6-32不要因为「人随时会死，早点把钱花完才快乐」就不存钱，三十岁的人约九成能活到六十岁
- 6-33不要因为中老年人膝盖慢慢疼起来（骨关节炎、退化性半月板撕裂）就做关节镜清理或切半月板，先减重、练大腿肌肉
- 6-34不要指望长期失眠靠吃褪黑素治好，它平均只让人早睡着约 7 分钟，先做失眠的认知行为治疗
- 6-35不要因为感冒、普通发烧就要求输液，也不要在换季时去输液「冲血管」「通血管」