近日，《Annals of Internal Medicine Clinical Cases》期刊披露一例罕见病例：一名60岁美国男子因完全遵循ChatGPT的饮食建议，三个月后出现严重精神症状被送急诊。这名具有营养学背景的男子为减少氯化物摄入，竟用网购的溴化钠完全替代食盐，最终导致罕见的溴中毒综合征。
医学报告显示，该男子咨询ChatGPT（推测为3.5或4.0版本）后，模型建议”用溴化物替代氯化物”，却未给出健康风险警示。医生后续测试发现，ChatGPT虽提及”需要结合情境”，但未像专业医师那样追问动机或发出警告。三个月内，男子逐渐出现偏执、幻觉等症状，甚至怀疑邻居投毒而就医。化验结果显示其血液指标异常，最终被确诊为溴中毒——这种因长期接触溴化物引发的疾病会损害神经功能，导致精神异常、肌肉失调等症状。
值得注意的是，溴化钠在19世纪曾用作镇静剂，但因毒性效应，美国于上世纪70年代已将其移出非处方药。现代医学界几乎不可能建议用溴化钠替代食盐，这种化合物目前仅限工业清洁用途。住院期间，男子还出现痤疮、皮疹等典型中毒症状，经三周治疗才稳定出院。
OpenAI发言人回应称，其服务条款明确禁止将AI输出作为专业医疗建议。然而，该事件仍暴露大语言模型在医疗建议中的潜在风险。最新研究显示，包括ChatGPT在内的AI模型易产生”对抗性幻觉”，即便技术改进也难以完全避免。这为AI在健康领域的应用敲响警钟——科学信息需要专业把关，任何脱离语境的建议都可能造成严重后果。
原创文章，作者：秋秋，如若转载，请注明出处：https://www.kejixun.co/article/730910.html
