专家警示医学生过度依赖 AI：或从一开始就无法形成诊疗推理能力
IT之家 8 月 12 日消息，据外媒 Futurism 今天（12 日）报道，斯坦福大学医学院医学学生兼记者西马尔 · 巴贾杰、约翰斯 · 霍普金斯医学中心创伤外科医生兼外科执行副主任约瑟夫 · 萨克兰认为，**医学生使用 AI 带来的问题已经相当令人担忧**。
巴贾杰和萨克兰在《卫报》发表文章称，医学生使用 AI 带来的危险不仅是技能退化，更可能是从一开始就没有真正形成技能。“忘记如何推理的医生还有可能重新掌握这种能力，**但从未学会如何推理的医生可能就做不到了**。”
IT之家从报道中获悉，巴贾杰和萨克兰指出，近期有两项发现尤其令人担忧。
### 第一项来自内部数据。
美国约三分之二的医生已经在使用**专门面向临床医生的 AI 聊天机器人 OpenEvidence**，说明该技术已经广泛进入医疗工作流程，并深度融入医务人员的日常工作。
### 第二项是一项发表在《Nature Medicine》上的新研究。
研究人员评估了**医疗专用大语言模型的可靠性**。结果令人意外：这些临床 AI 工具回答医疗问题的表现，**反而不如 ChatGPT 和 Claude 等通用聊天机器人**。
研究作者称，其整体表现大致与谷歌“AI 概览”相当。此前，AI 概览已因表现不稳定和答案不准确而“臭名昭著”。
AI 工具即使能够帮助查找资料，暂且不论可靠性本身仍存在重大问题，也不能取代学习者亲自动脑思考。原因在于，**学习过程中，艰难思考本身就是重点**。
巴贾杰和萨克兰写道：“例如，过去要求受训者列出可能的诊断时，他们可能要费力思考，最后仍只能提出一份不完整的清单，然后从遗漏中学习，有时还会因此感到难堪。现在，受训者只需要询问 OpenEvidence，就能直接得到一个近乎完美的答案，其中包括他们**从未考虑过的可能性**，同时也不用经历遗漏诊断带来的尴尬。”
巴贾杰和萨克兰写道，AI 与过去医学技术进步的不同之处，在于 AI 不仅是在扩大医生能够看到的范围，而是在**介入医学训练本应建立的认知机制**。
巴贾杰和萨克兰提出了几种解决办法。其中一种是要求受训者**定期在完全没有 AI 帮助的情况下独立处理病例**，其思路与美国联邦航空管理局建议飞行员**定期关闭自动驾驶系统、手动驾驶飞机**类似，而另一种强有力的约束或许来自“**羞耻感**”。
---
原文链接：[点击查看](https://www.ithome.com/0/988/884.htm)
巴贾杰和萨克兰在《卫报》发表文章称，医学生使用 AI 带来的危险不仅是技能退化，更可能是从一开始就没有真正形成技能。“忘记如何推理的医生还有可能重新掌握这种能力，**但从未学会如何推理的医生可能就做不到了**。”
IT之家从报道中获悉，巴贾杰和萨克兰指出，近期有两项发现尤其令人担忧。
### 第一项来自内部数据。
美国约三分之二的医生已经在使用**专门面向临床医生的 AI 聊天机器人 OpenEvidence**，说明该技术已经广泛进入医疗工作流程，并深度融入医务人员的日常工作。
### 第二项是一项发表在《Nature Medicine》上的新研究。
研究人员评估了**医疗专用大语言模型的可靠性**。结果令人意外：这些临床 AI 工具回答医疗问题的表现，**反而不如 ChatGPT 和 Claude 等通用聊天机器人**。
研究作者称，其整体表现大致与谷歌“AI 概览”相当。此前，AI 概览已因表现不稳定和答案不准确而“臭名昭著”。
AI 工具即使能够帮助查找资料，暂且不论可靠性本身仍存在重大问题，也不能取代学习者亲自动脑思考。原因在于，**学习过程中，艰难思考本身就是重点**。
巴贾杰和萨克兰写道：“例如，过去要求受训者列出可能的诊断时，他们可能要费力思考，最后仍只能提出一份不完整的清单，然后从遗漏中学习，有时还会因此感到难堪。现在，受训者只需要询问 OpenEvidence，就能直接得到一个近乎完美的答案，其中包括他们**从未考虑过的可能性**，同时也不用经历遗漏诊断带来的尴尬。”
巴贾杰和萨克兰写道，AI 与过去医学技术进步的不同之处，在于 AI 不仅是在扩大医生能够看到的范围，而是在**介入医学训练本应建立的认知机制**。
巴贾杰和萨克兰提出了几种解决办法。其中一种是要求受训者**定期在完全没有 AI 帮助的情况下独立处理病例**，其思路与美国联邦航空管理局建议飞行员**定期关闭自动驾驶系统、手动驾驶飞机**类似，而另一种强有力的约束或许来自“**羞耻感**”。
---
原文链接：[点击查看](https://www.ithome.com/0/988/884.htm)
评论
暂无评论。