袁岚峰：大模型它有一个非常严重的问题，很多人说叫做幻觉，是吧？因为现在好多人，他就直接去问人工智能，说我有什么不舒服，你觉得我患了什么病？

　　郑冶枫：对。

　　袁岚峰：但是，这样可靠吗？

　　郑冶枫：现在是这样的，人工智能不允许代替医生直接给患者做建议——你应该吃什么药，做什么。所以即使我答案给得很好了，也需要医生确认。他点击一下，才能够发给客户（患者）。因为医学是壁垒很高的，有些词汇、有些专业术语，你自己理解可能会有偏差。所以你可以去问一些问题，可是最终我觉得，由医生去确认一下，是更保险的。

　　袁岚峰：还有一个非常经典的问题，就是如果出现误诊了，这个责任应该归谁？

　　郑冶枫：至少在目前为止，全世界所有国家，人工智能都是不能独立做判断的，所以现在责任都在医生。所以大家还是可以放心用人工智能产品的。

　　袁岚峰：我们现在怎么能够避免这个问题？

　　郑冶枫：我觉得从技术角度来说，确实现在有很多技术可以缓解幻觉。一种就是检索增强，就是去检索一些相应的文本——医学上叫指南、教科书。相应的知识给到大模型，跟大模型说，你基于这些信息去回答。还有一个就是后校验，就是大模型生成以后，让它再校验一次。或者我有两个大模型，现在多智能体非常火，一个智能体负责回答，一个智能体负责去查文献，查这些证据，确认你这个是不是对的。通过这种迭代、回答方式，可以很大程度上缓解这个幻觉现象。