在北京大学第三医院心内科发生的医生与AI处方的争论，引出人们对人工智能日益依赖的现状，接着阐述了依赖AI产生的问题，如“AI幻觉”导致的虚假信息，以及其在不同领域造成的不良影响，还提及了应对措施和未来面临的挑战。
在北京大学第三医院心内科的诊疗室里，一场人机之间的认知博弈正在上演。一位老人坐在那里，眼神中透露出犹豫，他在医生汪京嘉给出的处方和AI生成的处方之间摇摆不定。AI推荐了一种注射药物，因其使用方便，在便捷性上赢得了老人的青睐。然而，汪医生却有着自己的坚持，他始终以循证医学为基石，将患者的长期病情稳定作为首要目标，坚决避免过度医疗的情况发生。这一场小小的争论，其实是当下社会人们对人工智能日益依赖现状的一个缩影。自2025年大模型开放之后，AI就如同潮水一般，迅速渗透到了各个领域。
然而，当人们对AI的依赖逐渐成瘾时，各种各样的问题也接踵而至。其中，“AI幻觉”这一现象尤为引人关注。所谓“AI幻觉”，就是指AI偶尔会生成毫无根据的虚假信息。在股市分析这个领域，投资者小宋就有过深刻的体会。他从AI那里获取的报告中，竟然夹杂着无效的财务预测，甚至还有虚构的政府文件编号。这些虚假信息就像一个个隐藏的陷阱，稍不留意，投资者就可能会陷入财务危机之中。而在自动驾驶领域，开发者刘璐的团队在测试过程中也发现，AI时常会将路面上的光影误判为障碍物，从而导致自动驾驶系统频繁误触发，给行车安全带来了潜在的威胁。
这不仅仅是一场关于信息真伪的简单较量，更是人类与AI在认知层面上的激烈碰撞。不可否认，AI的强大功能让很多工作流程得到了极大的简化。就像从事网络安全检测工作的王贺，自从引入AI之后，他的工作效率显著提高。但是，AI可塑性强的输出方式也让人们不得不对其生成的信息保持高度警惕。
面对这些问题，一些从业者积极呼吁建立用户纠错机制。通过这个机制，用户可以在与AI交流的过程中，及时反馈AI输出的错误信息。这样做不仅能够减少错误的发生，还能帮助优化AI的表现，使其变得更加智能和可靠。行业专家也发出了警示，他们提醒人们不能盲目地依赖AI看似专业的建议。在使用AI的过程中，我们必须保持独立的思考能力，这样才能避免被虚假信息所迷惑。
随着AI在多个领域的广泛普及，如何在确保信息准确性的前提下，充分发挥人机协作的优势，将成为我们未来必须要面对的重大挑战。作为AI的使用者，我们在与AI进行互动时，要时刻保持警觉。学会通过交叉验证信息来源的方法，来确保我们获取的知识是可靠的。AI的出现，确实为我们的生活带来了诸多便利，但只有在正确使用的情况下，它才能真正发挥出应有的价值。
本文通过讲述北大三院心内科的人机争论，揭示了人们对AI过度依赖的现状，阐述了“AI幻觉”等依赖AI带来的问题，提出建立纠错机制等应对措施，强调使用者要保持独立思考和警觉，指出未来需在确保信息准确的基础上发挥人机协作优势，让AI正确发挥价值。
原创文章，作者：小耀，如若转载，请注明出处：https://www.xiaoyaoxin.com/archives/20.html
