用AI鉴别毒蘑菇，结果人进了ICU……AI到底是如何看世界的？

　　详情：最近，有两个新闻引起网友关注。浙江一男子采野蘑菇，用AI鉴别“验毒”，认证为无毒后放心下锅，导致急性肾衰竭和横纹肌溶解，被送进ICU。香港杨女士发现家人炒熟的海鲜里混有一只陌生小螃蟹，因外形少见心生疑虑，用AI查询识别发现是剧毒的红斑斗蟹，她果断整盘倒掉，逃过一劫。

　　同样是AI工具，为什么一个险些酿成悲剧，一个成功避险？

　　先说结论：AI看到的并不是物体的“概念”，而是像素的统计规律。它给的答案仅供参考，不能作为最终依据。

　　一张照片，在AI的认知里就是一堆数字——每个像素由RGB三个数值组成，一张普通照片可能有几百万个数据点。AI通过卷积神经网络层层提取特征：浅层看边缘、颜色块，中层组合成眼睛、车轮，深层才认出人脸、汽车。AI根本不“理解”蘑菇是什么、毒素是什么。它只是在你拍的照片和数据库里几万张蘑菇图片之间，找“像素长得最像”的那一个。剧毒的野蘑菇和普通食用菌，在照片上可能就差一丁点儿，线暗一点、角度偏一点、泥土挡一下，AI立马抓瞎。更致命的是，AI只能看表面，检测不了毒素。你让一个只看过图片的“人”去鉴定蘑菇能不能吃，这事本身就不靠谱。

　　AI适合做什么？辅助学习、获取参考信息，就像用搜索引擎查资料，AI给你一个参考方向，个人再去核实。

　　AI绝对不适合做什么？替你做涉及人身安全的决定。野生蘑菇能不能吃、这药能不能吃——这些问题，AI的答案仅供参考，不能作为最终依据。

　　AI是个好工具，但别把它当成万能的。工具就是工具，决定权永远在你自己手里。