您当前的位置 : 内蒙古新闻网 > 新闻中心 > 思享 > 热点评说

当AI接手商品上架,算法岂能“越俎代庖”

  据新民晚报报道,近日,江苏网友顾女士发现自己的闲鱼账号待售页面上,竟然挂着一件陕西历史博物馆的镇馆之宝,标价6000元。全程由AI自动配文、定价并发布,但她这个账号主人压根不知情。平台客服回应,是因为这张照片曾被上传至“闲鱼空间”,从而触发了商品上架功能。

  更让人心里发毛的是,这种事不是个例。有用户晒自家宠物狗的照片,被系统估价750元挂出,大半夜收到买家询价。有用户随手传进“闲鱼空间”的照片被自动生成商品,还被人拍下了,最后只能退款了事。

  针对事件,平台客服回应说,这是“出于好意,想拓宽用户的发布渠道”。可未经同意就读相册、未经确认就上架、未经授权就标价出售,这一套操作下来,用户硬生生被迫成了供货商。嘴上说是“好意”,但骨子里却把用户的资产当成了自己的流量筹码。

  问题不在AI技术本身,而在于谁说了算。闲鱼空间的逻辑是,只要用户上传了照片,系统就默认用户愿意卖。哪怕照片是在博物馆拍的,哪怕内容是文物或者自家宠物,AI都能自己识图、估价、配文、上架,全程不用用户点击确认。从上传照片到商品挂出,平台没有任何弹窗提醒“即将上架售卖”,更没问过用户到底想不想卖。一键之间,用户的隐私和自主权全交给了算法。

  算法替用户做主,这本身就踩了红线。任何涉及隐私和安全的数据处理,必须由用户自己拿主意,不能让算法代劳。闲鱼的做法不仅越界,还可能侵犯用户的个人信息权、肖像权,以及知情权和自主选择权。

  潜在的社会风险同样值得警惕。大量文物照片被系统自动上架,表面看是闹剧,背后却可能给不法分子递上一块“挡箭牌”。他们大可甩锅,说这不是主动售卖,只是后台自动上传。一个标榜创新的功能,就这样沦为违法行为的遮羞布。有业内专家指出,涉及用户数据的手机应用功能,上线前都必须遵循“默认关闭、明确告知、逐步授权”的原则。可这次,规则没说清,确认没弹窗,标的物没核验。三道关卡,关关失守。

  平台承认“交互设计有欠缺”,表示会“优化改善”。可这不是改个弹窗就能解决的事。根源在于,平台默认“上传就是授权出售”,这等于直接拿掉了用户的知情同意权。不管初衷是“方便”还是“创新”,但凡涉及用户的隐私和财产,都必须得到用户的明确授权。

  三道防线接连失守,用户成了最后的“守门人”。用户只能自己多个心眼,关掉不必要的相册权限,定期检查账号授权和发布列表。但把防风险的担子全压在用户身上,并不公平。平台才是规则的制定者,也是最大受益者,该负的责任一点也跑不掉。

  算法可以帮忙,但不能越权。技术可以图方便,但不能替人做主。闲鱼这次翻车,说到底是一些互联网企业的老毛病:总想替用户省事,却忘了先问一句“您愿意吗”。希望下次平台推出任何“好意”之前,请先把选择权还给用户。这不是苛求,是底线。(绵一评)

编辑:刘晓君
审稿主任:奥妮莎 章颖慧
审稿总编:杨永利

内蒙古新闻网版权与免责声明:

①凡本网注明“来源:内蒙古新闻网”的所有作品,版权均属于内蒙古新闻网,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:内蒙古新闻网”。违反上述声明者,本网将追究其相关法律责任。

②凡本网注明“来源:XXX(非内蒙古新闻网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

③如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。