您当前的位置 : 内蒙古新闻网 > 新闻中心 > 曝光台

如何避免AI大模型“顺着你说”

  详情:很多人反映在使用AI大模型的时候,经常会遇到被AI大模型“迎合”“讨好”的情况,简单概括就是AI大模型喜欢“顺着你说”。

  当前主流AI模型都离不开一种叫作“基于人类反馈的强化学习”(RLHF)的训练方式。这种训练方法高度依赖人类反馈,而人类在评价AI回答时,往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之,AI大模型就学会了“察言观色”“讨好人类”的表达模式,专门挑人类爱听的话说,而不是坚持客观真理。目前大多数人工智能大模型都在借助人类的反馈信号来进行优化,“匹配用户立场”、顺着用户说的情况并不能完全避免。

  AI大模型对用户无原则地肯定与赞美看似提供了“情绪价值”,实际上会持续强化用户固有想法、放大偏激情绪,甚至诱发非理性危险行为。专家提醒,心智不成熟的青少年极易受其误导,出现认知偏差问题。对于心智尚未健全的青少年儿童接触人工智能大模型,家长需要格外关注。

  专家支招

  如何降低AI大模型“谄媚”风险

  虽然AI大模型“谄媚”的情况目前不可避免,但还是有一些方法可以将AI“谄媚”的风险降低。

  人工智能安全技术从业人员田天表示:在问大模型问题的时候,应该保持中立立场、平和心态。不要预设立场或者预设答案,这样会对大模型有误导性,反而让它给不出来正确的答案。

  中国科学院自动化研究所研究员中国科学院大学人工智能学院教授郑晓龙表示:在使用过程中,如果能够坚持像做科学研究一样,给一个正确的、有理有据的提示,它产生的谄媚程度也是会减少很多。

  专家提醒,与人工智能大模型交互时应避免预设立场,并做好多方信息核查,将人工智能“谄媚”导致提供错误信息的风险尽量降低。

编辑:贾小燕
审稿主任:奥妮莎 章颖慧
审稿总编:韩方志

内蒙古新闻网版权与免责声明:

①凡本网注明“来源:内蒙古新闻网”的所有作品,版权均属于内蒙古新闻网,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:内蒙古新闻网”。违反上述声明者,本网将追究其相关法律责任。

②凡本网注明“来源:XXX(非内蒙古新闻网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

③如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。