清华副教授:ChatGPT不能实现非0即1精确计算 存在安全问题

广州刘青云 304 0

快科技4月8日获悉,由中国人工智能学会主办的“人工智能大模型技术高峰论坛”主论坛在杭州萧山启幕。论坛上,清华大学长聘副教授、聆心智能创始人、国家杰青获得者黄民烈发表了演讲。

黄民烈表示,ChatGPT存在不足和缺陷,比如,无法实现数学计算和符号推理,具体表现为无法实现非0即1的精确计算。

由于ChatGPT本质上是一个语言模型,其体现的能力来源于对训练数据的拟合,它的运行机制中并没有显式的逻辑推理与判断,存在准确性、安全性等方面的问题。

此前,澳大利亚墨尔本西部赫本郡的市长就指控ChatGPT对其进行诽谤,因为该聊天机器人在回答问题时错误地声称他是某些丑闻的有罪方。

另外,之前也有不少体验过的用户吐槽,ChatGPT很多时候在遇到无法检索的问题时,会强行编造出来一个回答,看似语法顺畅,但信息全都是胡编乱造。

清华副教授:ChatGPT不能实现非0即1精确计算 存在安全问题-第1张图片-小猪号

【本文结束】如需转载请务必注明出处:快科技

责任编辑:鹿角

标签: ChatGPT 安全

抱歉,评论功能暂时关闭!