• RSS订阅 加入收藏  设为首页
媒体报道

以后ChatGPT解除最后“封印”,AI能帮你点外卖、买衣服、订机票了?

时间:2023/3/25 23:24:36  作者:搜狐科技  来源:搜狐科技  查看:6692  评论:0
内容摘要:或增加不法分子欺诈、误导风险ChatGPT在给人们带来更全面功能体验的同时,风险也随之而来。插件可能会采取有害或无意的行动,增加不法分子欺诈、误导或虐待他人的能力,从而增加安全挑战。通过增加可能的应用范围,插件可能会增加因模型在新领域中采取的错误或未对齐操作而产生负面后果的风险。...

以后ChatGPT解除最后“封印”,AI能帮你点外卖、买衣服、订机票了?

或增加不法分子欺诈、误导风险

ChatGPT在给人们带来更全面功能体验的同时,风险也随之而来。

插件可能会采取有害或无意的行动,增加不法分子欺诈、误导或虐待他人的能力,从而增加安全挑战。通过增加可能的应用范围,插件可能会增加因模型在新领域中采取的错误或未对齐操作而产生负面后果的风险。例如,ChatGPT在对用户旅行需求理解不到位的情况下,错误的预定了酒店或机票,造成的后果将会给用户带来困扰。

然而,大家也不必过度担心这些风险。搜狐科技从OpenAI官方了解到,OpenAI研究人员已经在内部和与外部合作者进行了演练,测试了许多可能的相关场景。此外,OpenAI开发人员正在设置复杂的风险信息识别功能,对于垃圾邮件、欺诈信息等不良内容进行及时拦截。

搜狐科技分析,从当前OpenAI产品迭代的方向上来看,ChatGPT等AI智能产品将向更为包容的聚合功能平台发展。换句话说,单一功能的AI产品已无法满足人们的需求,兼容更多不同功能插件不仅为ChatGPT本身提供功能扩展的机会,同时这些后加入的插件也丰富了ChatGPT语料训练库,当语料训练库数量级达到另一高度时,ChatGPT将会出现“智能涌出”的表现,甚至生成超越人们预期和猜想的答案。

这意味着,ChatGPT不断带来的智能风暴正在席卷全球市场,人们生活方式及市场经济也在悄然受到影响。