麻省理工学院和MIT-IBM沃森人工智能实验室开发新技术可在部署基础模型

2024-07-19 13:41:42 来源:盖世汽车    阅读量:17837   

盖世汽车讯 基础模型是大规模深度学习模型,已在大量通用、未标记的数据上进行了预训练,可应用于各种任务,例如生成图像或回答客户问题。这些模型是ChatGPT和DALL-E等人工智能工具的支柱,但它们可能会提供错误或误导性的信息,在安全攸关的情况下这些错误信息可能造成严重后果。

据外媒报道,为了帮助防止出现此类错误,麻省理工学院和MIT-IBM沃森人工智能实验室(MIT-IBM Watson AI Lab)的研究人员开发出一种技术,可以在将基础模型部署到特定任务之前评估其可靠性。

研究人员考虑通过一组彼此略有不同的基础模型来实现这一目标,然后利用其算法来评估每个模型学习到的关于同一测试数据点的表示的一致性。如果这些表示一致,则意味着模型可靠。

与最先进的基线方法相比,这种技术能够更好地体现在各种下游分类任务中基础模型的可靠性。人们可以利用这种技术来决定是否可以在特定环境中应用模型,而无需在真实数据集上进行测试。当数据集可能因隐私问题而无法访问时,这可能特别有用。此外,该技术还可用于根据可靠性评分对模型进行排名,从而使用户能够为其任务选择最佳模型。

研究人员Navid Azizan表示:“所有模型都可能出错,但知道自己什么时候出错的模型更有用。对于这些基础模型来说,量化不确定性或可靠性的问题更具挑战性,因为它们的抽象表示难以进行比较。这种方法允许人们量化表示模型对于各种给定输入数据的可靠性。”

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。


Es916
相关推荐
淘麦VIP黑钻会员突破300万,阿里影业高价值用户持续增长

7月19日,淘麦VIP宣布旗下黑钻会员数量已突破300万,电影演出行业高价值用户规模实现进一步跃升。时值成立三周年之际,近日淘麦VIP也迎来了品牌焕新,明确将以"电影更优惠、演出更好抢...

2024-07-19 12:32:14
农机以旧换新“换”出农业生产新潜力

夏粮归仓,成绩亮眼。据国家统计局的数据,今年全国夏粮产量2995.6亿斤,比上年增产2.5%。夏粮收获窗口时间集中在5月下旬至6月中旬,在短暂的窗口期要避开“烂场雨”、干热风等不利影响...

2024-07-19 11:09:09
传祺发力了,推出ES9插电混动车型,能否提升销量?

6月16日,广汽传祺推出ES9插电混动车型,售价区间为22.98-24.98万元。 新车型在外观和内饰设计上延续了现款车型的风格,主要对配置进行了升级,而售价则与之前的Pro版本和M...

2024-07-19 10:47:31
浙商证券资管:旗下产品净值累计下跌39%,投资能力亟待提升

浙商证券资管:旗下产品净值累计下跌39%,投资能力亟待提升) 编者按:近期发布的《国务院关于加强监管防范风险推动资本市场高质量发展的若干意见》指出,全面加强基金公司投研能力建设,丰富...

2024-07-19 09:23:01
平安健康保险奋力谱写“普惠金融”大文章城市定制型商业医疗保险

作为国内专业健康保险行业的先行者,平安健康保险高度重视普惠金融工作,始终把满足人民群众对健康美好生活的期盼放在心上,持续优化普惠型细分人群保险保障,打造普惠产品矩阵,发挥普惠型人身保险...

2024-07-19 08:48:40
享道出行CEO倪立诚:Robotaxi助推出行行业变革发展,

近年来,世界各国都在积极推进自动驾驶商业化进程,我国各大整车厂和网约车企业也早已启动布局,并不断推动自动驾驶走进“寻常百姓家”。享道出行CEO兼享道租车董事长、总经理倪立诚15日表示,...

2024-07-19 07:01:49
东风日产“探陆”又有新成员,价格下调,21.98万起售

为了感谢用户对探陆的信赖与支持,东风日产还带来了价值约6000元的全险购车福利,只需21万级,即可拥有6座大家庭旗舰SUV。 4大“唯一”产品价值,树立大家庭SUV新标杆 在汽车市...

2024-07-19 06:47:30
首届“上海之夏”全球合作伙伴百联首发百万张BAILIANGi

在首届“上海之夏”国际消费季启动之际,百联集团作为“上海之夏”全球合作伙伴之一,也是唯一的商业零售行业合作伙伴,精心组织“上海之夏·百联酷夏潮流节(BailianVoyage)”整合营...

2024-07-19 05:36:29