人工智能 频道

达摩院无监督学习论文入选CVPR 2022,算法预训练节省超50%计算资源

  4月7日消息,国际AI顶会CVPR 2022近日公布最新论文入选结果,阿里巴巴共有48篇入选,创历年新高。其中,阿里达摩院在无监督学习领域的研究大幅提升算法训练效率,可减少50%的计算资源消耗以及59.6%的预训练时间。

  CVPR与ICCV和ECCV并称计算机视觉方向的三大顶级会议

  CVPR是计算机视觉领域的三大顶会之一,今年共收到全球 8100多篇论文投稿,最终2067篇被接收,接收率约为25%。官方信息显示,无监督学习是今年最热门的研究方向之一,包括Facebook、Google、卡内基梅隆大学等企业和机构都在此领域都推出了最新成果,阿里巴巴入选的48篇论文也有多篇展示了在该领域的进展。

  不同于传统深度学习,无监督学习无需人力标注的数据即可完成模型的训练,让机器自动寻找数据中的规则,且具有更强的解释性。深度学习三巨头之一Yann LeCun曾表示该技术将带来下一次AI革命,然而目前业界提出的无监督算法框架需要大量机器资源,且算法性能和效率较低,极大地限制了该技术的应用。

  达摩院无监督学习论文入选CVPR 2022

  此次,达摩院在《Unsupervised Visual Representation Learning by Online Constrained K-Means》论文中设计了一种带约束在线聚类无监督学习框架,可解决上述难题。该算法使用图片的单一视图即可进行在线学习,从而大幅节约机器的算力、内存,并减少训练时间。

  在公开数据集ImageNet上的实验结果显示,相比主流无监督算法,达摩院提出的方法可减少50%的计算资源消耗以及59.6%的预训练时间,仅需单机8卡GPU就能达到已有算法16卡的效果,同时精度逼近监督学习模型。未来该方法将应用于达摩院遥感影像分析平台AI Earth的地物分类和目标提取等任务中。

  该论文作者、达摩院高级算法专家钱祺表示:“无监督学习能让AI更有洞察力,是AI走向通用人工智能的重要技术,我们希望通过「降本增效」的创新来助推这一技术的落地。”

  据悉,达摩院在无监督学习、小样本学习等AI基础技术上累积的成果,将逐步通过阿里云对外输出。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0
相关文章