华为云AI容器更易使用和运维,AI计算效率提升50%

时间:2019-10-27 来源: 热点专题
?

如今,企业的数字化转型和智能升级必须谈论AI。 AI在人们日常生活中的产品和应用也随处可见,例如智能扬声器,AI摄像头,人脸支付等。但是,数据量的爆炸性增长,复杂的训练框架和算法使许多公司现有的AI计算平台变得捉襟见肘。 33,360的计算效率无法满足企业不断增长的需求,运营和维护成本也很高。华为云AI容器为客户提供了更具成本效益的计算能力,简化了平台的运维和维护,将AI计算效率提高了50%,并加速了AI计算在各个行业的落地和发展。

六年内计算量增加了30万次,AI平台的扩展成本很高

OpenAI分析报告显示,从2012年到2018年的6到20年中,用于AI训练的计算能力增加了300,000倍,是摩尔定律同时增长的五倍。这意味着要保持计算速度恒定,您不能仅依靠芯片功能的升级,还必须增加计算设备的投资。专业的GPU服务器配备了高速网络,高速存储等设备。每单位的平均成本约为一百万,而且价格高昂,这是大多数企业难以承受的。

image.png

系统变得越来越复杂,并且AI平台的操作和维护难度也在增加。

首先,不同的企业需要不同的AI培训框架,模型和加速库。如何在统一平台上管理不同的培训框架和模型,如何快速将脱机培训部署到生产环境提出了巨大的挑战。

第二,人工智能培训和公司业务使用不同的资源管理工具,因此运维团队需要掌握和使用多种资源管理工具,以确保GPU利用率并增加运维复杂性。

此外,GPU由集群中的不同业务团队共享,并且团队之间的资源协调也需要大量工作。

image.png

公共云+容器化:AI计算平台建设的必经之路

面对上述问题,公司已经开始构建基于公共云和容器的AI计算平台。客户可以基于公共云容器平台为客户带来什么好处?

更快地获取计算资源

面对AI计算所需的超大规模计算能力,自建IDC扩展周期长,一次性投资大,维护成本高。公共云可以立即使用,并且可以快速补充企业IDC计算能力的不足。同时,它具有使用成本较低,无需关注基础架构维护,避免闲置资源造成浪费的优点,成为客户扩展计算能力的最佳选择。

减少日常使用以及操作和维护的难度

用户需要构建深度学习环境,需要使用GPU准备机器,安装Python,TensorFlow,GPU驱动程序等。如果要从开发环境转到测试环境,则从测试环境转到构建环境,您需要花费环境迁移过程。努力确保环境一致性。

容器带来的标准化打包功能可以提供出色的解决方案,将相关软件打包到映像中,并一次在不同平台上运行,从而大大降低了安装和部署的复杂性;同时,容器彼此隔离,因此多个培训框架可以共存,并且每个框架可以独立升级而不会影响其他服务,从而减少了日常操作和维护的难度,使客户可以将更多精力集中在AI培训上。上。

但是,我们在与用户沟通的过程中发现,尽管用户认可了公共云+容器模型,但是在公共云上构建了容器化的AI计算平台,对于某些用户来说仍然存在很大的技术门槛。特别是对于尚未触摸容器的用户。华为云推出了用于AI计算场景的容器服务AI容器,并于2018年在华为Connect Conference上发布。今年我们对AI容器进行了升级,该容器具有性能,易用性以及操作和维护功能。很大的进步。

华为Cloud AI容器:更易于使用和操作,将AI计算效率提高了50%

立即使用并保存基础架构操作

AI容器采用华为云容器实例(CCI)作为基础架构层。借助CCI的无服务器架构,用户无需关心主机的创建,管理以及运行和维护,只需要在使用时申请所需的计算即可。可以使用资源(电源类型,CPU内核,内存),消除了基础架构的日常运行和维护,用户可以将更多精力放在AI计算本身上。

高效的排程以快速获取大量计算

AI容器基于新的Volcano平台进行任务调度管理。 Volcano是华为的高性能批处理计算平台,具有更高的调度性能,高达1000个容器/秒的效率和近10倍的高效计算能力。

同时,在Volcano的加持下,AI容器还可以基于拓扑和资源亲和力执行任务调度,并根据该策略将相关任务调度到同一物理节点或第二层网络,这大大改善了人工智能培训过程。任务和数据交互之间的通信效率。

二级计费,节省资源

客户需要在AI培训期间快速重复地进行计算和迭代。他们将经常应用和释放资源。 AI容器使用每秒计费和包裹的计费方法,并且真正使用了按次计费(PAYU)。为了避免客户在打包周期内购买资源后利用率不足而造成的浪费。

开放生态支持主流培训框架

随着AI平台容器化的不断深入,大量的培训框架已经发布了它们的容器版本。该AI容器目前支持近十个主流培训框架,例如Tensorflow,Caffe,Mxnet,Pytorch,MindSpore等。用户可以简化培训代码。在云上迁移。

多种计算能力用户选择更加灵活

AI容器可以提供各种类型的计算资源,例如声腾,坤鹏,x86和GPU。用户可以实现一个平台来运行不同类型的应用程序,并根据应用程序的特性灵活选择计算资源,以实现最佳的资源分配。

华为云AI容器服务现已全面开放并受到欢迎。

-

频道热点
  1. ?中国新闻社,福州,10月20日(林纯音彭丽芳)电影《我和我的祖国》陈凯歌总导演在福州谈到20日票房27亿元的电影时说,电影的成功来自“中国人70岁新中国的发展。”并认可成就。”第六届丝绸之路国际电影
  2. 潮搭搭|强迫办公室男编辑穿上紧身衣。1626我昨天想分享的趋势选择结果.结果如何?点击下面的视频,您将知道
  3. ?10月16日,首届国际医疗保险论坛在北京举行。中国医院协会国际医疗服务委员会副秘书长赵亮,跨境医疗服务机构所长季春燕,QTC中国医疗总监王Kun对行业规范进行了研究。和跨境医疗行业的未来发展趋势。探
  4. ?进入秋天和冬天,衣橱会改变季节,梳妆台上的瓶子和罐子也需要更新。在这个金色的十月秋天,全球最大的特许权电子商务唯品会将与国际知名的护肤品牌巴黎欧莱雅(L'OrealParis)携手打造品牌发售日,为
  5. ?中国新闻社,福州,10月20日(林纯音彭丽芳)电影《我和我的祖国》陈凯歌总导演在福州谈到20日票房27亿元的电影时说,电影的成功来自“中国人70岁新中国的发展。”并认可成就。”第六届丝绸之路国际电影
  6. ?如今,企业的数字化转型和智能升级必须谈论AI。AI在人们日常生活中的产品和应用也随处可见,例如智能扬声器,AI摄像头,人脸支付等。但是,数据量的爆炸性增长,复杂的训练框架和算法使许多公司现有的AI计
  7. ?原标题:美国陆军将在几分钟内部署高超音速武器击中任何地方根据美国国际联合会10月15日的报告,美国陆军协会在其年度大会上获悉,美国陆军有望在2023年之前部署远程高超音速武器系统。美国陆军高超音速项
  8. ?10月20日,世界金尚上海论坛主席团第一次会议在迎泽饭店举行。会议介绍了论坛的背景,会议的主题,筹备情况以及论坛的重点。交流讨论后,会议通过了论坛议程,审议了论坛的五年发展计划,并任命了论坛的首席设
  9. 醉酒是否还在检查酒后驾车?交警:只要您开这种东西,就不能吃。2019路上最可怕的驾驶是酒后驾驶。如今,中
  10. 潮搭搭|强迫办公室男编辑穿上紧身衣。1626我昨天想分享的趋势选择结果.结果如何?点击下面的视频,您将知道
新闻排行
  1. 热!热!热!最近几天,晋江的气温一直在“蒸发”,这与今年台风“达纳斯”5号有关。虽然台风“达纳斯”即?

    热!热!热!最近几天,晋江的气温一直在“蒸发”,这与今年台风“达纳斯”5号有关。虽然台风“达纳斯”即?...

  2. ?这次国务院常务会议指出,有必要继续放宽市场准入,实行统一的全国市场准入负面清单制度,促进“许可证分离”,减少开业手续。-取消实施房地产登记和交易。在窗口接受和并行处理时纳税;严格控制新行政许可的建立

    ?这次国务院常务会议指出,有必要继续放宽市场准入,实行统一的全国市场准入负面清单制度,促进“许可证分离”,减少开业手续。-取消实施房地产登记和交易。在窗口接受和并行处理时纳税;严格控制新行政许可的建立...

  3. 忙碌是常态谈论你不知道的急诊部门新华社北京8月19日电(记者夏可)8月19日是第二届“中国医师日”。在首都医科大学宣武医院急诊科,医生和护士在不到十天的时间内来回穿梭。一分钟内,两辆救护车送来了两名

    忙碌是常态谈论你不知道的急诊部门新华社北京8月19日电(记者夏可)8月19日是第二届“中国医师日”。在首都医科大学宣武医院急诊科,医生和护士在不到十天的时间内来回穿梭。一分钟内,两辆救护车送来了两名...

  4. ?分析国际黄金市场趋势:阳线与下影线,收取连续三个涨幅,高位触及1432,目前从日线分析,下方MA20支撑,连续三天扬阳K线高于MA5并已达到上周的高点。指标MACD绿色能量柱收缩,快速和慢速线死叉,

    ?分析国际黄金市场趋势:阳线与下影线,收取连续三个涨幅,高位触及1432,目前从日线分析,下方MA20支撑,连续三天扬阳K线高于MA5并已达到上周的高点。指标MACD绿色能量柱收缩,快速和慢速线死叉,...

  5. 特斯拉最近有很多材料。8月26日,微博用户

    特斯拉最近有很多材料。8月26日,微博用户...

  6. 香港旅游消费数据下滑,希望社会尽快恢复稳定香港旅游消费数据下滑。人们希望社会尽快恢复稳定新华每日电讯

    香港旅游消费数据下滑,希望社会尽快恢复稳定香港旅游消费数据下滑。人们希望社会尽快恢复稳定新华每日电讯...

  7. 我想在3天前分享原创哟游戏信使在国王的荣耀中,中丹经常会依靠一套爆炸来杀死敌人的C位,但同时他的身体更

    我想在3天前分享原创哟游戏信使在国王的荣耀中,中丹经常会依靠一套爆炸来杀死敌人的C位,但同时他的身体更...

  8. ?在夏天,热量很难承受,特别是在三天内,空调已经成为现代人改变生活的神器。中医有冬病和夏治理论,大众医院的三伏膏具有代表性。三伏膏体借助于春,夏季黄帝内科理论来滋养该病,对阳虚,湿体质,冬季哮喘等一些

    ?在夏天,热量很难承受,特别是在三天内,空调已经成为现代人改变生活的神器。中医有冬病和夏治理论,大众医院的三伏膏具有代表性。三伏膏体借助于春,夏季黄帝内科理论来滋养该病,对阳虚,湿体质,冬季哮喘等一些...

  9. MeNextFive!努比亚强势加入2019硬核之夜给我下一个五个!Nubia足够强大,可以加入2019年的铁杆之夜2019年铁杆之夜和铁杆联盟五周年庆祝8月3日在上海外滩LAVIN玫瑰举办的鸡尾酒

    MeNextFive!努比亚强势加入2019硬核之夜给我下一个五个!Nubia足够强大,可以加入2019年的铁杆之夜2019年铁杆之夜和铁杆联盟五周年庆祝8月3日在上海外滩LAVIN玫瑰举办的鸡尾酒...

  10. 注意!2019年下半年,中小学教师资格考试即将注册!2019年下半年教师资格考试报名即将开始!参加测试的朋友

    注意!2019年下半年,中小学教师资格考试即将注册!2019年下半年教师资格考试报名即将开始!参加测试的朋友...

友情链接