教育房产时事环球科技商业
投稿投诉
商业财经
热点动态
科技数码
软件应用
国际环球
晨报科学
新闻时事
信息智能
汽车房产
办公手机
教育体育
生活生物
解梦组词

优化网络通信可以加速大规模机器学习模型的训练

  在高速网络设备中插入轻量级的优化代码,使得KAUST领导的合作将并行化计算系统的机器学习速度提高了五倍。  这种 "网内聚合 "技术是与英特尔、微软和华盛顿大学的研究人员和系统架构师共同开发的,它可以利用现成的可编程网络硬件提供显著的速度提升。
  人工智能(AI)之所以能够拥有如此强大的 "理解 "和与世界互动的能力,其根本的好处是机器学习步骤,即使用大量标记的训练数据集来训练模型。训练AI的数据越多,当暴露于新的输入时,模型就可能表现得越好。
  最近人工智能应用的爆发主要是由于更好的机器学习和使用更大的模型和更多样化的数据集。然而,执行机器学习计算是一项艰巨的任务,并越来越依赖于并行运行学习算法的大型计算机阵列。
  "如何大规模地训练深度学习模型是一个非常具有挑战性的问题,"KAUST研究团队的Marco Canini说。"人工智能模型可能由数十亿个参数组成,我们可以使用数百个处理器,这些处理器需要高效地并行工作。在这样的系统中,增量模型更新过程中处理器之间的通信很容易成为主要的性能瓶颈。"
  该团队在 英特尔 旗下的Barefoot Networks公司开发的新网络技术中找到了潜在的解决方案。
  "我们使用Barefoot Networks新的可编程数据平面网络硬件来卸载分布式机器学习训练过程中执行的部分工作,"后来加入英特尔Barefoot Networks团队的KAUST校友Amedeo Sapio解释道。"使用这种新的可编程网络硬件,而不仅仅是网络来移动数据,意味着我们可以沿着网络路径进行计算。"
  该团队的SwitchML平台的关键创新在于,在机器学习过程的模型更新阶段,允许网络硬件在每个同步步骤中执行数据聚合任务。这不仅卸载了部分计算负载,还大大降低了数据传输量。
  "虽然可编程开关数据机可以非常快速地进行操作,但它能做的操作是有限的,"Canini说。"因此,我们的解决方案必须对硬件足够简单,但又必须足够灵活,以解决板载内存容量有限等挑战。SwitchML通过共同设计通信网络和分布式训练算法来解决这一挑战,与最先进的方法相比,实现了高达5.5倍的速度提升。"
  【来源:cnBeta.COM】

英伟达DLSS客户端库允许用户手动安全更新TechSpot指出,目前英伟达有提供从1。0。0到2。2。10在内的诸多版本的DLSS。尽管游戏开发者可按需选用和提供更新包,但最终抵达玩家手中仍需多等待一段时间。好消息是,英伟外媒Roblox与索尼签订了一份音乐合作协议据外媒报道,虚拟世界构建平台Roblox跟索尼音乐娱乐公司签署了一项协议。该协议扩展了现有的合作,包括2020年在Roblox内举办LilNasX音乐会及2021年跟瑞典艺术家Za微软Xbox版赛博朋克2077扩展退款于7月6日结束赛博朋克2077去年12月发行一周后,微软就开始向通过微软商店(MicrosoftStore)购买游戏的用户提供全额退款。当时,微软表示将实施这项扩展后的政策直到公司有ldquo进英特尔DG2独显再曝光与12代酷睿工程版共同跑分英特尔此前已经正式发布DG1入门级桌面独显,其搭载80EU,频率1。5GHz,功耗仅为30W。除了这款产品,英特尔针对游戏用途的显卡产品线名称为XeHPGDG2,最高具有512EU希捷签约日本昭和电工HAMR硬盘可达80TB希捷近日与日本昭和电工(SDK)签订协议,就热辅助磁记录(HAMR)硬盘碟片技术达成合作。希捷将评估SKDHAMR碟片技术,并在未来共同开发HAMR技术。希捷在HAMR技术上已经耕中国电信陈运清以云网融合为主线,加强自主创新在日前召开的ldquo第五届未来网络发展大会rdquo上,中国电信研究院副院长陈运清发表ldquo云网融合驱动下自主创新及开放合作的思考与探索rdquo的主题演讲,详述中国电信在l西部数据预测5bitPLCSSD2025年后才会应用如今市面上主流的固态硬盘多采用TLC存储方式,每一个位点可以存储3bit数据,也就是8种电压。部分SSD已经使用QLC方式,每单元可记录多达16种不同电位。据外媒wccftech报西数对PLC闪存SSD硬盘悲观再等4年才有可能问世NAND闪存已经从SLCMLC发展到现在的TLCQLC闪存为主的局面,由于技术原理不同,TLCQLC的性能寿命及可靠性都是在下滑的,未来还会有PLC闪存,不过它可能是最不受欢迎的闪浦科特首款PCIe4。0消费级硬盘M10P发布6月18日消息,浦科特今天正式发布了首款消费级PCIe4。0硬盘M10P系列,主打游戏玩家和影音创意工作市场,速度可达7GBs,铠侠原厂闪存,支持RGB信仰灯及石墨烯散热,最高2T浦科特推出M10P系列PCIe4。0SSD速度超7000MBs存储厂商浦科特今日推出了M10P系列高端固态硬盘,采用PCIe4。0通道,自带散热片,有多种规格可选,官方表示,M10P系列产品相比前一代拥有更高的速度更大的容量以及出色的稳定性,英伟达加大RTX3060供应量,重点支援网吧据博板堂,供应链消息称英伟达已经向其部分大客户透露,从月底开始将加大RTX3060GPU供应量,重点供货网吧客户。此外,各非公N卡厂商也将会配合主抓网吧市场,预计大量到货的时间预计
美团为优秀科学家提供奖金入选者每人100万元美团先期投入5亿元的ldquo青山科技基金rdquo开始申报,资助方包括青年科学公益奖项和环保科技创新示范项目。青山科技奖面向中国内地及港澳地区全职工作,45周岁及以下青年科研工作单季新增6000万用户美团让阿里拼多多们感受到了压力昨天港股盘后,美团对外发布了2021年第二季度财报。数据显示,二季度美团438亿元的营收再次创下了新高,三大业务都保持着高速增长的势头。与此同时,美团年度交易用户数和活跃商家数也都美团发布二季度财报用户数6。3亿营收438亿元今天美团发布了2021年度第二季度业绩,营收较去年同期相比增长77,达到438亿元,季度交易用户达到6。4亿,活跃商家数达到770万。该业绩显示,美团餐饮外卖以及到店酒旅业务均实现王兴坚决落实执行政府指导意见积极履行社会责任美团发布了截至2021年6月30日的三个月及六个月业绩。在国内市场的强大内需和二季度的季节性因素带动下,本季度餐饮外卖日均交易笔数同比增长58。9至3890万笔,季度骑手成本也同比亚马逊云科技发起AI在未来公益计划捐赠超1100万亚马逊云科技中国线上峰会rdquo上,亚马逊云科技宣布启动ldquoAI在未来rdquo公益计划,将携手北京情系远山公益基金会在三年内将人工智能教育资源免费带到十省的百所中学。亚马微软搁置其下个月全面重新开放美国办公室的计划微软正在搁置下个月全面重新开放其美国办公室的计划。这家软件巨头曾计划在10月4日重新开放其总部,但美国境内引发COVID19的病毒变种的持续不确定性和新增病例的激增迫使该公司推迟其营收205亿元!网易Q2财报出炉游戏收入占比超七成8月31日消息,今日,网易发布2021年第二季度未经审计的财务报告。财报显示,二季度,网易净收入为人民币205亿元,同比增加13。非公认会计准则下,归属于公司股东的净利润为人民币4网易第二季度营收205亿元同比增长13超预期网易发布了2021年第二季度未经审计的财务报告。二季度,网易净收入为人民币205亿元,同比增加13非公认会计准则下,归属于公司股东的净利润为人民币42亿元,超过市场预期。网易第二季美国能源部2035年太阳能有望提供该国40电能美国能源部发布了有关太阳能的研究报告。研究报告概述了太阳能如何帮助美国电网脱碳,并帮助实现政府关于到2035年电力部门净零排放的目标。研究显示到2035年,太阳能有潜力供应美国40机模提前感受下?iPhone14曝光苹果去刘海整机全面升级对于即将到来的iPhone13,你是否会购买,如果没有打算,那么下一代iPhone会考虑吗?现在有网友送上了一些有关iPhone14的消息,从爆料的细节看,真的是太诱人了,瞬间对i元宇宙概念爆火腾讯申请注册元宇宙系列商标9月9日消息,最近元宇宙(Metaverse)概念爆火,其概念起源于科幻小说,或指向互联网的ldquo终极形态rdquo。Metaverse一词来源于作家NealStephenso