IPU:为何为AI处理器带来了一种颠覆性架构

admin 2个月前 (08-19) 科技 15 0

英国半《导》体 之[父、Arm的]连系 首创人Hermann爵{士}这《样》说:“在计较〖机汗青〗上“只产生过”三次革命,「一次是70」年月‘的CPU,’第“二次是90”年月『的GPU,而Graphcore』就是第{三次革}命。” 里指{的}就是Graphcore《率先提出》了为AI【计较而生的IPU。

】本文引『用地点:

不』久前,Graphcore{高}级【副】总裁 中{国}区总{经}理『卢』涛老师【和Graphcore】中国『贩卖』总「监」朱‘江老师,向’电 世「界」等媒体介〖绍了:①IPU〗的架「构」及〖应用,②对AI〗芯(片)的「走」向猜测,③【怎样做AI】芯 片的[思]考。

Graphcore高 级『副』总《裁》兼《中》国区 经 理卢涛([左)]和Graphcore 中〖国〗销“售总监”朱江

Graphcore总{部}在英国, 目[前全]球有450 名《员工。》公【司】已「获」大{量}投【资,截】止〖到2020年6〗月,Graphcore总『共』融资超{过4.5}亿“美”元。

Graphcore‘主’要产物「是IPU。Graphcore」认{为,}由「于CPU和GPU不」是〖为了满意〗机(器)进修 的[计]算需 求《而》设〖计,因〗此尽〖管〗进化,创「新」者【却】最先因 件『阻』碍〖而倒〗退。而Graphcore建设了〖一种全新〗的〖处理赏罚器,〗是 专为【呆板学】习事变负载‘而’设 的(处理赏罚器——)智{能}处理赏罚器(IPU)。

Graphcore「现有」的IPU的表 一『代』的「模子」上,性【能】领《先于GPU:》在『天然』语〖言〗处 方『面』的速 度[能]够 提《升20%~50%;在图像分》类方面,「可以或许有6」倍的吞吐量《而》且是 更低[的时]延;在 一些金“融”模 方{面}的《训》练速“度能”够{进步26倍}以(上。)今朝,IPU【在】一{些}云‘上、客户自’建的(数)据【中间】服‘务器’上(已)经〖可〗用。

(相)比GPU【及】其“他与GPU类”似{的}处《理》器 架[构,IPU]有2 个亮“点”计划。

1)CPU‘是’在【控】制「方面」做〖了〗许多「事变的、」很是通用【化的处】理{器,}也就{是}说 标{量}的「处」理器。GPU是『一个向量』处「理器,」有单指‘令、’多(数)据 特点,『适』合 理{大}局限的、稠{密}的【数据,在】某一类(的AI运算)里 会[有]很是 明『显』的《优》势,「这」也是现《在GPU在》市场上【示意】很是好 原‘因。’而IPU是一 个[全]新 的【架构计划,】是 的『处』理器,具备多「指」令、 多[数据的特点。]除 了《稠》密 的[数]据之外, 此刻代表「整」个AI成长方『向』的大规【模】稀“疏化”的数据,在IPU「上」处理赏罚(就)会【有】非 势。这是从大『规』模并行的“角”度来讲IPU的「特」点。

2)IPU 规【模】分‘布’式的片上SRAM 架(构,这)与GPU、CPU是『完』全不“同”的。Graphcore IPU丢弃‘了外部’的DDR,‘把全部’的memory都『放到』片 上,[因此可以或许]解 决在今朝《呆板学》习 大(量)出{现}的「内」存《带》宽{会组成}的瓶颈。

陕西2020年5G全覆盖范围确定了!来看看都有哪些地方

日『前,陕』西(省)通(信)管 理[局]会 同‘省’委网信{办、省}发「展」和改《革委员会、》省工业和信 息[化]厅连系 印《发》并〖出台〗了《(加)快{陕}

在场『景应用方』面,由“于回收了”分「组」卷 型“的”卷(积,和ResNet)这种今朝‘比’较『传』统的‘相’比,《可以》有更好《的精度》方《面》的 表[现。但这]样的分组 卷(积)因『为』数《据不》够‘浓密,’在GPU上‘也许结果’并不 客户『提』供“了这”样一{种可}能性,《可》以《把》如许的模 真「正地落」地『使』用,尤 是“在”一些“垂”直「行」业诸《如金融》规模『晋升』应“用”的【性】能。

Graphcore(所做)的产物{包}括【了】硬件、软(件)和IPU的(体系办理)方案(如『下』图)。

1 「硬件:IPU处」理器

机‘器’智「能」代表的是(全新)的“计较负”载,有一些‘特’点:它是“很是大”规‘模的’并“行计”算;「是」非【常稀少】的数据结〖构。AI〗或机{器智}能『相』较 传「统的科」学计《算》或 高【机能计】算(HPC)有〖个〗特‘点,就是低精’度「计较;」其它像‘在’做 训[练]推理过 程“中的”数据“参”数复“用、”静态“图”布局‘都是AI’应《用代表》的一些 的(计)算负载。

年(至今,整个AI算)法模‘型发’展〖基〗本{上从2016}年1〖月的ResNet50的2500〗万个参数,到2018〖年10〗月BERT-Large{的3.3亿个}参数,2019(年GPT2)的15.5《亿个参》数,呈《大》幅增添的「趋」势。 至『此刻』有一‘些’领先‘的科研’机{构和AI研}究者在“探”索‘着更大’的{算}法 型,但愿〖用一〗些伟大《的》模『型』能 伟大 算法,并进步「精」度。「可是现」在 的[麋集计]算 并不《是》出格可持{续}的,「因」为{譬如}要从15.5《亿局限》扩展到1{万}亿,{计}算方‘面’的提《高是指数》级,“即”数倍算(力)的提{升,}这‘就’需〖要〗一‘种’全新“的”要领来‘做AI计’算。

〖可是在〗当 前,[呆板]学 习“采”用『的』照旧传统{处}理 如CPU,今朝‘还’是有(很)多AI负载 之上。CPU实‘际’是‘针’对〖应〗用 和收集[进]行计划的 处理赏罚器,是{标}量处{理器。

其后}呈现(的GPU是)针「对图形和」高「性」能计〖算,以向量处〗理‘为焦点的’处(理)器,从2016年【到】现{在}被广 用{在AI里。

}但AI是〖一〗个{全}新的应《用架构,》它〖底〗层“表”征‘是以计较’图『作为』表〖征的,〗以是可〖能〗必要一「种」全《新》的处‘理’器{架构,而Graphcore IPU就}是针对 算图 的[处理赏罚]来计划 的处《理》器。

Sunbet声明:该文看法仅代表作者自己,与本平台无关。转载请注明:IPU:为何为AI处理器带来了一种颠覆性架构

网友评论

  • (*)

最新评论

文章归档

站点信息

  • 文章总数:26273
  • 页面总数:0
  • 分类总数:8
  • 标签总数:25822
  • 评论总数:210
  • 浏览总数:109983