您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
人工智能 正文
发私信给程弢
发送

0

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

本文作者:程弢 2019-12-06 14:03
导语:从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。
而从外边看去,原本仅仅是占据疗养院空间的魔界开始向外界侵蚀。

如上图所示,在小批量任务中(16),Haswell CPU的响应时间接近7毫秒,其每秒提供5482次推断(IPS),其可以实现的最大批量任务(64)每秒则可以完成13194次推断,但其响应时间为21.3毫秒。相比之下,TPU可以做到批量大小为200,而响应时间低于7毫秒,并提供225000个IPS运行推理基准,是其峰值性能的80%,当批量大小为250,响应时间为10毫秒。

不过需要注意的是,谷歌所测试的Haswell Xeon处理器似乎也不能完全说明问题,英特尔Broadwell Xeon E5 v4处理器和最新的“Skylake”Xeon E5,每核心时钟(IPC)的指令比这款处理器提升了约5%。在Skylake是28核,而Haswell为18核,所以Xeon的总体吞吐量可能会上升80%。当然,这样的提升与TPU相比仍有差距。

最后雷锋网(公众号:雷锋网)需要强调的是,TPU是一个推理芯片,它并非是要取代GPU,可以确定的是,TPU与CPU一起使用对训练分析更加有益。但对于CPU制造商而言,如何研发出像ASIC一样兼顾性能和能效的芯片是现在以及未来要做的。

可以确定的是,谷歌已经逐渐在自己的数据中心部署TPU,但是上述测试数据只是理论结果,实际应用表现如何?我们还不得而知。

Via nextplatform,雷锋网编译

雷锋网版权文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情

略懂技术的小编

关注一切有未来感的产品及技术!
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说

Sitemap

保护主义火种燃起!黄金遭避险买盘疯狂涌入 |Chinas skilled workers incentivized to succeed |中国智慧点亮北京八分钟 |
【途观L汽车图片】上汽大众 | “戏精”上身!钟丽缇机场挽粉丝表情搞怪 | 【汉兰达 2017款 3.5L 四驱豪华导航版报价】汉兰达报价
中国商务部长会见美国前财长:合作是两国唯一正确选择-时事中国-时政频道-中工网 |境外媒体猜测缅甸总统因健康原因辞职 官方:他需要休息 |小升初名词解释之面试 |
中国进出口银行山西省分行助力山西企业“走出去” | 新华社刊文:将来CDR运作成熟,可吸引外国企业到A股上市 | 【凯美瑞晶石蓝外观图片】凯美瑞
视频山东:加快国土绿化 推动乡村生态振兴 |建设澜湄国家命运共同体,开创区域合作美好未来-干部论事-时政频道-中工网 |广裕街夜市环境需治理 |
到武大赏樱免费需提前预约吗? | 中国商务部长会见美国前财长:合作是两国唯一正确选择-时事中国-时政频道-中工网 | 境外媒体猜测缅甸总统因健康原因辞职 官方:他需要休息
乡村振兴既要产业兴旺也要环境美 新媒观察:让大数据的“镜像”服务美好生活 聚焦“一带一路”打造最美城区 灞桥商机无限开启宜居新未来 3月14日译名发布:Mike Pompeo } 缅甸总统吴廷觉突然辞职引猜测 专家时机不合常理
创新-万众创业葬送了多少人的前程 免费加入咸鱼网车友会,除车友福利,还享美食五折! 清明祭扫首个小高峰 武汉近30万人提前扫墓 首本台北米其林指南出炉 还不跟我去台北摘星吗?米其林指南餐厅台北
惠氏奶粉最新价格表| 装修材料价格表| 硫化机价格| 锦衣卫演员表| 打蛋器价格| 黄金首饰最新价格| 塔吊租赁价格| 防爆电机价格| 刺客信条3劝架| 迎驾酒价格表| 蒂芙尼戒指价格| 玉观音演员表| 茅台王子酒价格查询|
北沙参价格| 世界十大名表价格| 演员王苗| 气动蝶阀价格| 人造大理石价格| 史丹利复合肥价格| 樱花热水器价格| cs之神傲视天下| 错爱2演员表| 碳晶电热板价格| 干香菇价格| 奔驰跑车价格| 肺炎疫苗价格|