琛ユ湁K2鐨勬恫浣撻挋鈥斺€旀堡鑷e€嶅仴閽橠K锛屽ソ鍚告敹鎵嶄簨鍗婂姛鍊�鏆戝亣鑲犺儍鏄撳嚭闂锛宭ifespace鐩婄敓鑿屽府浣犳墦閫犲仴搴峰ソ鈥滆偁鈥濇€�棣栧垱鎬х鐮旀垚鏋滐細鍖椾含瀹濇灚鐢熺墿绁炵粡閰告敼鍠凥IE娌荤枟鏁堟灉绉戝鎶よ倽鏀荤暐锛氶泦4閲嶆姢鑲濇绮逛簬涓€韬殑鍋ュ畨閫備笉瀹归敊杩�瑙i攣韬潗绠$悊鏂板Э鍔匡細lifespace灏忚摑鑵扮泭鐢熻弻鍔╀綘瀹炵幇绉戝韬潗绠$悊濡備綍绉戝闄嶈鑴傦紵涓绘墦澶╃劧鎴愬垎鐨勮垝鐧惧畞绾宠眴绾㈡洸鑳跺泭浜嗚В涓�鏄嗚吘涓浗璧典笝娑涳細纾佸甫鏄喎鏁版嵁鐨勬渶浣冲瓨鍌ㄤ粙璐�濡備綍澧炲己鍏嶇柅鍔涳紵姹よ嚕鍊嶅仴铔嬬櫧绮夊ソ钀ュ吇鏉モ€滃姪鏀烩€�Canalys璋冪爺锛氫腑鍥戒紒涓氬浜庝笂浜戠殑闇€姹備粛鐒朵綆杩�澧炲箙瓒�30% 鍗庝负涓婅皟2023鎵嬫満鍑鸿揣閲忚嚦4000涓囬儴
您现在的位置:首页 >> 通信 >> 正文
单节点能跑72个大语言模型,宁畅服务器就是这么强大
发表时间:2023年12月18日 12:13 来源:新科技 责任编 辑:麒麟

12月15日,2023英特尔新品发布会暨AI技术创新派对正式举办,第五代英特尔® 至强® 可扩展处理器首次在中国亮相。宁畅作为英特尔重要的合作伙伴之一受邀参展,重磅发布全新升级的G50系列服务器,并现场展出B5000和R620 G50两款产品,与英特尔携手共同迈向AI无处不在的新时代。

第五代英特尔® 至强® 可扩展处理器为AI加速而生,拥有更可靠的性能和更出色的能效。相较上一代,第五代英特尔® 至强® 可扩展处理器训练性能提升高达29%,推理性能提升高达42%,在相同TDP下平均性能提升高达21%,内存带宽提升高达16%,三级缓存容量提升2.7倍,可显著提高内存带宽约束型和时延敏感型工作负载的性能。

宁畅G50系列服务器涵盖通用机架服务器、人工智能服务器、边缘计算服务器等多种类型。全新的G50系列在内存通道等方面进行重要升级,基于最新的第五代英特尔® 至强® 可扩展处理器能够进一步释放AI潜能,为更多需求场景提供高性价比的强大算力支撑。

以宁畅高密度计算服务器B5000 G5为例,通过搭载第五代英特尔® 至强® 可扩展处理器,可执行多个、多种AI推理任务,实现高模型并发。在大语言模型领域,宁畅B5000 G5 4节点可同时支持28个70B百亿大模型并发,单节点可支持72个7B大语言模型并发,仅0.117秒即可实现以文生文(文章续写与扩写)。在以文生图领域,B5000 G5单节点,不到3秒就可根据任意文本输入生成极具逼真度和细节的高质量图像。在图像识别领域,B5000 G5 单节点 1秒钟可分类5566张图像,对比第四代性能提升近10%。

宁畅将加快创新脚步,与英特尔等合作伙伴携手满足广大用户对更高效算力的需求,开创AI应用的无限可能。

高层观点
用友董事长兼CEO王文京:全面数智商业创新时代到来
用友网络董事长兼CEO王文京认为,随着AI成为全球IT技术与产业创新的中心,商业创新也进入全面数..
华为汪涛:深耕价值客户、商业和分销三类市场
5月8日,在华为中国合作伙伴大会2023上,华为常务董事、ICT基础设施业务管理委员会主任、企业BG..
企业纪事
12岁即显现商业头脑 IT巨头公司戴尔的发展简史
从1984成立到今天,戴尔已成长为全球知名的电脑、服务器、数据储存设备和网络设备厂商。
5G毫米波网速优势显现,少了高速路的5G不完整
随着5G网络目前在全球各地的开通,5G毫米波在峰值速率上已经展现出了巨大优势。同时,工信部在..
移动互联
手机
智能设备
汽车科技
通信
IT
家电
办公打印
企业
滚动
相关新闻
关于我们 | 联系我们 | 友情链接 | 版权声明
新科技网络【京ICP备18031908号-1
Copyright © 2025 Hnetn.com, All Right Reserved
版权所有 新科技网络
本站郑重声明:本站所载文章、数据仅供参考,使用前请核实,风险自负。