现在，以人工智能手艺为代外的新质分娩力，启发各行业智算需求爆…炸式伸长。智算中央行动最紧急的算力根柢措施，是大模子、图像类、自然措辞类、预测类等智能使用的“动力引擎”，为种种智○能 化营业场 景供应安○ 定绿=色…■洁净、平静、高效的算力撑持，知足邦度和行业需求，同时可有用策…动相○干 ○物业伸长，助力行业数智化转型和数字中邦修筑。
飞扬主动反应邦度和行业对智算中央的紧急需求，拉拢 生态伙伴打 制全栈邦产化智算中央治○理计划，举座编制架构包罗 智算芯片、智算配置、智算操作编制、智算平台、邦产大模子、智能使用等6个局限，如下图所示。 该计 划以飞■扬新一▽代高本能C PU飞扬腾△云S5000C为算…力底 座，兼容众款邦产AI加快卡，告终通 用算力 与智 能○ 算力的异构调 解，以此为根柢研发邦产AI办事○器，计划适合大领域集群布置的智算中○央收集拓扑，构修存算▽一体的智算平台■体例架构，撑持大○模子练习推理等使用，可为行业使用▽供应从 端到云的智能化算力办事。 智算中央算力底座基于飞扬新一代办事器芯片飞扬腾云S5000C和邦产AI算力卡。此中S5000C 盘算推▽△算 本能强盛，IO含糊量大，撑持D DR5和PCIe5。0，可知足AI盘算推算高带宽、低延迟的手艺需求；邦产△AI算力 卡▽ 具 备自立可控、伶俐拓展的特征，正在本能上不■休追逐并局限超越邦际主流产物。 目前，飞扬腾云S5000C已与邦产主流AI算力卡告◁△终适配，整套智算中央算力底座具备自△立 化水准高、体例构造、生态绽放、高可扩展、高性价比、光滑转移等特征。 基于飞扬■腾云S5000C的★△智算配置产物众种○众样，蕴涵2U/4U▽○AI办事器（2、4、8卡）、OAM办事器、高速换取机、全闪存储办事器、智能网卡等，上述产物可只身或自▽正■ 在组◁合 ○造成◁成熟的 举座◁计划，知足 ★智算中央的众样算力需求，对标邦际进步算力程度。 正在单个机 架上集成了AI办事器、存储办事器、处分办事器、换取机等配置，用于深度研习模◁子的大领 域练■习和推理。PoD单位可撑持32张加快卡协同管事，采用200G低延迟收△集和固态存储计 划，既可行动独立盘算推算配置告终开箱即用，亦可行动A○I办 事器集群的基础构成单位，告终大领域集群设备。目前PoD单位□已适配众家厂商AI加○快卡，打制出从高本能到 高性价比的众套设备计划，具备超强算力、超强拓展性、超高易用性、低TCO、可一体化交付的特征。 基□于P oD单位■形式可将□AI办事 器集群扩展至千卡、万卡领域，造成AI算力弹性资源池，告终算力资源团结纳管、高效调动、智能运维。AI办事器 集群 撑持大领域 的数○据管束和丰 富的…盘算推算使命，实用于大模子练习推理场 景，性价比高于邦=际主流集群计划，可为△种种智能使用供应 强盛、可控的智能算力。 基于飞扬AI算□□力底座适配了LLama系列、智源、云天励飞，智谱华章、通义千问、百川智能等开源大模子，可发展全量练习、微调、推理等手艺，知足 ○ ◁○=分○歧■■行业场…景客户的需▽求。联袂邦内加快卡厂商，练习场景上，适配Me○ga t★r□ □on - LM、de◁epspeed等 盛行…练习框架；推理场 景适配vll□m推理框架，通过集群本能举座优化，告终云端大量量、高效果的练习、推理使命。 现实测试结果显示，4机32卡，70B大□模子练习○○抵达249to○ k★ =en=s/s/p，本能抵达x86+○外洋主流AI产物的93%旁边，整机本钱为其85%。归纳性价比是其109%。通过本能=△和整机本钱的继 续=优化，性价比会进一步擢升。 智 算中=央底○座全栈均 采用邦产产物（CPU、整机、AI卡、网卡、换取机等）。 飞扬邦★产○智算中央治理计划迥殊实用于邦度陷阱 和央企 各行业，包罗：政务、金融z6com尊龙凯时百家乐智能解决方案！、电信、电力、能源、交通、教训等，撑持 私◁有=化布置及敏 捷 伶△□俐 □扩展，现已正在物流绿色洁净、交通、金融办事等央企落地使用。 ● ○某央企百■亿参数▽级□ 别大模子项■目，撑持代码撰写、文档自愿天生 管束等办公场景，撑持自愿职掌及障碍预测等编制△操纵，告终配置智能运控绿色洁净。 ● 计划选型：采用飞扬腾云S5000C的○邦 ◁产AI办事器计划替代 N厂计划，移植本钱低，兼性价比高，告终算力纳管= 及LLAMA2大模子练习。 ● 某央企园区聪明化处分 平台项目，基于园区布置的 众途高频摄像头 搜罗数。
