86

加速AI大模型创业,腾讯云助力MiniMax打造云上架构

a_632023-07-22 12:33:05   来源:证券之星  阅读量:13232   

高效灵活的云上基础设施,是大模型创业的必要底座。

7月20日,腾讯云对外披露助力MiniMax研发大模型的最新进展。目前,腾讯云长期支持MiniMax的千卡级任务稳定运行在腾讯云上,可用性达99.9%。

MiniMax是一家专注通用大模型研发的独角兽创业企业,拥有文本、语音、视觉多种模态融合的通用大模型引擎能力。研发过程中,每日亿级的调用次数,也带来了对算力的海量需求。

从2022年6月起,基于算力集群、云原生、大数据、安全等产品能力,腾讯云为MiniMax搭建了从资源层、数据层到业务层的云架构。

在资源层,高性能、高弹性和高稳定的算力需要借助专业的云服务。腾讯云协同优化单机算力、网络架构和存储性能,为MiniMax构建起大规模、分布式的HCC高性能计算集群。

借助腾讯自研的星脉网络,HCC集群将通信损耗降到更低;CFS Turbo、COS+GooseFS高性能存储,使得上千个计算节点能同时高速读取训练数据。

同时,利用腾讯云容器服务TKE,MiniMax实现了对不同规格云服务器的统一管理和调度,各种类型的应用和服务得以部署在同一套基础设施上,资源实现了高效整合,资源利用率大幅提升;

基于云原生的管理方式,支撑7*24小时的全局监控视角,支持编排、框架、实例等多层级的指标监控。一旦触发故障,能够在5分钟内恢复任务、10分钟内恢复基础设施,无需人工干预完成,能够最大化保障任务连续进行。

根据实测数据,在云底座的支撑下,腾讯云助力MiniMax扛住了激增的并发计算量;基于云原生架构,MiniMax整体用云成本降低了20%。

在数据层,MiniMax在大数据分析方面也有大量的任务需求。

通过腾讯云的数据集成DataInlong、流计算Oceanus、数据湖计算DLC等云原生大数据产品提供的数据处理能力,对大量数据做实时或离线分析,满足了MiniMax在各个阶段的数据分析需求,实现数据的快速灵活部署。以容器化的方式使用大数据组件,使得模型验证、推理等任务得以按计划推进。

此外,大模型研发过程中,MiniMax对云上资产安全、Web业务运营风险、DDoS攻击防护等高度关注。

通过引入腾讯云的防火墙、WAF、主机安全、漏洞扫描、数据加密、iOA零信任安全管理等一系列安全产品,MiniMax实现了对云上资产的全方位保护,确保业务的稳定运行和数据的安全性。

业务上云后,基于海量、弹性的算力支撑和大量改进调优,MiniMax的大模型研发得以加速。

MiniMax业务副总裁魏伟表示:“成熟的云基础设施,既满足了业务弹性与稳定性的需要,又提升了研发效率。MiniMax将进一步扩大用云规模,与腾讯云加速训练、推理等更多业务场景的云上落地,共同打造面向大模型的云上基础设施。相信未来,云计算会为AIGC带来更多可能。”

在算力集群、星脉网络、向量数据库之外,腾讯云还推出了涵盖模型预训练、模型精调、智能应用开发的一站式行业大模型解决方案,助力企业快速搭建专属模型。

未来,腾讯云将继续通过软硬一体的方式,持续加速全社会云上创新。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

推荐阅读
坚守金融服务初心,坚持保险为民底色——泰康“金融消费者权益保护教育宣传月
财富

坚持政治性、人民性是金融工作的初心和使命。作为国内保险行业的领军企业之一,泰康保险集团将落实国家关于金融工作的本质要求作为第一要务,以金融为民、消保至上为题,启...

2023-09-28

《坎巴拉太空计划2》游戏被曝无休止填写Windows注册表,官方将进行修
财富

,太空模拟游戏续作《坎巴拉太空计划2》于2023年初推出了PC抢先体验版。然而,该游戏被发现搞乱了玩家的Windows注册表。 根据游戏官方论坛及其Steam...

2023-09-28

2023雨果奖提名作《赛博朋克2077:夜城迷梦》中文版漫画46元预售,
财富

,科幻世界杂志宣布,2023雨果奖提名作《赛博朋克2077:夜城迷梦》推出中文版漫画,现已开启预售,售价46元。 该漫画由CDPROJEKTRED与黑马漫画授...

2023-09-27

中信建投期货走进大、中、小学开展金融消费者宣传日活动
财富

9月26日,是2023年“金融消费者权益保护教育宣传月”集中教育宣传日,为进一步贯彻落实“投资者教育纳入国民教育体系”要求,推动金融知识进校园,提升青少年金融素...

2023-09-27

促消费、惠民生中信银行推出长假消费系列惠民举措
财富

中秋、国庆假期临近,火热的消费需求已经初露端倪。数据显示,从9月13日至20日18时,铁路部门已发售超过1.46亿张火车票;各旅游平台的景区、酒店等相关预订量也...

2023-09-27

新疆最大抽水蓄能电站开建
财富

记者从新疆维吾尔自治区发改委获悉,新疆若羌抽水蓄能电站9月25日在新疆巴音郭楞蒙古自治州若羌县开工,标志着新疆最大、南疆首个抽水蓄能电站项目正式拉开建设序幕。 ...

2023-09-27

承诺尽快公布“离线模式”相关细节,《收获日3》推出游戏更新计划
财富

,《收获日3》自发布以来,遇到了玩家广泛反映的匹配错误和在线服务问题,IT之家此前曾报道,这款游戏发行3天时就已经“多半差评”,截至发稿,这款游戏目前在Stea...

2023-09-26

报告称苹果iPhone15ProMax的平均交付时间比前代晚9天
财富

,根据市场调查机构CounterpointResearch追踪的统计数据,苹果iPhone15和iPhone15ProMax两款机型的首销平均等待时间要超出前代...

2023-09-26

广汽能源与武汉市硚口区合作,未来三年拟新增充电桩6000个
财富

,武汉市硚口区人民政府与广汽能源战略合作协议签约仪式,未来三年,硚口区拟新增充电桩6000个,同步建设集中充电场站50座,换电站10座。 图源广汽集团公众号 ...

2023-09-25

2024款小鹏P5车型即将到来,在性价比、舒适性、智能化、外观方面进行升
财富

,今天有多个汽车博主放出了2024款小鹏P5的海报。从海报来看全新P5即将在近期公布,主打“卷”。 从海报来看,新款小鹏P5将会在性价比、舒适性、智能化、外观...

2023-09-25

每天的各个时间段都适合拍摄哪些题材?
财富

摄影本质上是记录光的过程,光线自身的表现对场景和氛围的塑造具有重要的作用,是否能够选择合理的时间进行拍摄也是摄影的要点之一。 那么一天中的各个时间段都适合拍摄...

2023-09-25

“天文大科学装置冷湖台址监测与先导科学研究”取得系列成果
财富

9月21日至25日,青海省科技厅组织省内外专家对青海省重大科技专项“天文大科学装置冷湖台址监测与先导科学研究”项目及各课题进行验收。这一专项的实施,对未来大型光...

2023-09-25

“央企ESG·先锋100指数”发布蒙牛位列食品饮料行业第一
财富

2023年9月23日,第六届中国企业论坛平行论坛“践行ESG理念,创建一流企业——中央企业ESG论坛”在山东济南召开,会上发布《中央企业上市公司ESG蓝皮书》及...

2023-09-25

基金持续营销的生意经
财富

充分发挥自身优势和禀赋,找到正确的“锚点”,借助投顾化服务手段,沿着公司战略方向稳扎稳打,是做好持续营销这门生意的关键 震荡市,新基金发不出量怎么办? 今年...

2023-09-25

开放麒麟openKylin1.0.1版本系统发布,新增Windows迁移
财富

,开放麒麟系统openKylin1.0.1版本于今日上线,适配集成搜狗输入法NG麒麟桌面版,并上线新版麒麟管家应用,新增飞腾派嵌入式开发板镜像,同时修复100+...

2023-09-23

阳光人寿宁波中支工会组织开展春季踏青活动

时值仲春、阳和初起,正是春游踏青的好时光。为丰富员工业余生活,营造和谐融洽、团结向上的工作氛围,3月23日,阳...

找到黑匣子之后,下一步做什么?专家解读

找到黑匣子之后,下一步做什么?邱超奕对于空难调查而言,黑匣子在找到后,才意味着具体工作的开始。那么,它被送往了...

这所城乡接合部的新学校,为招生曾挂过三块牌子

#8203;“上级对我提的要求,就是让寒门子弟接受更好的教育,让普通孩子上好学。”一所城乡接合部的新学校,为招...

东航坠机现场:救援人员获得飞机残骸定位信息

新京报讯据中国民用航空局消息,3月21日,东航一架波音737客机在执行昆明--广州航班任务时,于梧州上空失联。...

调研指今年就业形势基本稳定实体产业人才吸引力增加

专业人力资源机构中智公司21日发布的最新调研结果显示,2022年中国就业形势基本稳定,实体产业对人才吸引力增加...