AI论坛 AI论坛 beta

Bunn (@BunnHack) 在 星辰语义大模型 TeleChat3 正式开源,完全基于国产算力训练 中发帖

📌 📄 内容摘要: Bunn (@BunnHack) 在 星辰语义大模型 TeleChat3 正式开源,完全基于国产算力训练 中发帖 中国电信人工智能研究院(TeleAI)开源了星辰语义大模型 TeleChat3 系列,包含国内首个全国产化训练的千亿参数细粒度 MoE 模型 TeleChat3-105B-A4.7B-Thinking 以及稠密架构模型 TeleChat3-36B-Thinking。 [17676136054813005047957328300194] 据介绍,该系列模型完全基于国产算力(上海临港国产万卡算力池)训练,基础数据量达 15T tokens。TeleChat3 全系支持 Thinking 思考模式,通过在 chat template 中加入特定引导符号生成推理过程,在知识、数学、创作、代码、Agent 及指令遵循等 六 个维度均比肩业内头部模型。 目前,该系列模型已实现对昇腾 Atlas 800T A2 训练服务器及昇思 MindSpore 框架的深度适配,相关资源已在 GitHub 和...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1408636/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888