首页> 快讯

度小满开源“轩辕70B”金融大模型 实现技术与应用场景的双向奔赴

2023-10-06 20:28:55


  当下,由于场景丰富、数据复杂等特性,金融行业对于大模型应用的需求较高。加快攻克大模型技术难题,才能进一步缓解金融行业发展困境。度小满多年来持续加强对大模型等技术的研究,在创新技术领域取得了突出成就。度小满于近期开源的“轩辕70B”金融大模型在C-Eval、CMMLU两大权威大语言模型评测基准成绩优秀,该模型在分析金融报告、处理复杂数据方面有着独特的技术优势,能够进一步提高金融服务效率。

  度小满“轩辕70B”在两大权威榜单排名第一

  9月22日,度小满宣布“轩辕70B”金融大模型开源,所有用户均可自由下载和试用,并公布了“轩辕70B”在C-Eval、CMMLU两大权威大语言模型评测基准的成绩。数据显示, 在C-Eval榜单上,XuanYuan-70B的总成绩达到71.9分;在CMMLU榜单中,以71.05分的高分位居榜首,在两大权威榜单上的所有开源模型中排名第一,也是国内首个同时在两大权威榜单排名第一的金融大模型。

  C-Eval榜单是由清华大学、上海交通大学和爱丁堡大学合作构建的综合性考试评测集,几乎囊括了所有国内外的主流模型,覆盖人文、社科、理工、其他专业四个大方向的52个学科,共有13948个多项选择题和中学、本科、研究生、职业等四个难度级别,是目前对模型潜力判断最具权威性的大模型榜单之一。

  CMMLU 数据集是一个综合性的中文评估基准,由MBZUAI、上海交通大学、微软亚洲研究院共同推出,专门用于评估语言模型在中文语境下的知识和推理能力,共涵盖了67个主题,涉及自然科学、社会科学、工程、人文以及常识等。

  度小满以创新技术攻克行业发展难题

  金融行业场景丰富,数字化程度高,是大模型落地应用的最佳场景之一。但金融又是一个高合规要求的行业,业务决策复杂,大模型真正在金融业务中做到实际应用还面临不少挑战。

  度小满CTO许冬亮表示,“相比通用大模型,‘轩辕70B’金融大模型经过度小满业务场景中沉淀的海量金融数据训练,对金融知识理解更专业、更精准,可控性、安全性更高。我们把大模型开源,希望能够降低大模型在金融行业的部署和应用门槛,促进金融行业服务效率和服务体验的突破性革新”。

  “轩辕70B”将在社区同时开源金融大模型和50G高质量金融语料。

  今年5月份,度小满开源了国内首个千亿参数的金融大模型,已经有上百家金融机构申请试用。本次发布的新版大模型相较于上一个版本能力全面提升:在增量预训练和指令微调阶段,加入了度小满业务场景中的海量金融数据,对金融问题回复更专业,金融知识理解能力提升明显;同时在预训练阶段,"轩辕70B”的模型上下文长度扩充到8k,能够处理更长的金融报告、研究和分析。

  度小满以创新技术为驱动力,不断提升自身技术实力,通过创新金融科技破解金融行业发展难题,此次开源的“轩辕70B”表现出色,也得益于度小满长期以来对创新技术的执着追求。当下,大模型在金融领域的运用还面临诸多挑战。度小满将继续聚焦大模型,打破数据孤岛,攻克行业技术难关,为金融行业创新发展提供技术支撑。

  榜单收录、高管收录、融资收录、活动收录可发送邮件至645528#qq.com(把#换成@)。

相关阅读

    无相关信息