爱游戏-恒生电子“量身定制”金融大模型，浪潮信息智算平台助力

[导读]北京2024年6月28日 /美通社/ -- 年夜模子手艺的深切利用，正让金融营业产生天翻地覆的转变。例如，“投顾助手”可以或许为用户供给投资建议，帮忙客户在瞬息万变的投资市场中掌控市场纪律，取得更高的收益；“智能客服”可以或许高效响利用户的办事需求，并给出精准的答复……年夜模子高效操纵海量金...

北京2024年6月28日 /美通社/ -- 年夜模子手艺的深切利用，正让金融营业产生天翻地覆的转变。例如，“投顾助手”可以或许为用户供给投资建议，帮忙客户在瞬息万变的投资市场中掌控市场纪律，取得更高的收益；“智能客服”可以或许高效响利用户的办事需求，并给出精准的答复……年夜模子高效操纵海量金融数据，并切实地晋升金融营业与办事的智能化程度，在现实金融场景中阐扬出主要的价值。

借助海潮信息AI办事器、AIStation智能营业出江南体育产立异平台等领先的智算根本举措措施，国内领先的金融科技企业恒生电籽实现算力高效分发、算力资本高效治理，加快了金融行业年夜模子LightGPT的开辟和落地，模子练习和精调时候周期由数周缩短至数天，利用在客服、运营、投顾、投研等金融营业场景，助力金融行业智能化转型。

“量身定制”金融年夜模子，高效练习是要害

恒生电子是一家以“让金融变简单”为任务的金融科技公司，致力在为证券、期货、基金、信任、保险、银行、买卖所、私募等机构供给整体解决方案和办事，持续16年入选FinTech100全球金融科技百强榜单，2023年排名第22位，位列亚洲上榜企业第一。

恒生电子高度正视年夜模子手艺的立异与利用，率先发布了领先的金融行业年夜模子LightGPT。LightGPT基在海量高质量金融数据练习，利用超2000亿中文tokens和80多项中文金融使命指令微调，涵盖投研、投顾、智能客服、合规风控等多范畴金融利用场景，实现金融相干使命高效、正确理解，显著超出通用年夜模子。在测试中，LightGPT的逻辑推理、超长文本处置、多模态交互、代码、金融专业问答等多项能力都表示凸起，表示出极高的正确性和专业水准。同时，LightGPT进修中国的金融法令律例，更合适中国金融市场的监管要求。

就像一个“多面手”，LightGPT综合能力凸起，单个模子便可知足金融机构浩繁利用场景的需求，为投顾、客服、运营、合规、投研、买卖等营业系统注入AI能力，加快行业进级和智能化转型。如在信批材料审计场景，LightGPT可帮忙审计员将文档的审计时候从2小时缩短到5分钟；在投顾场景，可帮忙投资参谋将客户咨扣问题的平均回覆时候由十几分钟缩短至几秒，年夜幅晋升工作效力，晋升客户体验。

面向分歧金融机构的个性化需求，恒生电子需要针对具体营业“量身定制”，对LightGPT进行强化练习和精调，以晋升模子的精度，或输出合适要求的内容。为了更好地鞭策年夜模子的开辟和利用，恒生电子但愿在AI根本举措措施方面进行深度革新。一方面，年夜模子预练习与微调需要机能壮大、高效易用的算力平台，租用算力资本固然可解迫在眉睫，但在算力不变性、平安保障方面存在着隐患。另外一方面，年夜模子的开辟运营触及多团队、多营业与年夜量数据，需要有用的使命列队和调剂机制来确保资本的公道分派和高效利用。不然，将致使各团队抢占算力资本，计较使命下发后需要长时候期待才能获得成果，不但会影响开辟进度，并且会晋升本钱。

立异智算平台，提速年夜模子开辟

恒生电子联袂海潮信息，摆设了年夜模子智算平台，涵盖AI办事器、AIStation智能营业出产立异平台，年夜幅晋升了LightGPT年夜模子开辟和利用效力。

在算力方面，海潮信息为恒生电子供给了AI办事器，并经由过程软硬件一体化的平台扶植模式，实现了上线即便用的利用方针。同时撑持矫捷扩大，知足恒生电子营业快速增加对算力资本的矫捷需求。

海潮信息AIStation平台为恒生电子供给灵敏靠得住的年夜模子开辟撑持和可扩大的人工智能根本举措措施治理能力。AIStation同一治理和调剂算力资本，为恒生电子算法工程师供给同一的算法开辟情况，实现年夜模子预练习、精和谐推理测试的完全营业流程。对千亿、百亿参数的模子精调，AIStation主动建立散布式练习情况，为年夜模子练习供给高效、不变的计较情况。AIStation推理办事与恒生的模子测试平台实现对接，有用晋升了模子摆设和测试效力。借助AIStation平台，恒生电子加快了面向投顾咨询、投资合规、运营治理、客户办事等金融营业场景的年夜模子利用的开辟和交付。

另外，海潮信息分享了源年夜模子项目标开辟经验，和开源年夜模子的微调方案和实践经验，为恒生电子金融年夜模子LightGPT的预练习、微调供给了有力的帮忙。

借助年夜模子智算平台，恒生电子加快了金融行业年夜模子LightGPT的开辟与上线，模子练习和精调时候周期由数周缩短至数天。今朝，LightGPT已完成国度网信办年夜模子算法存案，在客服、运营、投顾、投研等多个金融营业场景落地利用，助力多家头部金融机构实现了数智能力的进化。另外，恒生电子已结合20多家金融机构，共建LightGPT金融年夜模子和光子系列年夜模子利用，其实不断晋升年夜模子的手艺能力与积淀，助力金融范畴营业形态和逻辑范式的改革。

欲知详情，请下载word文档 下载文档