支撑升级版百聆·翻译大模型上线试用的背后：信息高铁算力网AI平台
近日，基于信息高铁综合试验基础设施，在中科南京信息高铁研究院的支撑下，中国科学院计算技术研究所自然语言处理团队线上部署了可支持中英互译的7B规模的翻译大模型“百聆·翻译”，该模型在升级版百聆（即百聆2）的基础上添加了语言处理模块和实时翻译决策模块，实现了涵盖语言和文本的多模态翻译，并可以同时支持交互式文本翻译、语音翻译和同声传译。
作为基础设施，在服务AI科研创新方面，中科南京信息高铁研究院正成为一股新兴力量，受到高校、科研机构以及相关企业的青睐。这背后是依托信息高铁综合试验基础设施构建的覆盖AI算法开发全生命周期的信息高铁智算算力网AI平台，该平台通过智能资源管理和全局调度引擎优化算力利用效率，可提供Notebook服务、分布式训练、模型推理服务、资源管理等功能，以支持用户进行灵活的开发、高效的训练和部署；通过算力并网技术，提供多元异构算力支持、多编辑框架、多人工智能平台支持，可实现一站式、无切换地使用国内外主流AI加速卡，满足用户多样化的智算算力服务需求。
百聆·翻译助手系统架构图
当前，算力已成为助推各行各业数字化转型的关键力量，ChatGPT爆火之后，人工智能浪潮来袭，以大模型为代表的AI方案逐步深入千行百业，是推动科技跨越发展、产业优化升级、生产力整体跃升的战略性力量。然而，在日益激烈的大模型竞争中，对参与主体的经济抗衡力、行业影响力、技术竞争力以及商业角逐力等都提出了很高的要求。那么高校、科研机构以及行业内中小企业想要拓展大模型的创新应用，就需要另辟蹊径。
因此，依托信息高铁综合试验基础设施的信息高铁智算算力网AI平台，成为高校、科研机构以及中小企业拓展大模型的创新试验和应用的首选平台。
信息高铁智算算力网AI平台重点解决用户的3个核心痛点问题：
1、如何以更高性价比的方式一站式获取高质量高可靠的算力服务？
信息高铁智算算力网AI平台依托信息高铁综合试验基础设施，实现“异构异属异域”的智算算力并网，用户可以使用一站式智算算力服务，并对智算算力资源进行统一纳管、统一规划、统一标准、统一使用和统一管理，能够满足不同任务获得合适的算力支持，并最大程度的提升算力利用率，实现资源的高效细粒度和按需付费，实时申请，实时释放。
2、如何解决智算算力使用过程中的文件管理碎片化、数据孤岛等问题？
信息高铁智算算力网AI平台提供数据全域统管，为用户提供统一视图的文件管理服务，统一接入，逻辑隔离，统一管理，以解决用户在使用智算算力过程中的文件碎片化、数据孤岛等问题。
3、如何实现模型的高效训练、部署和执行？
信息高铁智算算力网AI平台提供分布式训练功能，用户可以同时利用多个计算资源对大模型进行并行训练，这样的方式不仅加快了训练速度，还有助于提高模型的精度和准确性，从而加快创新和开发速度。同时，智算算力网AI平台还支持在云原生环境中进行模型推理，这意味着用户可以更快速、更高效地部署和执行模型。这种方式可以实现更快的响应速度、实时推理和即时决策，有助于优化业务流程和用户体验。
为方便用户把更多的时间和精力专注于业务发展和创新，信息高铁智算算力网AI平台融合了多方运营管理平台，统一了账户管理、资源规格管理等业务模块，这种一站式服务优化了用户体验，提升了运营效率，用户可以更便捷地管理和优化资源，专注于业务发展和创新。
信息高铁综合试验基础设施是面向国家重大战略需求的新一代算力基础设施，获得江苏省重大科技基础设施预研项目和南京城市算力网创新型产业集群项目的大力支持，参与“东数西算”工程，服务全国一体化算力网建设。依托信息高铁综合试验基础设施的信息高铁智算算力网AI平台，面向异构异属异域的智算算力网场景，已服务几十家客户，涉及多语言大模型、医学大语言模型、AI大模型生长训练、大模型智能客服等领域，赋能行业智能化转型的创新实践。信息高铁智算算力网AI平台现已对外开放，欢迎有需要的伙伴合作试用。
联系方式：
联系电话：15380837880（微信同号）
