“创新落地，生态共赢”2024澜舟科技大模型技术和产品发布会圆满举办！

2024年3月18日，澜舟科技在中关村国家自主创新示范区展示中心隆重举行了“创新落地，生态共赢”大模型技术和产品发布会。此次发布会取得了圆满成功，不仅展示了澜舟科技的大模型的最新进展和大模型技术的实际应用落地、生态构建的成果，更体现了其对未来发展的深度思考和战略布局。

北京平博pinnacle体育官网计算中心作为澜舟科技的算力服务合作伙伴，为孟子大模型的训练提供了好用可靠的算力资源服务。在发布会现场，北京平博pinnacle体育官网计算中心与其他用户和合作伙伴齐聚一堂，共同与澜舟科技签约并合影，以纪念这一重要时刻。

签约仪式合影

👇以下内容转载自澜舟科技公众号👇

开场致辞

北京市海淀区副区长徐振涛发表致辞

发布会伊始，北京市海淀区副区长徐振涛发表致辞。首先对澜舟科技大模型取得的突破和进展表示了祝贺。当前，全球人工智能技术高速演进，大模型创新成果层出不穷，面对人工智能发展机遇，海淀区时刻保持对于产业发展趋势和演进的敏锐性，始终站在国家战略高度，持续扩大已有发展基础和优势，全力打造人工智能产业高地。

一是科研力量持续引领创新。集聚了北大、清华、中科院等顶尖高校院所，启源、中关村两个国家实验室，智源、通研院、科学智能研究院等新型研发机构和七家全国重点实验室。

二是顶尖人才汇聚。区内拥有众多人工智能领域顶尖科学家和产业领军人才，聚集了人工智能学者1.23万人，占全市的82%。AI2000全球顶尖学者89人，占全市73%。

三是产业链企业高度集聚。围绕重点环节，已基本形成芯片、框架、大模型等全产业链部署，集聚企业近千家，占全市的2/3，全国的1/6。大模型企业、机构超90家，并且数量持续增长。通过备案的大模型36家，占全市的72%以上，初步围绕中关村、知春路、学院路等周边地区在全国率先形成了人工智能大模型产业集聚区。

四是产业创新生态较为完善。截止到目前已经培育20家独角兽企业，占全市的60%，企业在人工智能领域，授权发明专利数量8.1万件，占全市的62%。去年，国家发改委公布第一批66个国家级产业集群评审结果，海淀区人工智能产业集群获评优秀，也是全市唯一获评优秀的产业集群。同时海淀区紧抓通用人工智能发展机遇，印发了《关于加快中关村科学城人工智能大模型创新发展的若干措施》，围绕大模型研发所需创新资源和共性需求，从算法、算力、数据、全流程加强要素供给，从场景应用、资本、评测体系、人才与国际合作、孵化培育、监管、伦理等方面完善生态，加快推动人工智能产业有序健康发展。

2023年是生成式人工智能大模型发展元年，行业应用出现井喷式增长，澜舟科技作为北京市大模型合作伙伴计划成员单位，是驻区代表性大模型企业，在预训练技术、规模化技术、工具链技术、推理部署技术等方面均有深厚的积累，成立两周年以来，也在产业应用方面做了大量的工作。大模型产品已经在金融、文娱、翻译等领域落地应用，为产业智能化发展提供了坚实的支撑。

下一步，海淀区将深入贯彻国家北京市关于加快新一代人工智能发展的战略部署，发挥中关村科学城在人工智能领域产业资源密集、体系完备的发展优势，持续支持大模型前沿研究及应用发展，加快打造具有国际影响力的通用人工智能创新生态。

最后，希望澜舟大模型持续取得重大突破进展，进一步促进与繁荣我国通用人工智能大模型生态！

AI2.0平台变革进行式

随后，创新工场董事长、零一万物CEO李开复博士进行了《AI 2.0 平台变革进行式》主题演讲。

创新工场董事长、零一万物CEO李开复博士正在演讲

李开复博士指出， AI 2.0 模型能力突飞猛进，通识理解已经超越人类专家。AI 2.0 通过图灵测试并趋于成熟，揭示下一个平台级变革 。新一代创新应用需要新的技术平台，基于强大的底层技术搭建出高效的开发工具, 从而节约开发生态做创新产品的成本，促进包括新产品、新业态、新的商业模式的全新应用生态。

随后，李开复博士展望了AI 2.0未来的四大趋势：

• 最革命性的 AI 2.0 应用应该是 AI-First / AI-Native：最终脱颖而出的应用属于那些敢于全力投入新技术的先驱者。大语言模型的引入为      AI-First 应用带来了巨大的推动力。
       

• 大模型始于文本，未来将拓展至“全模态”：跨模态生成技术是实现认知和决策智能的转折点。现实世界的信息是文本、音频、视觉、传感器以及人类各种触觉的综合体系，要更为精准地模拟现实世界，就需要将各种模态能力打通，例如文本-图像、文本-视频等跨模态甚至全模态的综合能力。
• AI 2.0 将超越对话，从聊天工具到智能生产力工具：用户体验以及未来交互界面和商业模式都会发生大的变革。
• AI 2.0 将走向实体，大幅提振社会生产力：具身智能可以让机器人制造机器人， 进一步实现AI 2.0 + 生产线智能规划。

最后，李开复博士表示AI2.0趋势要能落地，需要最优秀的、能专注场景实践的合作伙伴。澜舟在基于大模型面向企业市场落地方面已经有了非常好的基础，零一万物在千亿级大模型、多模态方面会投入更多力量，此次大会澜舟科技和零一万物进行了战略合作签约，双方优势互补，强强联手，预期一定会取得更大的突破。李开复博士作为零一万物的创始人兼CEO和澜舟科技创始人兼CEO周明博士在台上握手致意，现场来宾共同见证了这一激动人心的时刻！

周明博士与李开复博士握手达成战略合作

在议程中间环节，本次发布会也很荣幸播放了众多知名专家、学者和企业家们录制的视频寄语，他们分别是：中国科学院院士张钹、中国中文信息学会名誉理事长李生、中国工程院外籍院士张亚勤、美国国家工程院外籍院士沈向洋、北京航空航天大学机器人研究所名誉所长王田苗、微软全球资深副总裁周礼栋、阿里云智能集团CTO周靖人、同花顺创始人易铮、中文在线创始人童之磊、传神语联网CEO何恩培、创新奇智CEO徐辉、创业黑马董事长牛文文等。这些寄语不仅是对澜舟科技的鼓励与支持，更是对人工智能产业发展前景的肯定与期待。

“一横N纵”孟子大模型系列及产品发布

在澜舟科技最新技术和产品发布环节，澜舟科技创始人&CEO周明博士发表了《大模型技术和应用双轮驱动加速创新》主题演讲。他回顾了澜舟科技的发展历程，并展望了未来的发展方向。他强调在数字化浪潮中，以大模型为代表的人工智能正在重塑人类的未来。2024年将是大模型落地元年，如何利用大模型技术助力企业成长已成为业界关注的焦点。

澜舟科技科技创始人&CEO周明博士在演讲

2021年6月，澜舟科技正式成立， 致力于自主研发大模型技术和行业应用，在去年3月发布了孟子GPT V1（MChat），今年1月孟子大模型GPT V2（含孟子大模型-标准、孟子大模型-轻量、孟子大模型-金融、孟子大模型-编码）对公众开放。

周明博士强调，澜舟科技注重技术和应用双轮驱动。在积极研究和掌握前沿技术的同时，公司也致力于确保这些技术的有效应用。在每一个关键技术发展的时期，澜舟科技都会携手客户及合作伙伴，如传神、数说故事、华为云、华夏基金、同花顺、中金公司等，共同开展深入合作。通过深入应用场景、精准把握用户需求，澜舟科技不断推动技术和产品的迭代升级，力求在激烈的市场竞争中保持领先地位。

周明博士回顾了过去一年来大模型的迅速发展：

• 大模型的能力得到快速提升：在更长的上下文处理能力、数学能力和推理能力、安全对齐等方面得到大幅度增强。
• RAG（检索增强生成）：通过结合搜索相关数据库的结果与用户指令进行生成，可有效改善模型幻象、实时性、数据安全等问题。
• GPTs：用户基于大模型的超强能力方便地搭建自定义的GPT。
• 多模态大模型：SORA突破了4秒钟限制，可以生成60秒的视频，而且生成的视频质量大幅度提升。
• 大模型原生应用方面略现端倪：譬如，利用大模型构建AI搜索、角色扮演聊天、数字人等。
• 大模型开源：LLaMA等开源模型有力地推动大模型的普及和发展，也显著地改变了大模型的竞争格局。

2024年将是大模型落地元年， 各界热切期盼大模型能结合不同行业的场景应用，实现规模化效用。政府工作报告新鲜出炉，特别强调以人工智能+，驱动各行各业的转型升级。周明认为要把握好这个历史契机，通过落地，创造价值，拉动创新。要做好大模型落地，周明表示，互联网的七字法则仍然适用：专注、极致、口碑和快，还要再加上成本，形成大模型落地九字法则。

周明强调，大模型ToB应用要解决四个大问题：训练和部署成本、行业适配性、幻象、数据安全，并解释了澜舟科技在这四个方面所作的努力。

此次发布会的核心为”一横N纵"体系，其中的“一横”即为孟子大模型技术，而“N纵”是基于孟子大模型的面向ToB应用最重要的技术和产品。希望通过“一横N纵”，彻底贯彻大模型落地九字法则：专注、极致、口碑、快、成本。

周明博士首先介绍了从预训练，到SFT，到强化学习，安全，降低幻觉的完备的孟子大模型训练体系。孟子大模型离不开背后的高质量的数据集—Mengzi-3数据集，总规模为3T tokens，包含了网页、代码、书籍、论文等高质量数据来源。

最后，在Mengzi-3语料数据的加持下，澜舟团队在近期完成了Mengzi3-13B的大模型训练，在常见公开数据集，如MMLU，Chinese-MMLU，GSM8K，HUMAN-EVAL等评估模型效果来看，该模型在各项基准测试中与相仿参数量大模型相比，中英文语言能力成绩领先。

针对大模型训练和部署的成本高的问题，澜舟科技专注把ToB场景使用最多的LLM模型（参数量7B、13B、40B最高到100B）做到最佳并大幅度提升大模型的推理效率。

3月30日Mengzi3-13B的模型将在GitHub、HuggingFace、魔搭和始智AI社区开源，届时也期待社区更多的反馈。

针对大模型的行业落地适配问题，周明博士再次重申了L1-L2-L3-L4的层次化分级服务体系， 基于L1-通用大模型，在此基础上加入行业数据训练出L2-行业/垂直大模型，如金融、编程大模型。针对重要场景，在L1或者L2模型基础上finetune，实现L3大模型。最后Agents可以调用L1-L2-L3任何一层的模型形成完整的一个特定任务。

针对大模型的幻象问题和用户数据安全问题，孟子大模型提出了改进的RAG能力。通过孟子大模型理解用户意图，可分别经过大模型自身，或者通过RAG查找用户知识库，甚至通过Web搜索，最后多路召回搜索结果，经过排序输出最可信结果。

在总结阶段，周明博士强调大模型创业所需要的生态环境非常重要， 澜舟一方面聚焦自己擅长的能力和场景，另外一方面会注重与开源社区、与客户和合作伙伴携手共进，共同拓展更广阔的市场空间，实现互惠共赢的局面。

在孟子通用大模型这“一横”之上，澜舟科技合伙人、首席产品官李京梅向与会观众详细介绍和发布了“一横N纵”的应用能力型产品，包括AI文档理解、文档问答、文档辅助写作、机器翻译、澜舟智会、AI搜索。

澜舟科技合伙人&首席产品官李京梅在演讲

在值得关注的行业/垂直大模型中，澜舟科技目前重点投入到了金融行业，辅助编程等领域，旨在通过更加全面、专业、优质的领域数据，打造更加贴近行业场景的垂直大模型。

AI文档理解 – 基于孟子文档理解大模型提供专业的文档解析和信息提取能力。该产品涵盖专业的PDF文档解析能力和信息抽取能力。它为RAG方案中的文档理解提供了更优的基础能力。在与新华智云共建文化大模型，以及其他众多AI文档理解，信息提取类客户场景中均已使用。

AI文档问答 – 助力构建企业智能知识库。该应用产品服务提供了文本、表格内容处理的高效、准确解析能力、基于AI搜索赋能的基于文档的知识库问答、生成摘要和观点，以及可信的内容回溯。根据企业需要，提供私有化企业智能知识库构建的解决方案能力。日前，中金公司的中金点睛投研平台已经开始集成澜舟公司的针对研报等封闭式文档问答以及针对路演会等会议纪要的搜索、问答和摘要。

除了文档理解、搜索和问答，本次发布也推出了面向场景的可控AI写作助手 - AI文档辅助写作。该产品支持用户上传多个文档作为参考资料，支持自定义多级题目和写作提纲，由大模型赋能自动化按要求生成完整的文章初稿，目前已经在联通客户项目落地，为其数智化投研平台提供了智能研报写作的能力。

李京梅也提到，之前已经发布过的澜舟智会和机器翻译近期也都做了背后模型能力的升级。

澜舟智会是一款专注会议内容的智能分析和问答的产品， 是基于大模型打造的大模型原生的智能会议助手。它采用大模型技术对文字进行可读性优化，提供全文智能摘要总结，基于话题智能划分章节，提供要点导航，以及针对AI搜索结果提供可靠原文追溯。澜舟智会目前已经在人保科技部署，为员工提供智能会议助手服务。

澜舟机器翻译平台专注以中文为中心的世界主要语种之间互译和20几个领域的专业翻译，均具备了世界一流水准的翻译精度和性能，已经为华为、传神、中金等客户提供服务。

除此之外，澜舟还与新华智云合作，利用文化历史、地方志、诗词等数据共拓文化大模型；与某头部企业合作，通过历史客服对话数据进行大模型训练，升级在线机器人/虚拟数字助理的效果，技术验证可以实现意图识别率提升5%，问题解决率提升14%。

产品发布之后，李京梅邀请部分在京的客户和合作伙伴公司代表上台，请周明博士向他们回递合作签约协议并合影留念。澜舟科技将积极与产业链上下游企业合作，共同打造一个开放、共享、协同的技术生态，推动整个行业的快速发展。

之后，澜舟科技合伙人、算法和应用VP马永亮分享了《澜舟AI搜索—大语言模型时代的搜索引擎》。

马永亮指出当前我们正处在一场搜索技术和产品体验变革的浪潮之中。大模型和检索增强架构的引入，为搜索领域带来了革命性的变化。大模型技术让搜索引擎能够更好地理解用户的搜索意图和上下文，从而提供更精准、更个性化的搜索结果。此外，大模型的应用还使得搜索结果的总结和推理能力得到了极大的提升。通过对海量数据的学习和分析，搜索引擎能够为用户提供更加全面、准确的搜索结果，并且能够基于用户的搜索历史和偏好进行智能推荐，从而提升搜索体验的质量和效率。随着大模型技术的发展，我们可以预见到搜索引擎将会向着更加智能化、情景化和个性化的方向发展。在这个过程中，人工智能技术将会扮演着越来越重要的角色，而大模型技术则会成为推动搜索引擎发展的核心驱动力。

马永亮进一步深入分享了大模型技术应用在搜索领域的一些实践和探索。

首先，向量检索模型是深度学习、预训练广泛应用于搜索技术中最有代表性的技术之一。它改进了检索召回的效果，对于基于关键词的召回方法起到了非常好的补充作用，加强了在检索阶段语义理解和匹配的能力。我们正在探索如何通过大模型的领域数据合成来提升检索模型在垂直领域的泛化能力。这一创新意味着我们能够更好地适应不同领域的搜索需求，从而提供更加准确和全面的搜索结果。

其次， 马永亮还讲到他们在工作中引入了大模型和小模型结合的非对称嵌入模型，在提高检索的召回率的同时保持搜索的效率。基于大模型的嵌入模型对比小模型优势明显，但是在实际应用中还是会因为大参数量造成计算资源和推理时间明显增加。大模型和小模型结合的非对称嵌入模型，充分利用了大模型的优势，使得在保证检索效率的同时，提升搜索结果的质量和准确性。

最后，将检索和排序模型进行联合训练，以进一步提升搜索结果的质量和准确性。

此次AI搜索分享还包含了搜索Agent优化策略的创新与实践。目前团队正在探索如何通过基于领域知识和用户搜索反馈数据构建偏好数据，利用DPO算法，为搜索场景优化Agent大模型，使模型能够准确地分析用户的意图和搜索系统对当前搜索的反应，为每个搜索决定调用哪些搜索模块，以及如何规划搜索流程。

另外，马永亮为大家介绍了基于大模型技术的搜索情景化和个性化。这意味着用户无需过多关注搜索关键词的选择，同时，流通在系统中的结构化的上下文信息和个性化信息可以以语言的形式表达出来，搜索引擎能够准确把握用户的意图，并提供满足情景化和个性化搜索需求的结果。其中涉及为情景化和个性化专门优化的大模型，基于大模型和场景语料等构建Narrative搜索需求分析等数据专门训练，表现更优。

目前，“澜舟AI搜索”已经在澜舟官网上线，欢迎大家试用。

在最后圆桌论坛中，澜舟科技创始人兼CEO周明、中关村数智人工智能产业联盟理事长，原小米集团副总裁崔宝秋、智象未来创始人兼CEO，加拿大工程院外籍院士梅涛、零一万物联合创始人祁瑞峰、澜舟科技合伙人、首席产品官李京梅等五位嘉宾围绕大模型技术的发展、应用和创新商业模式展开深入探讨和交流。

2024澜舟科技大模型技术与产品发布会的圆满落幕，标志着澜舟科技在技术创新、应用落地和生态构建方面又向前迈出了坚实的一步。未来，澜舟科技将继续秉承“创新落地，生态共赢”的理念，与客户和合作伙伴一道共同推动科技创新和产业发展。

再次感谢北京市、海淀区、中关村科学城，澜舟的各位投资人（创新工场、科学家基金、联想创投、斯道资本、中关村科学城等机构）、客户、合作伙伴、媒体机构、和广大关注我们的朋友们！