本文摘自《云栖战略参考》，这本刊物由阿里云与钛媒体联合策划。目的是为了把各个行业先行者的技术探索、业务实践呈现出来，与思考同样问题的“数字先行者”共同探讨、碰撞，希望这些内容能让你有所启发。
如果说2023年是生成式人工智能(GenAI)元年，那么2024年或将是GenAI在行业侧应用扎根落地的伊始。
“所有ToB的应用场景都值得被AI重新赋能一遍。”酷渲科技CTO陈一玮说。
酷渲科技成立于2017年，是一家以“科技创新驱动人才与业务共同成长”为使命的互联网企业服务公司，旗下的核心产品——业培一体的企业学习平台“酷学院”，为企事业单位提供“SaaS平台+海量内容+运营服务”三位一体企业学习解决方案。
与一般的企业培训不同，酷学院深耕技术领域，从算法软件到综合解决方案都进行了升级，以“萃学练考用”的方法论进一步提升了行业竞争力与用户体验度。“萃学练考用”组织学习方法论是一套高效的企业学习方法论，在数字化时代背景下，它突破了传统培训模式的局限，全面提升了培训效果，实现了人才与业务的共同成长。
其实，早在2020年酷学院就尝试和阿里巴巴达摩院合作研发“AI出题”，不过当时的场景做出来之后，所有人都认为，让AI像人类一样精准地从海量知识库和题库里准确找出题目和内容，几乎是不可能完成的。然而，才过了三年，AI大模型就带来了颠覆性的改变。现在，无论是从速度还是质量来看，真正的“AI出题”新时代已经来临。
性能、成本兼顾，打造AI基座
无论哪个行业，当下使用AI大模型赋能业务时，性能和成本是绕不开的两个话题，教培行业亦是如此。
正是基于上述两个因素的考虑，在选择AI大模型应用方式时，酷学院采用了“开源模型+闭源模型”双管齐下的方式进行整体技术架构搭建。在闭源模型方面，酷学院目前主要采用了通义千问-Max和通义千问-Plus进行大模型产品的开发，并整合了部分通义星尘的个性化角色对话的能力。
在整体平台打造方面，酷学院以包括文档解析、音视频解析等在内的多种数据处理能力为基石，为AI大模型提供充足的“素材”，并以自用模型与通义千问大模型能力为AI基座，通过提示词工程、语义向量索引等技术手段，不断对模型进行工程化适配和调优，在原本的“萃学练考用”方法论的基础上，融合了AI大模型的能力，更深层次地挖掘并展现了AI大模型在平台上的效能。
“萃”方面，使用AI大模型文字生成、文生图功能，结合酷学院已有文字驱动表情、视频能力，AI导师可以根据参考资料、课程目标对象等自动生成符合企业要求的智能化课件。
“学”方面，基于AI大模型上下文理解、信息抽取、文本摘要等能力，酷学院将AI导学融入到在线课程学习中，智能总结课程关键内容，智能识别、切割课程内容，帮助员工快速高效学习课程。
“练”方面，酷学院使用AI大模型问答对话能力、丰富的多领域知识，特定或开放场景下提供模拟实战的、个性化的、实时互动的陪练体验，并根据个人的情况不断调整和拓展训练内容，高效训练快速掌握技能。
“考”方面，基于AI大模型上下文理解、信息抽取、文字生成等能力，酷学院可为用户提供根据课件智能出题，实现不同难度、不同类型(单选、多选、判断、简答等)，并结合酷学院已有能力发布并完成考试、练习，智能批阅试卷、作业。
“用”方面，通过AI大模型的问答能力，酷学院帮助企业构建了分权限隔离的AI知识库，并持续训练调优，形成企业专属的知识大脑，进而借助企业知识库和大模型的能力，生成各类方案，帮助企业员工高效传递并掌握知识，赋能整个业务运营环节，提升整体业务绩效。
与此同时，酷学院主要服务具有一定规模的中大型企业，其中一些企业对数据管理权限有着严格的要求，因此更偏好于内部培训以建立私有化的大模型或部署规模较小、更为专业精细的模型产品。通过融合闭源与开源的AI大模型策略，酷学院成功地平衡了安全与效率的需求，不仅有效降低了技术应用的门槛，还显著减少了企业的使用成本。
现在，酷学院通过阿里云提供的百炼平台进行数据的筛选、清洗、标注和训练，并调用通义千问-Max和通义千问-Plus的大模型能力进行赋能，同时也在百炼平台上整合了其他开源模型。从整体效果来说，这套平台架构和解决方案帮酷学院节省了很大一部分成本，也能为不同行业领域和不同培训需求的客户提供更好的服务。
在多类模型并行运用的情景下，酷学院感受到通义千问相较于开源的AI大模型，在整体模型的迭代效率与客服响应速度上都更好，不仅满足了酷学院对高效率的严格要求，而且在模型的有效性与准确性方面也展现出显著优势，这些能力都是酷学院在AI技术应用领域行业，持续保持领先地位的关键因素。此外，通义千问在与同类参数模型的对比中，凸显出更高的可用性和更优的性价比，契合了酷学院追求模型高性能与成本效益平衡的初衷。
六大“原子能力”落地，AI大模型全面重塑在线教培
以AI大模型为技术底座，酷学院重构了新一代“智能”学习平台。
在底层，通过文档、音频、视频、图片等数据的收集、归纳、划分、清洗、分析等环节，为大模型提供了高质量的学习数据，并通过针对不同行业、不同企业进行模型的微调，以酷学院AI基座为依托，重新定义一个高效、智能、个性化的学习生态系统。
同时，酷学院利用AI能力对六大核心维度分别进行了赋能：AI制课、AI导学、AI陪练、AI考试、AI问答、AI报表。通过六大原子级“AI技能”的赋能，进一步衍生了众多应用场景，切实提高了企业在应用学习平台时的效率和体验。
这背后是基于通义千问-Max+AnalyticDB向量数据库+音频转写构建的导师体系，该体系不仅具备大规模数据处理能力，还可以针对大规模语料和数据集进行优化分析。更重要的是，通义千问-Max的行业知识强化能力，可针对特定行业和领域进行训练，从而显著提升在该领域的专业度和准确率。
AI导师与常规C端AI聊天工具产品的不同在于：首先，每一个学员都能够配置自己个性化的AI导师；第二，基于高精准度的权限跟数据隔离，每一个学员的AI导师都具有独一无二的背景知识；第三，通过自动和人工两种方式来进行调优和纠偏，让AI导师的回答效果更加的精准，更加的个性化。
不仅如此，为了满足不同行业考题专业性的需求，酷学院还建立了提示词体系，将AI模型分为通用语料与专业语料，企业可以根据需求“喂”给AI大模型专业语料，这样编出的考题就更加专业。
“陪练”也是AI大模型赋能效果极佳的场景之一。在AI大模型问世以前，市面上已经有很多类似AI陪练的产品，但是这些产品基本都是基于NLP(NaturalLanguageProcessing,自然语言处理)技术，通过将固定的脚本放进去，产生机械式提问，AI对用户回答进行判断和打分。这样的陪练拟人化程度很低，陪练效果也不好。
酷学院基于通义星尘构建了一套“AI陪练”系统，以通义星尘的个性化角色对话能力，模拟真实练习场景，为学员打造专属AI“考官”，通过设定特定的“考官”角色，企业培训人员可以快速构建特定领域的知识体系。并通过动作、图片、表情等多种多样的交互方式，让整个业务培训过程更鲜活、更真实。
“AI陪练”彻底颠覆了原先NLP技术架构下一问一答的模式，经过简单的训练和推理后，用户可以设置各类的场景、角色，提供更加真实的陪练场景。据介绍，陪练场景大多是应用在销售、客服等服务行业的人员培养方面，这种更加拟人化的场景，以及复杂多变的环境和突发情况的陪练体系的建设，对于企业培养该方面的人才而言，起到了积极的推动作用。
目前，酷学院基于通义千问大模型对教学场景的改造正不断深入，还计划通过通义听悟、通义智文、通义灵码等不同能力继续构建更多AI+“X”场景，让客户切实感受到新一代AI大模型技术带来的组织效能的极致提升。
面向未来，酷学院也非常坚定要结合自身丰富的知识积累，最终打造自己的企业级培训专属大模型。经过多方比对选择和内部讨论，酷学院最终选择阿里云百炼大模型服务平台。基于百炼平台全链路的模型训练能力、多维度的模型评估工具、多种强化的垂直领域能力大模型，以及一站式在线用户部署，能够大幅降低酷学院对模型训练与部署成本。
降本、提质——未来挑战与机遇并存
即便当下酷学院对于AI大模型的应用已经取得显著成效，且应用场景打磨得也相对完善，但仍有不少优化空间。
首先，从大模型质量层面来看，当下市面上的大模型产品缺乏垂直类行业的知识储备深度、专有知识精准度，以及大模型的幻觉等问题都是制约大模型在行业广泛落地实施的瓶颈。针对这些问题，普遍的策略是通过采用MoE(MixtureofExperts，混合专家架构)的模式来解决。据了解，酷学院也有意尝试MoE架构的大模型产品，进一步针对平台上的若干功能进行精细优化与性能调优。
伴随AI大模型浪潮，包括酷学院在内的SaaS行业又迎来一场新的机遇。酷学院希望未来两年内，可以将AI大模型的能力全面融合到现有业务中，通过AI能力，实现降本增效。“我们会不断完善整体工程能力，争取以最低的成本，帮助用户训练他们所需要的、好用的AI产品。”陈一玮说。