2024 年 6 月 14-15 日 ，ArchSummit 全球架构师峰会在深圳举行，Thoughtworks中国区总经理肖然受邀出席本次会议，发表题为《大模型时代的AI能力工程化》的主题演讲。
Thoughtworks中国区总经理肖然
ArchSummit 全球架构师峰会是集结了全球顶级技术专家和行业领袖的盛会，旨在为技术管理者、软件架构师等提供一个深度交流、学习与合作的平台。本届峰会吸引了1000多名架构师参会，邀请了100余位国内外技术专家，就人工智能、大模型应用、智算平台建设和应用实践、高效算力建设等重要话题进行了全面分享。
作为一家集战略、体验和工程于一体的全球软件技术咨询公司，Thoughtworks致力于推动数字创新，一直关注前沿技术发展和应用，在数据与人工智能服务等方面也有深入探索。在此次演讲中，肖然结合Thoughtworks的实践，深入分析了当前AI技术的发展现状、所面临的挑战，以及如何实现AI能力工程化和规模化应用等内容，为与会人员提供了宝贵的参考。
应时而变：AI 2.0时代的机遇和挑战
肖然指出，AI已进入2.0时代，这一阶段的AI技术应用与AI 1.0时代存在显著差别。AI技术正在从依赖海量数据标注转向自监督学习，跨领域知识的基础模型出现后，微调适应不同领域任务的AI模型成本极低。随着AI技术的发展，应用场景更加多元，包括AI辅助软件工程、数据工程、AI驱动创新产品、AI增强个人能力、以及AI构建平台工程等。
出现了许多新的应用场景
AI技术的发展带来了一系列的新挑战，尽管AI技术在全球范围内广受关注和投资，但在实际生产环境中的应用远低于预期。据统计，全球AI技术在生产环境中的应用仅占实验阶段的3%。从实验室到实际应用，AI技术仍面临巨大鸿沟。在上一个AI时代，87%的AI模型开发项目未投入生产，且50%的时间花在模型部署上。
与此同时，AI虽然给用户带去了更多便利，但是对于研发者、工程师来说，融合AI技术的应用开发也会变得更复杂。纵观当前的AI 模型建设情况，其治理仍然很随机，面临难管理、难部署、难监控、难协作等共性难题。
谋定而动：探索AI能力工程化的发展路径
面对AI发展的新趋势和新挑战，将AI技术融入组织的研发、生产和运营流程，以实现系统化、可扩展和可维护的AI应用，即实现AI能力工程化，显得尤为重要。Hugging Face通过AI模型治理平台和应用社区吸引大家使用，实现了降低模型开发成本与模型开发难度，推动了模型交流与分享。肖然表示：“当前，AI能力工程化才刚刚开始，行业内正在探索MLOps过程管理和LLMOps模型治理的标准，但构建全流程的AI研发运营体系仍然任重道远。”
肖然还分享Thoughtworks总结的AI能力工程化的发展路径。该发展路径包括四个阶段，第一阶段要具备基础模型建设、标准化服务等基本能力；第二个阶段，通过自主服务知识库、模型微调、数据管理等，构建自助AI平台，实现标准化服务和管理；第三个阶段，通过SLA测量、版本化数据管理、自助服务基础模型微调等实现服务度量和全面治理；第四个阶段则是要借助数据循环、社区、GAI即服务等，实现引领创新与持续优化。
AI能力工程化发展路径
同时，Thoughtworks 还勾勒出了⾯向AI 2.0的企业级平台蓝图，通过持续的AI战略设计和规划、支持规模化的AI创新工厂、企业级的运营治理机制，做好打造企业级平台。
面向AI2.0的企业级平台蓝图
为帮助企业实现AI能力工程化，Thoughtworks充分利用其强大的技术能力和前瞻性洞察，勾勒出面向AI 2.0的企业级平台蓝图，打造了一个面向企业的AI PaaS平台——Gluon Meson。Gluon Meson平台内置标准化和安全性合规机制，提供多种主流大型模型的接口，帮助企业更好、更安全地使用各种大模型、管理数据、治理大模型应用，实现能力复用、审计合规、实践安全，提升应用效果，简化运维，降低成本。
协力向前：AI 2.0时代下的组织能力升级
肖然还阐释了AI技术对组织内部协作关系和工作流程的影响。他指出，在国家倡导新质生产力的大背景下，随着AI技术的引入，组织工作变得更加复杂，需要建立新的生产关系来适应新的生产力。这意味着组织需要重新审视其内部结构，以更好地利用AI技术带来的机遇。
在AI 2.0时代，企业要更加注重跨部门的协作和沟通，数据/算法工程师、软件工程师和业务专家需要紧密合作，共同推动AI技术的研发和应用。同时，企业要积极拥抱变革，建立产品思维和敏捷交付思维，构建灵活的组织结构，打造AI使能的团队，以适应快速变化的市场需求和技术发展。
AI2.0时代组织能力升级
肖然表示：“AI能力工程化的关键在于提升人的能力和认识。我们需要用负责的技术，低摩擦的运营模式，构建现代化的数据架构，打造人工智能驱动的数字产品与一体化平台，从而推动AI技术的规模化应用。在AI 2.0时代，Thoughtworks将始终站在技术创新的前沿，为企业提供全方位的支持和服务。我们相信，在大家的共同努力下，我们将迈向一个充满无限可能的数智化未来。”
大模型引领的AI2.0时代正汹涌而来, AI所带来的新一波商业潜能有望在各行各业加速点燃，进而助力提升人类社会的整体生产力。当然，各种挑战也将随之而来，考验着企业的生存能力、数字化能力、组织能力等。Thoughtworks将始终站在技术创新的前沿，携手更多合作伙伴勇往直前，为企业提供全方位的数字化转型支持和服务，与大家一起迈向一个充满无限可能的数智化未来。