是否要用生成式AI？这个问题2025年已经没有争议；如何提升生成式AI的项目成功率？这才是很多企业目前真正面临的核心问题

文｜吴俊宇

编辑｜谢丽容

2025年，生成式AI（人工智能）已经从概念走向现实。

企业使用生成式AI是循序渐进的，通常是先在个别业务部门进行试点，经过PoC（早期概念验证）之后，再规模化落地。

过去一年，生成式AI的落地进程迅猛。这表现在两个层面——使用生成式AI的企业比例大幅增长，生成式AI落地的企业部门数量也大幅增长。

国际管理咨询机构麦肯锡2025年3月调研101个国家的1491个企业管理者发现，2024年末已经至少有71%的企业正在使用生成式AI，在三个以上业务部门中使用生成式AI的企业超过45%。这两项数据相比2023年均大幅增长。

是否要用生成式AI？这个问题在2025年已经没有争议。如何提升生成式AI的项目成功率？这才是很多企业真正面临的核心问题。

因为近六成的生成式AI项目都会胎死腹中。国际市场调研机构Gartner今年6月发布的《2024年企业AI需求调查》显示，生成式AI热潮正促使大量试点和PoC项目启动。然而，从平均数据来看，仅有41%的生成式AI试点项目能成功进入生产阶段。

生成式AI项目失败后，会带来各种负面影响。对企业的直接伤害是财务预算、算力资源会沉没。间接伤害是，项目可能会剩下一批实验性的、文档不全的代码和系统，遗留下长期技术债务。更严重的问题是，这会让企业管理层在后续技术尝试中变得畏首畏尾，企业可能会错过智能化转型的战略机遇期。

生成式AI项目想要顺利落地，需要做好前期准备工作。6月19日的亚马逊云科技中国峰会上，亚马逊云科技大中华区总裁储瑞松表达了一个观点——企业若要最大化AI的价值，应该在技术层面做好三件事：

第一，需要统一的AI就绪的基础设施；第二，需要聚合并治理过的AI就绪的数据；第三，需要明确的策略和快速高效地执行。

为提升客户项目成功率，亚马逊云科技在全球组建了一支名为“生成式AI创新中心”的团队。这个团队有超过400名专家。它会在从0到1阶段协助企业PoC项目落地，并在从1到10阶段帮助企业量产项目并取得正向ROI（投资回报率）。

目前，亚马逊云科技“生成式AI创新中心”已协助1000多家全球企业落地生成式AI的项目，该团队在中国服务的客户，有82%进入了灰度生产或生产阶段。这远超Gartner调研中41%的行业平均水平。

为什么会失败？

生成式AI技术还在发展早期，大多数企业还在探索阶段，因此项目失败率极高。

“近六成失败率”这个说法看似惊悚，但其实并不为过。这个数字在中国市场甚至会更高。多位中国企业IT部门负责人的看法是，中国本土企业的生成式AI项目成功率甚至可能只有20%左右，这远低于Gartner的调研数据。Gartner的这项调研其实是在全球展开，而参与这一调研的企业，原本就有一定数字化基础。

一位中国美妆企业数字化中心负责人的观点是，大多数未参与Gartner调研的企业对生成式AI认识还是“看不见、看不起、看不懂”。某些企业的管理层AI意识很薄弱，这类企业失败率更高。

哪些原因导致了生成式AI项目落地失败？其中包括但不限于四大类——算力成本高昂，数据准备工作不足，专业人才储备不足，投资回报率难以计算。

一位中国大型央企集团CIO（首席信息官）分析，他们过去一年和集团数十家不同行业的子公司CIO多轮讨论后，发现算力、数据、人才、投资回报率是大家落地生成式AI时面临的共性问题。

算力价格是大多数企业关注的首要因素。斯坦福大学在《2025年人工智能指数报告》指出，过去18个月（2022年11月-2024年10月），算力价格降幅超过280倍。不过，行业普遍的看法是，算力价格仍然未降到企业可以“无痛”使用的阶段。

选哪种芯片、哪种云、哪种模型，这些问题仍困扰着很多企业。尤其对很多中国传统行业的企业来说，它们过去习惯了自采、自研。但如今，芯片采购成本和模型训练成本极高，如果延续私有化部署的做法，成本将无法承担。

数据准备也是一个重要因素。理论上，所有企业都能够采购到能力相同的模型。因此，真正拉开企业AI能力差距的，变成了高质量的专有数据。

高质量的专有数据，需要经过数据治理去挖掘。上述中国大型央企集团CIO解释，过去做数据治理，数据是“给人看的”，但现在数据是“给机器看的”。人看的是经营、协同、流程等业务数据，最终形成报表给少数管理层做决策。但机器需要大量有连续性、有时间切片的数据。因此AI时代的数据治理方式完全不同，治理难度也大幅提升。

他认为，按照这个新标准，很多企业过去的数据资产，价值已经大打折扣。

人才也是一个问题。真正有经验，成功让生成式AI项目落地的人才极少。“没有方法论，硬着头皮干”是很多企业落地生成式AI项目时的常见做法。

目前，最好的算法工程师和AI应用人才都在科技公司，而不在传统企业IT部门。上述大型央企集团CIO的观点是，“单靠自己的人才储备，绝对搞不定”。至少在项目前期，必须有科技公司的工程师驻场，但这通常是极少数大客户才能享受的待遇。

计算投资回报率也是一个真难题。企业的生成式AI项目立项至今普遍不过2年，ROI计算方式还不算成熟。两种粗略计算方式是，“节省了多少人力成本”“节省了多少营销预算”。

但这两种计算方式都相对局限，算不上系统、科学。上述大型央企集团CIO表示，过去的数字化转型项目有成熟方法论，投入产出容易算清楚，降本增效也能预估，估算完才能批预算。但现在的生成式AI项目，没人能拍着胸脯保证产出。一切都在探索中，很多企业负责人不敢决策。因为投入越高，对结果的预期就越高，风险也就越大。

表面看，上述四个问题导致项目失败。但根源还是企业管理层“缺少顶层战略规划”。

亚马逊云科技“生成式AI创新中心”中国区人士介绍，他过去两年服务100多家中国客户后，发现项目失败的企业管理者通常有一种共性心态——没找到明确的业务场景，只是因为AI很火很新，想做个项目试试。

他解释，“试一试”心态存在巨大隐患。企业管理者在项目启动前，缺乏顶层战略规划，对ROI和MVP（Minimum Viable Product，最小可行性产品）也没有明确和现实的认知，“当项目需要量产优化，会面临多维度考量的决策，这时容易动摇。”这会直接导致项目失败。

如何提升成功率？

目前大多数生成式AI的项目，生命周期不到两年。如何确保成功率？如何考核ROI？这几乎是无人区。

为提升客户的项目成功率，亚马逊云科技2023年6月组建了一支名为“生成式AI创新中心”的团队。这个团队成立之初仅有100余人，如今已有超过400位战略顾问、应用科学家、数据科学家、开发专家。它具备前期战略规划、中期落地实施、后期成果监测的能力。

在这个无人区，亚马逊云科技“生成式AI创新中心”取得了一定的进展——近两年为全球超过1000家客户落地了生成式AI项目，该团队在中国服务的客户，有82%进入了灰度生产或生产阶段。

一位中国头部云厂商资深架构师分析，大多数云厂商通常不会养一个这么“重”的团队，因为人力成本太高。但生成式AI技术还在发展早期，哪怕是四大IT咨询机构（埃森哲、德勤、安永、普华永道）也在摸索。生产工具的云厂商亲自下场服务标杆客户，可以缩短试错周期。

前述亚马逊云科技“生成式AI创新中心”中国区资深专家的观点是，生成式AI项目想成功落地，必须有人先帮客户走完“最后一公里”。他们通常服务战略级客户，期待的回报是——客户成功应用生成式AI技术后，业务能降本增效或开辟新收入来源。这是一种双赢。

亚马逊云科技的“生成式AI创新中心”通常只在企业AI项目“从0到1”的PoC探索阶段承担主力任务。

一种观点是，这与埃森哲、IBM等专业“咨询+实施”公司负责端到端的项目落地做法不同。“从0到1”侧重于探索和验证，这需要在“无人区”中，找到一条真实可行且有价值的路径。专业“咨询+实施”公司侧重从1到10的工程落地，它需要将验证可行的PoC项目，变成高效、可靠、可盈利并深度融入企业流程的生产级应用。

经过两年实践，亚马逊云科技探索出了一套相对成熟的生成式AI项目落地方法论。它分成四个步骤：场景评估、技术选型、量产优化、成功监测。

其一，场景评估。首先确定，哪些场景适合用生成式AI进行改造。尤其是找准能真正创造商业价值的应用场景。目前，容易切入的场景包括客服问答、营销文案、平面设计、代码生成、知识库、智能助手等。

“先找AI能改造的业务场景，不要为了技术而技术”。这是很多中国企业IT部门负责人的共识。一位中国合资车企基础架构负责人表示，一些车企开发的车内点餐AI Agent（智能体），就是典型的自嗨场景，这类伪需求容易沦为失败项目。一位新能源汽车算法开发应用专家解释，Agent除了开发成本，后续还有维护成本。

上述中国美妆企业数字化中心负责人的经验是，“找对AI场景之前，要先梳理清楚业务流程”。因为业务流程是固定的，找准AI场景后可以让流程加速。“先僵化、后固化、再优化，这样容易取得成绩。”目前，这家公司的社交营销场景取得了突出成果。他们利用DeepSeek生成美妆种草文案，再批量投放到社交媒体。

其二，技术选型。以模型为例，企业要在速度、成本和精度三个指标间找到平衡。好的方式是，选择几款合适的模型，像搭积木一样通过“多模型协作”达成目标。

一个国际化智能营销服务公司，今年初在业务中部署了十余款大模型，包括阿里Qwen系列、AI创业公司Anthropic的Claude系列、DeepSeek系列等。Claude承担英语和小语种营销文案任务，Qwen负责中文营销文案任务。

他们当时没有选大火的DeepSeek-R1。因为它的参数规模高达6710亿，部署成本高、难度大。他们反而选择了Qwen-32b（320亿参数）这款小参数模型，通过更低的成本实现了相同的业务目标。

其三，量产优化。项目进入量产阶段，需要持续优化成本结构、提升运营效率。

生成式AI从PoC进入量产阶段，考核大方向（比如模型准确率、效率）通常不会改变，但仍要根据实际情况动态微调。

上述亚马逊云科技“生成式AI创新中心”中国区人士介绍，项目量产后，通常会涌现出大量Badcase（与预期不同的坏案例）。这时候需要评估Badcase案例的出现原因，后续通过技术方案减少Badcase出现几率。

其四，成果监测。ROI是贯穿生成式AI项目生命周期的关键指标。其中又分成静态、动态指标。

技术基准测试指标通常是静态的，业务指标则是动态的。它可能涉及用户增长、产品口碑等市场反馈。上述亚马逊云科技“生成式AI创新中心”中国区人士介绍，团队必须确保交付项目的技术效率达标。因此，在硬性技术基准测试时，团队会在PoC阶段就和客户讨论并确定清晰定义可量化的成功标准——如模型准确率提升，文档处理时间缩短。

而动态业务指标，更多取决于企业自身的产品设计、市场策略和运营能力。这需要和企业客户共同努力。

企业内部组织僵化也会影响上述四个步骤的实施效率。如何打破组织沉疴？

亚马逊云科技全球技术总经理Shaown Nandi（肖恩·南迪）在一场小规模论坛提到——可以组建一个特殊的自主团队，任命一位全权负责的专职负责人，建立明确防护措施代替审批流程，通过客户反馈来衡量项目成功与否。

这也是一些中国科技公司管理层的看法。某头部科技公司的一位算法负责人对我们表示，企业可以单独成立一个开发AI应用的小团队。由这个团队独立完成一些AI应用Demo（样品）。原因是，有能力、有想法的人做尝试，这个过程会催生出很多意料之外的创新。

数据，正在成为决定成败的关键

场景评估、技术选型、量产优化、成功监测——这是企业生成式AI项目落地全周期的四个关键步骤。然而一个贯穿项目生命周期前后的决定因素是：数据准备。

因为，在相同模型条件下，企业专有数据才是真正的竞争优势。

前述科技公司算法负责人提到，他拜访客户时，遇到一些非常有远见的CIO和CTO，他们2023年以前就开始重视数据治理。因为，“不管AI技术未来如何变，整理好数据都是必要的。”

企业需要做好数据准备和数据治理。数据治理就像资源分类——把企业杂乱无章的原始数据（包括文本、图片、视频等）打标分类，整理成连续的结构化、半结构化数据。再喂给大模型，让它产出符合业务需求的高质量内容。不做好数据治理，AI“幻觉”（大模型由于数据错误等因素胡说八道）概率会变高，AI应用更是容易错误百出。

不过，目前困扰很多企业的核心问题是数据准备和数据治理的成本、难度极高，需要行业专家参与是普遍共识。

前述大型央企集团CIO介绍，他们目前思考的一条路径是，不盲目地追求数据的“量”，而是追求数据的“质”。他们希望筛选出小样本，但极精准、高质量的数据，尤其是能体现业务核心逻辑、适合机器学习的数据。但这需要对行业know-how（行业经验）有极强的理解，对模型特性深刻洞察的专家。

这种高质量的数据治理，要引入专业数据治理公司，付出高昂的人力成本、时间成本。一位云厂商大模型产品负责人曾感慨，一些无法通过算法自动标注的复杂数据，需要交给专业懂行的人，靠人工标注完成。极端情况下，一条数据标注成本就超过100元。

不过，亚马逊云科技为代表的云厂商正在提供全面的数据基础能力（如数据处理、数据集成、数据库优化等工具），帮助企业客户降低数据准备的成本。

上一轮数字化转型（2021年之前），云厂商搭建的数据中台常被诟病是“基建摆设”。企业数据存放在数据中台后，并没有被真正充分利用。原因是，传统数据工具很难处理企业内部庞杂且有价值的非结构化数据。

生成式AI在改变这个问题。大语言模型、向量数据库、多模态数据湖，这些新技术能理解、挖掘、盘活企业数据基建中存放的非结构化数据资产。数据因此能与业务结合，真正产生价值。

比如，货拉拉拥有海量的、非结构化的客服对话数据。如何有效利用这些数据一直是巨大的挑战。货拉拉利用了包括亚马逊云科技的Amazon Nova等大语言模型，将非结构化的对话数据，转换为根据对话意图关联的“图结构数据”。

简单理解，这可以把海量、杂乱的非结构化对话数据，转化为高质量、有结构的“AI可用数据”。这大幅提升了后续AI应用的效果。目前，货拉拉海外业务中，针对15个业务的生成式AI应用已上线。比如，通过大语言模型进行质检，货拉拉质检覆盖抽样率提升了10倍，更容易检测业务运营中的问题。

“小步试错、持续迭代”也在成为一种相对务实，且能降低门槛的数据准备思路。

以某中国出海游戏厂商为例，它有大量海外用户，不同国家的玩家语言不通，但他们希望在游戏中实时沟通。因此，实时语音转文字，再进行翻译功能成为刚需。

亚马逊云科技和这家游戏厂商采取了小步快跑的策略。先让功能快速上线，再在各种复杂场景中，逐步完成数据和产品的迭代。

一个来自中国企业CIO们的共识是——为AI时代而治理的数据，与过去的数字化转型阶段有本质区别。数据正在从过去利用率极低的沉没资产，变成与业务紧密相关的战略资产，它将决定企业智能化转型的成败。