企业级智能体AI正达到临界点，技术领导者面临快速部署AI并让其接管重复性任务的压力。
超过一半的技术领导者预计在一年或更短时间内将人工操作从流程中移除，近五分之四的公司将AI智能体视为需要身份和治理控制的实际用户。
然而，企业要想从技术中受益而非处理自动化错误，为AI建立防护机制是关键步骤。随着公司扩展AI智能体应用，CIO们知道真正的挑战不是部署AI，而是安全有效地管理它。
当AI得到妥善管理时，团队可以在保护关键资产的同时，自信地在整个企业范围内扩展应用。如果放任不管，未经检查的AI可能导致幻觉、不当输出和范围蔓延。
这并不是说我不支持企业中的AI应用。我坚信其好处和改变技术格局的潜力。但CIO在部署工作中战略性地行动很重要。
AI的发展速度超过了我在技术行业30年来见过的任何事物，领导者期望立即获得投资回报。57%的技术领导者期望在几周内看到可衡量的AI影响，而2024年这一比例仅为16%。近十分之一的人希望在几小时内获得投资回报。
期望很高，大规模转型的潜力也很大，但只有在深思熟虑地部署，对所有AI行为进行控制和可见性管理的情况下才能实现。
有远见的CIO将把重点放在AI防护机制上，就像关注技术本身一样，甚至更多，以确保AI系统按预期执行并能安全大规模运行。
要实现AI的长期价值和投资回报，CIO首先需要建立包括可观测性、监控、安全、治理和可解释性在内的防护机制。
每个组织和用例都不同，因此适当的防护机制会有所差异。领导者必须征求业务各部门的意见，确保涵盖所有方面。
当AI防护机制获得高管赞助、全公司的一致和协作时，效果最佳。从CEO到首席数据官，每个人都应该支持AI治理，定期开会讨论其相关性。
CIO可以通过创建跨职能协作论坛来发挥领导作用，将相关利益相关者聚集在一起，欢迎就价值交付、风险评估、合规视角和技术启用进行考量。
在AI部署的初始阶段，我倾向于坚持我们称之为"人在环路中"的策略。例如，在网络中，AI可以基于环境做出建议，但人工网络工程师仍必须批准AI行动。
由于网络对组织各部分都至关重要，AI不能无约束运行，但它可以将IT员工数小时的工作浓缩为审查和批准解决方案。随着团队逐渐建立对AI的信任，它可以更自主地运行，但从"人在环路中"开始是一个有效且简单的防护机制。
与在AI周围设置防护机制同样重要的是准备员工使用它。
数据分析、AI/机器学习专业知识和网络安全中的AI正成为需求旺盛的技能，需要持续的技能提升和组织变革。AI的快速发展使培训成为持续关注的问题，近一半的技术主管将技能提升列为AI实施方面的五大关注点之一。
CIO需要确保IT团队为AI做好准备，能够部署和支持AI解决方案，同时与人力资源部门合作，为整个组织的员工提供负责任使用AI的技能和指导。
公司需要投资建设AI素养，确保员工是AI工具和平台的明智消费者。正如网络安全专业人员所证实的，无论设置了多少预防措施，如果钓鱼邮件通过了漏洞，最终决定是否点击的还是员工。
更精明、更有知识的员工队伍更安全，这也适用于AI。无论你在AI周围设置多少防护机制，我们都无法预料每种情况。如果我们想整合AI来提高效率，就必须信任员工正确使用它。
我乐观地认为我们会解决AI治理问题，特别是当我们将重点缩小到扩展那些提供真正业务价值的试点项目，而不是尝试各种概念验证并看哪个有效。
这种方法将创造缓冲时间，让我们的治理跟上技术发展。有了适当的防护机制，AI可以释放巨大价值，帮助组织更快创新、更高效运营，并大规模推动可衡量的成果。
Q&A
Q1：什么是"人在环路中"的AI策略？
A："人在环路中"是指在AI部署初期，让AI基于环境做出建议，但仍需要人工专家审查和批准AI的行动。例如在网络管理中，AI可以提供解决方案建议，但网络工程师必须最终批准执行。这是一个有效且简单的防护机制。
Q2：为什么技术领导者对AI投资回报的期望这么高？
A：57%的技术领导者期望在几周内看到可衡量的AI影响，比2024年的16%大幅上升，近十分之一的人甚至希望在几小时内获得投资回报。AI发展速度超过了技术行业30年来的任何技术，领导者面临快速部署和立即见效的巨大压力。
Q3：CIO如何建立有效的AI防护机制？
A：CIO需要建立包括可观测性、监控、安全、治理和可解释性的综合防护体系。关键是获得高管支持，创建跨职能协作论坛，征求各部门意见。同时要投资员工AI素养培训，确保团队既能部署AI解决方案，又能负责任地使用AI工具。
科元网提示：文章来自网络，不代表本站观点。
