第二届数字科技产业大会 | 数字化转型：赋能人工智能体
下午好！很荣幸今天在这里分享有关数字化转型赋能人工智能体的主题。在过去的两年里，自 2022 年 11 月 ChatGPT-4 面世以来，在数字化转型方面，业界就一直聚焦在人工智能和大语言模型 (LLM) 以及规模扩展上。
普遍观点认为，更强的算力必然会带来更好的结果。谷歌、Meta、OpenAI 等国际科技巨头与微软正在合作商讨投资数千亿美元来构建不断增长的大规模模型。然而，最近的趋势表明这种观点发生了重大转变。在过去的一个月中我们看到，收益递减规律导致大语言模型性能的投入产出比低于预期。从这些投入大语言模型的企业所展示的结果看到，如果仅靠扩展算力和数据规模，LLMs的性能增长将会远低于预期目标。此外，科技界一些有影响力的人物科技风险投资先驱：马克·安德森 (Marc Andreessen) 和本杰明·霍洛维茨 (Ben Horowitz) 最近发表声明，对持续扩大大语言模型的规模所产生的有效性提出问题。OpenAI 联合创始人伊尔亚.苏茨克维（ Ilya Sutskever ）表示，人工智能社区正在积极寻找替代仅靠扩大LLMs规模的替代方案。
鉴于此，我们可以重新审视数字化转型的定义。数字化转型是企业各个领域数字技术的战略整合，从根本上改变企业的运营方式和向客户创造价值的方式。目标是“为客户提供价值”。
我们如何利用人工智能为商业和客户带来真正价值？在过去的一年里，为商业和工业领域提供人工智能解决方案，特别是通过专注于某一特定领域或任务的垂直智能体，为企业自身运营以及行业客户提供有价值的服务。
那么，什么是垂直智能体？用以下一张图胜过千言万语，来清晰解释。
这个金字塔结构代表了垂直智能体的分层架构： 1、底层是大语言模型（LLM），提供基础的自然语言处理能力。如阿里巴巴、谷歌、百度、Meta、OpenAI 等 2、位于 LLM 之上的是数据处理层，处理行业特定数据并为更高级别的数据加工流程做准备。 3、专业知识层包含与特定行业或垂直行业相关的专业知识和规则。 4. 在最顶层是特定行业决策层，使用经过处理后的数据和专业领域知识为特定垂直行业提供定制化的决策与建议。 此结构说明了垂直智能体如何基于通用大语言模型为特定行业或任务创建高度专业化和有效的解决方案。 垂直智能体有以下特点： 1、具备特定领域的专业知识 定义：旨在单一领域或行业内，利用定制的算法和数据提供行业定制化解决方案。 示例：用于医疗影像的AI工具聚焦行业数据训练可以识别X光的异常情况。 2、高精度、高效率 定义：由于专注于一个行业并深度训练行业数据集，因此在特定领域或任务中表现出高精确度和高效率。 示例：系统通过分析患者的心电图数据，以极高的精度检测心律失常，从而减少诊断错误并节省心脏病专家的时间。 3、预定目标 定义：目标和任务在开发过程中定义明确，难以灵活应用在其他领域。 示例：虚拟助手旨在为患者安排预约，但不具备提供医疗建议的能力。 4、高效利用资源 定义：针对特定任务进行优化，与通用人工智能相比其需要更少的算力和时间。 示例：分类系统可根据患者症状快速对紧急情况进行分类，而无需分析不相关的数据。 5、行业特定数据利用 定义：依靠针对特定领域定制的大型数据集来实现精度和可靠性。 示例：用于分析电子病历以识别潜在药物相互影响的AI系统。 6、定制与集成 定义：它们通常会进行定制，以适应所服务行业的特定工作流和系统。 示例：专门为协助放射科医生而定制的 AI 工具，突出显示医疗影像系统中的可疑区域。 7、可预测的性能 定义：由于聚焦的任务范围较窄，其性能更易于衡量和优化。 示例：AI手术机器人在特定类型的手术中可靠地执行重复缝合任务。 8、成本效益 定义：与通用的人工智能解决方案相比，垂直人工智能体在开发和部署预定义任务方面具有成本效益。 示例：一种人工智能聊天机器人，在预约之前收集患者的症状和医疗病史，与一般的诊断人工智能相比，更高效简化了管理任务并减少了对额外人员的需求。 现在我们对垂直智能体有了更清晰的认识，重要的是我们需认识到，有效开发和利用这些垂直行业人工智能体需要两种关键类型的软件。第一种是数据集成和数据管理软件，这能够让企业完成下列主要流程： 1、数据收集和集成 第一步是从相关来源收集数据。对于垂直智能体，这通常涉及： • 从行业特定数据库中提取信息 • 集成实时的数据供给和传感器的输入数据 • 整合历史数据和趋势 • 收集用户交互和反馈的数据 2、数据清理和预处理 收集后，必须清洗和预处理数据： • 解决缺失值并删除异常值 • 解决不同数据源之间的不一致问题 • 标准化格式和测量单位 • 删除重复记录以消除冗余 3、数据转换 数据清洗后，需要对数据进行转换，使其适合 AI 模型训练如： • 对数值进行标准化，以确保它们处于同一尺度 • 对分类变量进行编码，以实现机器学习兼容性 • 在适合的情况下聚合数据 4、数据验证和质量保证 实施强大的数据质量措施至关重要： • 定义和执行数据质量标准 • 设置自动检查以确保数据完整性和一致性 • 针对数据质量问题创建预警机制 • 使用机器学习算法检测异常和意外模式 5、数据缩减和优化 为了提高处理效率如： • 选择具有特定需要的数据 • 平衡数据集以防止模型分类中的偏差 6、建立数据管道 创建自动化数据管道对于持续更新的数据准备至关重要，如： • 设置工作流以进行持续的数据提取、转换和验证 • 实施版本控制以跟踪数据和准备流程的变化 • 确保管道可以在必要时处理实时数据更新 7、行业特定定制 对于垂直智能体来说，根据特定行业定制数据准备流程至关重要： • 融入特定领域的知识和术语 • 确保遵守行业法规和标准 • 与行业相关的专业工具和数据源集成 8、数据存储和访问 最后，将处理好的数据进行存储利于 AI 智能体的调用和访问。如： 选择用合适的数据库系统 • 确保实时处理的低延迟访问 • 实施适当的安全措施来保护敏感信息 通过遵循这些步骤，组织可以创建一个具有行业特定的高质量的数据基础，垂直智能体可以利用这些数据提供准确、量身定制的行业洞察力，并实现专业领域复杂工作流程的自动化。 第二个关键部分是身份和访问管理 (IAM)中间件。身份管理和访问控制中间件在垂直智能体中有很强的应用价值。 虽然多数人将 IAM 主要与基于人的身份联系起来，但实际上其范围远不止于此。在垂直 AI 智能体的应用下，IAM 在管理物联网设备、应用程序、系统和传感器的身份管理和访问控制方面发挥着至关重要的作用。 1、管理非人的用户身份 • 随着 AI 智能体的快速增长，管理与控制非人的身份变得至关重要。 • 需要安全地访问敏感数据和系统。 • IAM 确保每个 AI 智能体具有适当权限的唯一身份。 2、基于角色的访问控制 (RBAC) • 为 AI 智能体分配特定角色有助于定义它们对系统内的数据和操作的访问权限。 • RBAC 允许对每个代理可以看到和执行的操作进行精细控制。 • 这种方法可最大限度地降低未经授权的访问或操作的风险。 3、持续监控 • 实时监控 AI 智能体确保系统的完整性和安全性。 • IAM 系统可以跟踪和记录 AI 智能体的所有访问行为和操作。 • 这种监控有助于快速检测异常或潜在的安全漏洞。 4、可扩展性和灵活性 • 随着 AI 智能体的增长，IAM 系统必须相应扩展。 • 它们需要处理 AI 系统的动态特性，其中包括智能体频繁创建或停用的访问权限。 5、合规性和审计 • 在受监管的行业中，IAM 有助于确保遵守数据保护和隐私法规。 • 它提供所有访问和操作的审计跟踪，这对于问责制至关重要。 6、安全 API 访问 • 许多垂直 AI 智能体通过 API 与各种系统交互。 • IAM 管理这些 API 调用的安全身份验证和授权。 7、生命周期管理 • IAM 系统处理 AI 智能体身份管理与访问控制的全生命周期，从创建到回收智能体的访问权限 • 这包括管理凭据、证书和访问令牌。 8、零信任安全模型 • IAM 支持实施零信任安全模型，其中每个访问请求都经过安全身份验证 • 这在分布式 AI 系统中尤为重要。 通过实施强大的 IAM 最佳技术实践，组织可以确保其垂直 AI 智能体安全高效地运行，并保护敏感数据和系统的完整性，同时使智能体能够高效地执行其特定功能。 随着全球人工智能行业的快速发展，大型语言模型的创新应用，以及各国政府、监管机构对数据保护和隐私保护的安全性和合规性要求，中间件已成为企业数字化转型和信息技术应用中不可或缺的核心组件之一，迎来了新的增长机遇。沙利文行业报告指出：预计2028年，全球中间件市场规模将达到1,003.8亿美元，中国中间件市场规模将达到428.4亿元，占比全球中间件市场规模将增长至6.1%。IAM作为核心的中间件之一，已迎来广阔的发展空间，拥有巨大的增长潜力和市场机遇。行业报告指出：预计 2033 年市场规模 544 亿美元，市场年复合增长率:11.5%。 竹云作为国内新一代IAM（身份管理与访问控制）中间件行业引领者，以及领先的数字科技与云服务商，致力于为用户提供高效、敏捷、安全的数字创新技术与云服务，为万物互联的世界提供连接、共生、共享与安全。公司自主研发了行业领先的IAM国产化套件，包括IAM平台、智能权限管理平台、AI智能风险管控平台、数字身份目录服务、身份安全接入网关等。基于扎实的技术与行业资源积累，在众多行业实践场景中不断推进关键数字技术创新，为用户提供包含云企未来、数智文商旅一体化服务平台、数据要素流通服务平台等创新运营服务，助力各行业数字化转型。 同时，随着云服务技术的广泛应用，企业出于时间、费用和维护方面因素更多选择云服务部署方式。现今，无论是小企业还是跨国公司，几乎所有类型的商业软件都可以在第三方提供的SaaS（软件即服务）的云服务中实现。这些云服务托管在如亚马逊云或华为云等云平台上。应用了云服务，企业不再需要为 ERP 、CRM、项目管理、会计、门户等复杂软件系统支付硬件或昂贵的安装服务升级项目。他们可以高效访问数百个不同的云服务提供商的各类型SaaS。 由此，基于对云资源的高效管理和安全服务需求，“IDaaS身份即服务”基于云原生的身份管理和访问控制这一云技术随之成为迫切需求。 竹云提供基于云原生的身份云服务，有效管理不同类型的云端资源，同时可管理本地应用软件和 SaaS 云服务资源。并且已预先构建连接了上千个不同 SaaS 供应商产品的连接器。竹云联合生态伙伴重磅推出一站式企业上云服务平台——10+Value云企未来，依托竹云在IDaaS身份云服务领域的核心技术优势，整合优质运营服务及丰富的生态资源，致力于为用户提供更便捷、更高效、更安全的上云服务，打造数字化、智能化转型全新增长引擎，赋能企业未来创新发展。在10+Value云企未来平台上，用户能够一站式便捷选择业务所需的各种不同类型的软件云服务，而无需增加 IT 团队规模或用来托管服务器的办公空间的相关成本，并即时创建授予或回收用户的访问权限。同时，通过建立统一标准、统一规范、统一接口，构建完善的逃生机制，精准管控风险，保障组织业务的高可靠性与高敏捷性。截至目前，竹云IDaaS云服务已为全球2500+国内外知名企业、4000万+用户提供2E、2B、2C全场景的企业级数字身份安全服务，成为企业数字化转型的加速器。竹云致力于运用数字技术重塑组织竞争力，以解决企业的降本增效问题，并成为推动企业创新和长远发展的核心驱动力。 最后总结下，政府、企业各行业已开始通过自主开发人工智能体或购买第三方专业服务来加快AI在行业中的应用并获得回报。正如我们看到的这张图，AI智能体正处于起步增长阶段，欢迎各位企业、伙伴与竹云携手成长，共同推动行业安全、高效发展！
