来源：环球时报【环球时报记者马骏】编者按：虽然各种人工智能（AI）已经进入我们的日常生活，但大多数人一直觉得AI在现实应用中“说了算”。今天，这种情况正在改变。今年2月6日，国内AI智能代理“倩雯”正式启动“春节30亿免单”活动，活动期间用户可以直接向“倩雯”下达指令，帮助自己订奶茶。该事件仍然很受欢迎，并且偶尔会导致服务器崩溃。与此同时，海外开源本土AI代理OpenClaw凭借强大的能力迅速走红。这些能够主动协助人类完成任务的人工智能代理是业界讨论最多的“设备端代理”。但当现实世界的任务越来越多地交给这些AI代理时，它们是否值得信任以及潜在的风险是什么？环球时报研究院近日主办全球前沿技术论坛人工智能治理系列最后一场人工智能研讨会，邀请多位行业专家进行专题讨论。两种技术路线各有优缺点。 Agent是一种能够独立感知环境、规划、决策、执行任务的人工智能应用系统。业界认为2025年是“人工智能代理元年”。 2024年1月至2026年1月，环球时报研究院舆情监测组对国外媒体和国外社交网络发布的有关智能代理的报道热度进行了舆情监测。在此期间，国外媒体和国外社交网络对特工情报报道的关注度普遍呈现上升趋势。所谓“设备端代理”是指安装在终端设备（如手机、电脑、物联网设备）上，能够独立完成推理、决策等任务的代理。n-制作和任务执行。中国信息通信研究院人工智能研究所副所长吴同宁表示，智能体能够感知、理解（会说话）人工智能。它被认为是向主动服务（能够做事）演进的重要方式。上海交通大学人工智能学院副教授、无文芯联合创始人兼首席研究员戴国豪在研讨会上介绍，人工智能的最终目标是为物理世界的人们服务。因此，需要通过我们身边的终端设备（手机、汽车、机器人等）来进行智能化。这就是“最终情报”。如何构建人机交互和设备端处理的“语言”，催生了多种技术路径。专家表示，第一个是GUI（图形用户界面）路线，依靠视觉识别读取屏幕上的信息并执行“模拟操作”。戴国豪解释道：“这就像让另一个人通过观察界面与用户的设备进行交互，将来自物理世界的信息（例如图像和声音）转换为人工智能可以理解的表示形式。” GUI的优点是不需要一一适配第三方应用，并且具有较高的短期部署能力。在产品推出时，taTwo的思路也是沿着GUI路线发展的。一是依靠系统级权限实现多方互联。然而，获取底层权限并无限制地使用它们可能会产生隐私和安全问题。另一种方法是在隔离的环境中运行，比如浏览器，风险相对可控。二是协议认证路由，通过标准化的接口与目标进行通信。高手。标准应用程序交互，包括 API（应用程序编程接口），已成为业界的主导选择。该路线的优点是可以利用和扩展现有的技术范式，但需要建立独立于人类语言的机器表示系统，而这依赖于行业强大的生态支持。中美在最终智能发展的两条技术路线之间采取了不同的做法。吴同宁表示，目前中国业界普遍采取GUI模拟和API认证的“双轨并行”发展策略，力求在创新速度和系统安全之间实现动态平衡。相比之下，美国大公司很少选择在手机上进行GUI模拟。这种差异主要是由于各自技术生态和制度的独特性造成的。环境。吴通宁认为，技术路线的选择本质上是生态结构、制度约束和市场需求共同作用的结果。单一的技术路径无法完全支撑中国智能代理生态系统的长期演进。 GUI路由具有实现灵活、适应性广泛的优点，特别适合接口开放性不够、环境碎片化的场景。 API 认证路径在安全性、可解释性和责任可追溯性方面提供了更多优势，并且是构建可靠协作系统的重要基础。戴国豪表示，现在的中心问题是如何将两者结合起来，这需要创新技术逻辑，共同构建产业共识。这也是终极智能发展的一个重要方向。移动智能助手正在兴起。一些专家认为，以国产手机助手为代表、采用GUI路线的端到端智能代理发展路径，实际上已经显着改变了智能手机的IT应用交互范式，显着缩短了从模型功能到用户价值的转换环节。基于 GUI 的移动助手可以用一句话调用多个应用程序的服务，允许用户订购外卖、预订航班、比较价格等。北京师范大学法学院博士教授、中国互联网协会研究中心副主任吴胜国在研讨会上表示，GUI路线有一定的积极因素。目前正在讨论的是数据处理过程中各方之间的产权问题。权利和意义的边界和分配需要结合现实生活场景进行详细分析。此时，每个对象可能有一个对他们未来将承担的责任了解有限。上海交通大学人工智能学院副教授、无问芯联合创始人兼首席研究员戴国豪认为，从创新角度看，走GUI路线的家庭手机助手在理论和技术层面的创新有限，但在产品层面确实改变了用户使用手机的方式。中国信息通信研究院人工智能研究所副所长吴同宁表示，其价值在于快速识别用户需求、降低应用门槛、提高交互效率。然而，其长期可持续性仍然取决于能否创建受监管、可追溯和相互认可的技术机制，并承担安全可控、权威合规和行为可审计的责任。一些专家还阐述担心走GUI路线的移动助手可以获得高度敏感的系统级权限，未经许可渗透第三方应用程序，读取屏幕信息，模拟用户点击。对外经济贸易大学薛法学院教授、数字经济与法律创新研究中心主任徐旭表示，GUI路线并不是弯道超车的有效方式。这些移动助手可能会带来多种风险。一是用户权益风险。 “大多数用户不知道他们给予人工智能代理哪些具体权限，也不知道这些权限会产生什么后果。”第二个问题是涉及第三方的个人信息和隐私保护问题。 “例如，如果您正在与朋友聊天，并要求移动助手推荐当晚的晚餐地点，则必须在上下文中查看所有聊天内容，以推断出准确的意图。如何在此过程中，移动助手会捕获只有两个人认识的朋友的个人信息。可以查看聊天记录和工作信息。如果是这样，你的朋友圈和群组信息会怎样？他们是否会满足于代理人可以完全在其中一方同意的情况下收购？ “第三个问题是数据安全和网络安全。”一旦AI代理获得了超越传统权限的高级控制权限，就没有办法真正预防和识别黑客攻击。鉴于未来的智能不仅将嵌入智能手机级别，而且将嵌入所有智能客户端和设备，因此这种风险需要更多关注。”最终智能的未来发展方向也是本次研讨会专家讨论的焦点。 “从商业角度来看，智能手机已经从基础手机发展到基于应用（平台）的智能手机。”中国科学院教授、中国科学院副院长卢本富表示。中国国家创新发展战略研究会副会长。然而，当谈到设备智能化的未来时，专家们普遍认为，现在讨论哪种路线最好还为时过早。该设备的智能功能仍在开发中，GUI 和 API 可能都处于中间状态。戴国豪表示，容易被验证可行的技术路径，往往意味着很容易在短时间内被模仿和超越。 “因此，从长远来看，我们必须更加注重独特的技术创新，比如芯片、操作系统、大规模模型的功能重复。只有在这些核心领域不断迭代，我们才能长期发展和创新。”专家还指出，终端侧的概念也将不断拓展。吴申阔强调，他不确定移动助手是最终解决方案还是商业方式。该设备of 未来肯定会是。它甚至不必是智能手机，它可以是手环、眼镜或其他类型的设备。人工智能治理面临新挑战 中国信息通信研究院政治经济研究所副所长李强志在研讨会上表示，智能体是节点或载体的一种形式，对于“人工智能+”的实施非常重要。 Agent是代理型人工智能，人工智能实体没有独立意识，仍然做出人类的决定。国内外流行的智能体，仍然具有人类赋予它们的意志，并利用自己的能力来执行。决策逻辑和最终的逐步实施。因此，智能体阶段实际上将是“人工智能+”与千行百业深度融合的转折点。几个潜在的和理论上的风险人工智能的威胁现在可能会成为真正的风险。中国科学院大学教授、中国国家创新发展战略研究会副会长卢本富表示：“即使是生成式人工智能，我们有时也会将其视为一种生产工具，但当我们真正与它聊天时，我们往往很难分辨对方是人还是机器。实际上，其动态远远超出了我们之前对人工智能的理解。”人工智能要支持决策，需要明确哪些人权可以转让，哪些人权不能转让。其实主要还是看工业应用场景的容错率。例如，在某些行业，如果准确率达到80%，就可以使用人工智能生成的响应。比如你让AI推荐一部电影，准确率再低也没关系。然而很多行业，比如法律、金融、保险、医疗健康等c.，要求99%甚至99.9%的准确度，而这些行业连1%的误差幅度都没有。因此，人工智能治理的首要挑战是确保跨行业的容错能力。第二个问题是差距。过去我们谈到数字鸿沟，未来人工智能也会造成鸿沟。不同人群使用人工智能的能力不同，这反过来又提出了财富再分配的问题。三是人工智能闭环带来新的风险。一旦人类下放了一定的决策权，比如让AI产生AI，人类就不再参与整个决策链。这个闭环带来的新风险与过去数字经济时代的其他风险有很大不同。中国信息通信研究院人工智能研究所副所长吴通宁也认为从长远来看，有助于中国行为者持续发展和能力积累的技术组合应该是架构师。以“场景适配、层级分离、安全可控”为核心理念的集成架构。也就是说，终端侧保持对不同接入方式的支持，以满足不同应用环境的实际需求。推动建立统一的系统级权限管理、行为审计、风险识别机制。加速生态层面API接口标准化进程，提高主题间协作效率。这种灵活多层次的技术体系，不仅适应了当前多元共存的发展形势，也为未来向高水平智能协同演进预留了空间。专家建议统筹推进双轨制标准的安全性和互操作性评估机制。一方面，我们正在加快完善GUI代理安全评估体系，加强端点运行时控制。同时，深化智能代理通信协议国家标准制定，鼓励操作系统、终端厂商和应用开发商共同构建轻量级、可扩展的智能代理支撑层，推动双授权、多授权的实施，为高质量智能代理发展提供技术基础和制度保障。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上故事板内容（包括照片和视频，如有）已上传发布由网易号用户创建，网易号是一个仅提供信息存储服务的社交媒体平台。
