Skip to content

思想领袖视角:权力与责任 ​

过去四十年里,从个人电脑与互联网的诞生,到移动与云计算的变革,我见证过许多技术周期,却没有哪一次像这一次。多年来,围绕人工智能的讨论总在炒作与幻灭之间摆荡,所谓“AI 之夏”之后往往接着漫长寒冬。但这一次不同,风向已经明显改变。若过去十八个月关乎的是引擎——大语言模型那令人震撼、近乎垂直的跃升——那么下一个时代关乎的将是我们围绕这台引擎打造的“整辆车”:也就是那些能够驾驭这股原始力量的框架,使它从“生成看似可信的文本”迈向“真正能够采取行动的智能体”。

我承认,起初我是怀疑的。依我的经验,表面上的“可信感”往往与一个人对某个主题的真实了解成反比。早期模型尽管表达流利,却像患上了“冒充者综合征”,优化目标更偏向“看起来像对的”,而非“真正是对的”。但随后拐点到来——新一代“推理”模型带来了质的跃迁。突然之间,我们不再只是与一台“预测下一个词”的统计机器对话,而是得以窥见一种尚在萌芽中的认知形态。

我第一次试用新的智能体化编程工具时,又感受到那种熟悉的「魔法」火花。我交给它一件私事——我一直抽不出时间做的那种:把慈善网站从简易建站工具迁到规范的现代 CI/CD 环境。接下来约二十分钟里,它追问澄清、请求凭据、同步进度——不像在用工具,更像与一名初级开发者结对工作。当它交出可完整部署的包,附带无可挑剔的文档与单元测试时,我彻底折服。

当然,它并不完美:会犯错、会卡住,需要我的监督,更关键的是,还需要我的判断把它拉回正轨。这段经历再次印证了我在职业生涯中艰难学到的一课:绝不能盲目信任。然而,整个过程又极具魅力。窥看它的“思维链”,就像在观察心智运作本身——杂乱、非线性,充满停顿、回撤与自我修正,与人类推理并无二致;它不是一条直线,而是一场朝着答案逼近的随机游走。也正是在这里,我看见了某种新事物的内核:它不仅能生成内容,还能生成计划。

这就是智能体化框架的承诺:好比静态地铁线路图与能实时改道的动态 GPS。经典规则自动机沿固定路径行进,遇意外障碍便崩溃;由推理模型驱动的智能体却能观察、适应并另寻路径。它具备某种「数字常识」,能在现实的无数边角情形中穿行。这标志着从只告诉计算机做什么,转向说明为何要做,并信任它找出如何做。

这片新前沿固然令人振奋,却也伴随着沉甸甸的责任——站在一家全球性金融机构 CIO 的位置上,这一点尤为明显。风险之高,几乎难以估量。智能体在编写一道“鸡肉三文鱼融合派”食谱时出错,不过是个趣闻;但若它在执行交易、管理风险或处理客户数据时出错,那就是真正的问题了。我读过不少免责声明和警示案例:例如某个网页自动化智能体在登录失败后,竟然给国会议员发邮件,抱怨“登录墙”的存在。这种黑色幽默提醒我们:我们正在面对一种尚未被完全理解的技术。

在此,技艺、文化与对原则的不懈坚守,成为不可或缺的指南。我们的工程信条不是纸上空谈,而是指南针。我们必须有目的地构建,确保每一个智能体的设计都始于对客户要解决问题的清晰理解;必须预见转角,预判失效模式并设计天生具备韧性的系统;最重要的是必须激发信任——对方法透明,对结果负责。

在智能体化的世界里,这些信条更为紧迫。残酷的事实是:不能把强大的新工具简单叠在混乱、不一致的系统上却指望好结果——混乱系统加上智能体,往往酿成灾难。在「垃圾」数据上训练的 AI 不只「垃圾进、垃圾出」,还会产出看似合理、实则错误却表现得无比自信的输出,毒害整条流程。因此,首要且最关键的任务是夯实地基:投入干净数据、一致的元数据与定义良好的 API;建设现代意义上的「州际公路网」,让这些智能体安全、高速地运行。这是艰苦而基础的工作:打造可编程企业——「企业即软件」——使业务流程与代码一样经得起架构审视。

归根结底,这段旅程并非取代人类才智,而是放大它。它要求我们所有人习得新技能:把任务说清楚、懂得授权、勤于核验输出质量;也要求我们保持谦逊、承认未知、永不停止学习。本书后续章节提供构建这些新框架的技术地图。愿你不仅用它们去建造「做得到的事」,更去建造「正确、稳健、负责任」的事。

时代向每一位工程师发出了召唤。我相信,我们已经做好准备,迎接这场挑战。

愿你享受这段旅程。

Marco Argenti,高盛首席信息官(CIO)