AI图鉴

AI图鉴首页 › AI 资讯 › AI+垂类Agent:任务跑得久、工具用得熟,撑不起Agent公司长期竞争力|贝

AI+垂类Agent:任务跑得久、工具用得熟,撑不起Agent公司长期竞争力|贝联珠贯创始人兼CEO 毕玄分享

来源:InfoQ中文 · 发布时间:10-30 · 由 AI图鉴每小时自动聚合

本条资讯的摘要暂未整理出来,可点击下方按钮查看原文;本站每小时自动补充中文摘要。

贝联珠贯创始人兼 CEO、前阿里巴巴集团研究员毕玄,以《以 SREAgent 为例:看垂类 Agent 的竞争力》为题作主题分享。

SREAgent,是一款面向企业 IT 系统的 AI 运维助手,通过分析监控数据和日志,帮助运维人员排查故障、定位原因并处理问题。 毕玄以 SREAgent 的实践为例,讨论了一个垂类 Agent 公司绕不开的问题:大模型越来越强,客户为什么还需要垂类 Agent?

毕玄坦言,他们团队曾认为,让 Agent 长时间执行任务、熟练使用通用工具,是拉开竞争差距的关键;但随着大模型进步,这些能力正逐步成为模型本身的能力。在他看来,给大模型“补短板”,可以带来短期优势,却撑不起垂类 Agent 公司的长期竞争力。

机会藏在具体业务的“脏活累活”里。以运维为例,每家企业的监控系统、数据来源和采集方式都不一样,如何接入并用好这些数据,需要逐一解决。

他介绍,SREAgent 3.0 已尝试让客户用自然语言描述需求,由系统生成相应的 Skill,降低数据接入门槛,但这种功能也容易被同行追上。 更难复制的是背后的专业经验:面对大量日志,哪些信息有用、该如何处理,又该怎样结合客户业务,建立反映系统运行情况的模型?这套模型还要能随着业务系统的变化持续更新,否则仍离不开人工维护。

真正支撑长期竞争力的,是对具体业务的理解,以及围绕专有数据形成的采集、处理、业务建模和模型持续迭代能力。

毕玄强调,尤其是模型能否随业务变化自我演进,将成为垂类 Agent 公司拉开差距的关键。而最终的检验标准,是 Agent 能否把问题解决好,运行是否可靠,行为是否受控。

以下为毕玄讲演的完整速记,模力工场在不改变原意的前提下进行了订正和编辑。

Agent 壁垒变了,从长程任务、通用工具,到拼业务模型自我进化

谢谢 Kevin,确实认识很多年了。当年我还在淘宝的时候,我的老板费青,应该是他劝说 Kevin 把 InfoQ 引入中国,在中国有了第一次 QCon。那个时候,QCon 对整个中国互联网公司的帮助,我觉得是非常大的。因为那个时候,我们很多技术都是看国外互联网公司做了些什么。所以我觉得,InfoQ 这么多年来举办的各种会议,对整个技术圈的帮助是非常大的。

今天是 1024,其实我现在已经很少在外面做技术类分享,因为我自己已经不大管技术了。创业已经 5 年了,我们现在更多在看生意或者经营层面的事情。今天是 1024,我还是很希望回到一个技术的角色,分享一下我们对技术发展的一些看法。

从去年开始,我们就认为,所谓 AI Agent 公司不大可能是 5 年前诞生的。真正能够成为 AI Agent 的公司,多数都是这两年诞生的。因为整个 AI 也就是这几年的事情,前年开始,AI Agent 在业内就已经比较火了。今年,大众的整体感受应该越来越强烈,因为个人 Agent、办公 Agent 开始大面积流行。

大家从广告层面感受到的变化最明显。去年的广告更多是大模型,今年的广告很多已经变成了 WorkBuddy,或者大洋彼岸的“muse”之类的。Agent 已经开始成为大家很强的一个共识。

很多人会越来越觉得,Agent 这个方向肯定是重点。但是,对于所有的个人、公司来讲,大家的空间还有多少?能做什么?像我们做垂类 Agent 的公司,不断被各种人问到:做垂类 Agent 公司的竞争力到底是什么?所以,我今天只是想以我们公司的产品为例,讲一下我们看到的垂类 Agent 竞争力的变化。

但这其实是一个动态过程,因为 AI 的发展变化特别快。包括我们去年在一些会上做的分享,后来再看,一两个月后就被打脸,而且打得很重。这就是因为 AI 发展太快了。所以,今天我讲的话,很有可能明天就被打脸,这很正常,没有关系。

无论对做技术的人,还是做业务的人来讲,最重要的是有自己的判断力,而不是你的判断正确与否。正确与否没有那么重要,但如果没有自己的判断力,就会有很大的问题,就会什么火就做什么,但其实不一定应该这样。

我以我们公司的产品为例。不过,我也不希望这里变成一个广告大会,所以会非常少地讲到我们公司的产品。

先说一下我们的感受。我们是去年上半年开始做 Agent 的,是一家做运维类 Agent 的公司。运维可以认为是一个很垂直的领域,跟研发一样,研发是一个大的垂直领域,运维是另外一个大的垂直领域。

当时,做 Agent 的公司是怎么做的?大家看,也就一年多一点,这个变化是非常大的。

一年多以前,我们开始做 Agent 的时候,要做的是自己盖整栋大楼。如果把做 Agent 看成盖一栋大楼,最开始,Agent 公司除了不用自己做大模型以外,大模型之上的所有东西,都要自己来盖。

如果回头看,大家会看到,当时很多 Agent 公司都在做长程任务执行。包括现在,大模型公司也会讲,基于这个大模型可以跑一个 24 小时的任务,甚至一周以上的任务。怎么样做到这一点,是大模型公司一直在研究的。

在大模型公司之前没有空研究这个的时候,谁在研究?不就是 Agent 公司在研究吗?

所以,那个时候,大家会在网上看到很多做得非常好的 Agent 公司的技术分享。比如,我们一直说,必须感谢像 Manus 这样的公司,因为他们分享了很多在长程任务执行过程中,Agent 公司应该做好什么,比如解决好大模型的幻觉、上下文等各种问题。

Anthropic 也分享了很多。他们的博客还是很值得看的,尽管有别的问题,但博客很值得看,他们会分享长程任务等应该怎么做。所以,当时在长程任务执行上,大家都会看这些公司怎么做,去学习他们。我们也要在这上面做很多东西。

除了保证一个任务能长时间执行以外,对于 Agent 来讲,还需要在大模型的基础上,更好地使用各种工具,因为只有工具才能让大模型变得强大。

比如,Manus 以前用 VM Use 的方法,做了一个很好的抽象:人在数字世界里,比大模型更强的一点,是你拥有一台电脑。所以他们做了一个抽象,叫 VM Use。当然,后来还有更多,比如浏览器,以及 Computer Use 之类的,现在已经进步很大了。

在这个基础之上,才是客户自己的专有数据,以及客户自己的专有知识。

所以大家可以看到,去年上半年,一家 Agent 公司要做的事情非常多,投入也会非常大。这就决定了,可能这一块做好了,别的就不一定能做好。但在这个过程中,这栋楼一直在变化。

今年大家已经非常明显地感受到,大模型公司开始在长程任务执行上取得很大的进步。比如我现在用 Codex,基本上扔一个任务给它,最重要的是前期跟它探讨得非常清楚。聊好以后,就可以告诉它:“你一次性给我做完,整个过程中不要问我任何问题,你自己决定。”

基本上就是扔给它,让它跑 12 个小时,甚至 20 个小时。有可能唯一的问题就是 Token 不够用,经常要重置。我有一个晚上用了三张重置卡,才跑完那个任务。

所以,现在我觉得,大模型在长程任务执行上已经做得非常好了,很少需要 Agent 本身再做太多事情。

第二点是工具层面。大家可以看到,大模型使用工具的能力在大幅演进。看海外公司每次发布大模型,都会不断讲这些。比如更早一段时间,OpenAI 发布时重点强调,用 Codex 操作 Blender 之类的 3D 软件,怎么更好地建模。这些都是在向大家展示,大模型本身使用通用工具的能力越来越好了。

所以,对我们来讲,在长程任务执行和通用工具层面,Agent 公司未来只是做一些弥补:哪里还有一点做得不好,就弥补一下。但我们相信,总有一天,大模型公司会做得非常好。

我们公司以前有个误判。去年下半年,大概 10 月份的时候,我们认为,一家 Agent 公司非常强的竞争力就在这两层:通用工具和长程任务执行。这是 A 公司能比 B 公司做得更好的重要核心竞争力。

如果看当时的 Coding Agent,这一点非常明显。好的 Coding Agent,一定是在这两点上做得非常好;差一些的,就是这两点做得差一点。但今年到现在,我们已经完全不这么认为了。

我们觉得,对于垂类 Agent 公司来讲,这两个绝对不会是你的核心竞争力。这两个以后一定是大模型公司自己的核心竞争力,其他人我们认为没有什么机会。这些事情,大模型自己做好就可以了,其他公司就等着它们做好,或者现在帮它们弥补一下。

短期是有作用的,因为能在短期拉开差距,这也是一个重要的点。但长远来看,不要把这个作为重点。

作为垂类公司,最麻烦的问题是什么?工具可以通用,但大家如果仔细研究,就会发现,很多垂类 Agent 要解决的问题,所需要的工具没有办法通用。

以运维为例,这一点比较明显。每家公司的监控数据、各类数据的采集方法,不可能全部通用。当然,有些通用,但大多数都不通用。这意味着,大模型本身没有办法做好一个通用工具,垂类公司必须在上面自己做一层。比如,有些会通过自己写 Skill 等方式来做这一层。

所以,我们认为,垂类 Agent 公司要找到那些大模型不能天然做好的工具。如果它天然就能做好,那这个垂类 Agent 公司可能要想一下,你到底还有什么价值?

像 PPT 这种东西,我们认为会非常通用。以前,大家可能觉得 OpenAI 做 PPT 做得很糟糕,现在不会这么认为了。像我的整个 PPT,其实全部都是 Codex 做的,根本不是我自己写的。我只是跟它讨论了一下想法,里面所有的图、文字,没有一行是我写的,我连改都没改过。以前我还改,现在觉得已经不需要改了,做得真的挺好。

所以,在通用层面,我们认为大模型自己一定会做好。垂类公司一定要去找那些不能通用的工具。

当然,大家会觉得,这好像很定制化。但我们认为,未来就是很定制化的事情才有足够的价值。这是对创业公司来讲的,大厂是另外一种思维。

对小公司来讲,我们觉得,你需要找到这些脏活累活,并且愿意把它们干好。所以,第一个是找到一些垂直场景,以及这些场景里的垂直工具。

像 SREAgent,我们做 3.0 版本的时候,跟过往最大的不同是,以前很多工具仍然会让客户自己写。现在很多产品也是这样,比如用一个 Agent 平台,平台会告诉你,在上面写 Skill,就可以完成专有数据、知识的采集等工作。

但大家想一想,对于很多客户来讲,他们仍然会认为这件事情很有门槛。因为写 Skill 跟写代码,说实话,没有太大差别,甚至还要另外学习。就算是程序员,也得另外学 Skill,这是另一种知识。

而且,Skill 如果写得不好,影响可能非常大,因为你可能会误导模型。我们以前经常讲,Skill 对整个模型的泛化能力有很强的引导性,如果做不好,反而会导致效果更差。所以,怎么写 Skill 也是一个很大的问题。

以前我们也觉得,客户不就可以自己看、自己写吗,很简单。但今年做 3.0 的时候,我们认为,这也是需要突破的。所以,现在在我们的产品里面,如果客户要对接自己的数据来源,其实不需要自己写 Skill,在上面用自然语言描述就可以。

当然,我们无非是把这段自然语言用 AI Coding 翻译成 Skill。但不同的是,我们在里面植入了自己的思想,让写出来的 Skill 能够保持模型的泛化能力,同时做好整个数据采集等工作。

所以,做了 3.0 以后,我们认为,未来的软件将会具备自进化能力。

我们相信,以后大部分软件都是这样。现在大家用的很多软件是不能改的,以后你只需要跟它说,软件展现出来的内容就可以被改掉。不需要你自己写,也不需要你自己用 AI Coding,因为 AI Coding 并不是完全没有门槛。

这是一方面,但我们也不认为它会成为壁垒。因为我们看到,在云栖大会前发布 3.0 以后,某些友商也同样拥有了这个能力。只要我们有这个想法,并把它展现出来,自然有人会做出一样的东西。这里的壁垒仅在于 Skill 怎么写好。

大家可以看到,这是一个演进的过程。对垂类公司来讲,另外一个很强的壁垒是,比如运维会面对很多日志,采集之后,到底怎么处理这些日志?这是一个非常复杂的话题,需要专业知识背景。

一段很长的日志,到底哪些地方有用?如果直接丢给大模型,通常很容易出现各种问题:可能这次是对的,下次是错的;或者效率不高,Token 消耗很多,等等。

所以,采集到数据以后,很重要的是对数据本身做处理。这是我们认为垂类公司非常重要的壁垒之一。但最好是,处理这些数据的知识不是公开的,因为如果是公开的,大模型一样可以学好。

因此,大家需要看,你做的垂类 Agent,一是数据采集,二是采集后的数据处理,这些部分是不是比较私有化的东西。

第三个,是在这个基础上的建模。采集完数据、处理完数据,怎么在上面建立一套垂类模型?像 Palantir 也会把它叫作“本体论”,但我们觉得,“模型”这个说法可能还是比较适合。

对于我们来讲,在运维上非常重要的是,采集数据、建立数据模型,再结合客户的业务,把它做成一个客户的运行模型。这才是我们认为垂类 Agent 最重要的壁垒。

大家可以想一想,这套思想可以套用到其他方面。如果是通用 Agent,比如做 PPT,数据采集、基于数据的建模,包括工具,都是非常通用的。这意味着垂类公司很难做好,因为会面对非常大的竞争。

建完模以后,我们后来发现,还有更重要的一步。我们认为,这是各家垂类公司会拉开巨大差距的地方:今天建的模型,明天还能不能用?这个模型必须具备不断自我演化和迭代的能力。

比如对我们来讲,今天模型建好了,明天系统变了,这个模型还能不能适用?是不是还要人去维护?如果还要,这个东西就不可能有用。所以,模型本身必须能够自我学习、不断迭代下去。

当然,在大模型层面会提供一些基础能力,比如“CANNES”,可能会提供一些记忆、迭代演进的能力,但到底怎么做,还得自己做好。

我们认为,一个 Agent,最重要的第一点是高质量地解决问题,第二点是可靠,第三点是受控。受控是现在越来越强调的一点。

未来的部分我就没有写了,因为对我们来讲,一切仍然有很强的不确定性。

但我们现在认为,做 Agent 公司的核心,都在于思考数据采集、数据处理、数据建模,以及模型迭代。这是最关键的四个层面。我们相信,这四个层面会成为垂类 Agent 公司非常强的竞争力和区别点。

接下来,大家肯定会看到,模型厂商不断希望往上移,因为上面才是最大的价值。越往上,越贴近业务,价值越大。所以,未来是一个互相进步的过程。

对于 Agent 公司,肯定要思考一个问题:模型不断进步的时候,客户为什么最后还要用你,而不是直接用大模型?

就像我做 PPT,以前还用别的东西,现在觉得没有必要了。所以,我觉得所有做公司的人都需要思考这个问题。

以前我跟 ChatGPT 讨论时,它说,你应该想一下:“如果 ChatGPT 进步了 10 倍,为什么客户还要用你?”因为它真的有可能进步 10 倍,这就是现在的状况。

我们最近在搞一个活动,这是唯一的广告,哈哈,请允许这个广告停留一分钟。用 SIA 解决你的问题,可以赚 1 万块钱。大家可以扫描一下二维码。

本文由 AI图鉴自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

相关免费羊毛

同源资讯

阅读原文(infoq.cn)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI图鉴首页 · 提交工具 · 商务合作 · 关于本站 · 600 款 AI 工具分类导航 · 每日 AI 热门项目与动态