一个真正开箱即用的助理
Patrick: 我不禁想知道，这里正在展开的宏大博弈究竟是什么。当你真正退一步，想想现在发生的一切时，这场博弈是什么？此刻到底发生了什么？如果要你概括一下，你正身处其中的这件事是什么？
Noah: 你要面对的是全世界最大的玩家，而动手的窗口期实际上只有几个月的量级。要做到这一点所需的算力……仅今年就需要这么多。你没有分发方面的优势，但你有一个正在大规模增长、通过病毒式传播扩散的产品。
Patrick: 你会怎么做？
Noah: 这可能是有史以来最令人兴奋的软件竞赛。而结果涉及数万亿美元。
Patrick: Noah，我知道这是你第一次以这种长篇形式谈论这家公司。我非常期待向你了解这一切。现在，个人智能体（personal agent）所处的时刻，似乎与大约一年前我们看到的代码生成非常相似，而且可以说可能更大。先为我们介绍一下吧。你如何看待——当然包括你的产品——这些智能体将对世界产生的影响？为什么你选择把自己完全投入这个领域？
Noah: 我认为，这将带来一种全新的方式，让地球上的大多数人广泛地与技术互动。我经营着 Instinct。这是我大约一年前创办的新公司，所以它仍然是一家新公司。我们正在构建一个个人助理。我不打算把它说得多么花哨，因为它确实就是一个个人助理。我认为，我们早期能够获得相当多关注和兴奋的真正原因，就是它真的能用。它的工作方式，正是我们——这里的“我们”也包括作为用户的我——一直期待 AI 为我们行动的方式。
Noah: 我想说，有一点很有意思：这不是其他那种颠覆性消费应用体验。那种体验是创始人出来说，我对世界有一个新愿景，请相信我，几年后你们都会明白。现在是一个非常不同的产品构建时刻，因为你和我，以及我们所有人，已经对 AI 应该如何行动有了想法。自从 2023 年我们开始头脑风暴、第一次尝试使用 ChatGPT 以来，我们就已经有了这种想法。
Noah: 那是一个能在日常生活中有效地帮助你处理任何事情的智能体——无论是你想做的新鲜而有创意的事情，还是你通常要花上几个小时、需要很长时间才能完成的事情。它就是日常智能。它应该陪伴你，与你一起行动；它应该让人感觉像一个非常简单的界面。
Noah: 所以，当我说简单的界面时，我的意思是，我们甚至没有一个应用程序。这不是一个新 App，也不是一个新工具，而是一种新的体验。它有手机端和电脑端，你可以给它发短信、打电话，它实际上也可以给你打电话。我不知道你是否已经体验过这一点。
Patrick: 我体验过。
Noah: 哦，你体验过？我使用它的这几个月里，它到目前为止大概只给我打过三次电话，但这很有意思——如果有某件事真的很紧急，而且有截止时间，它会打电话给你说：“我不想太打扰你，但你需要在下午 3 点前签署这份文件，而现在已经是 2:55 了。你能请现在处理一下吗？它就在你的收件箱里。我甚至可以再给你发一封邮件，把它推到收件箱顶部。”所以它具备社会智能，也非常了解社交情境。你可以给它发邮件；它有自己的电子邮件地址。
Noah: 我不想让人把简单的界面和能力有限混为一谈，因为它的本质就是：你不应该需要一个新应用才能与 AI 互动。我认为，它应该具备社会智能和情境意识，能够像我们与他人相处那样与你一起行动。它确实旨在提供尽可能简单的体验，但它的能力——它拥有一台电脑，因此几乎可以完成你可能想做的、或你自己在互联网上会做的任何事情。
Patrick: 告诉我们几个你印象最深、最疯狂的故事吧，也就是那些因为 Instinct 而发生的事情。我这么问，是因为你并没有编程让它专门做某一件事。你给它配备了手机和电脑，让它能够做任何事情。美国网球公开赛的例子，我想大家都已经比较熟悉了。有一对情侣出现在大屏幕上，他们想要那段视频素材。不知怎么的，它自己出去查清了这件事，又把视频带回给他们，这很不可思议。你最喜欢的、那些因为 Instinct 而发生的疯狂案例，还有哪几个？
Noah: 对于喜欢网购的人来说，其实有一群人正在分享并反复使用一个场景：扫描衣柜里的每一件物品、每一件衣服。他们会把衣柜里的每件东西都扫描一遍，每件上衣、下装、袜子之类的，还有鞋子。然后他们也会扫描自己，包括面部、身体和身材比例。接着，他们会试穿衣服，让 Instinct 规划一周的穿搭。每周基于现有衣柜，决定穿什么鞋、哪件上衣搭配某件衣服，以及它的某个版本。它不会把结果发成“你应该穿这些衣服”的项目符号清单，而是让他们穿上这些衣服，展示“今天会是这个样子”。
Noah: 而且不只是这样，它还可以用于购物。他们可以使用同样的能力，然后说，去网上购物，于是它会从许多不同的地方找出成千上万套这样的搭配。它会说，这是从上到下的各件单品，然后他们只需说“下单”。它会给出 1,000 种不同选择——记住，他们看到的是自己穿上这些衣服的样子，对吧？然后他们可以指着其中一套说：“我真的想要这一套，你能把它寄到我家吗？”不仅如此，他们还可以每天说：“你能不能从头到脚搭配三套有创意的新造型，然后发给我？”接着，他们只需点击一下按钮，就能真正买到那套新搭配。
Noah: 还有很多目标导向的使用场景。比如，我有一个个人财务目标：我想在这个月之前存下这么多钱。然后它会积极地与用户协作，帮助他们做到这一点。或者，用户把银行账户连接到 Instinct，它就能扫描所有交易和订阅，把结果展示给用户并问：“你真的在使用这个吗？”然后用户会说：“哦，不，我甚至不知道有这个。”
Patrick: 然后它还能进入邮件，取消订阅。
Noah: 对，对，它可以端到端地完成。那些流行的消费金融科技产品只会把订阅展示给你，然后告诉你：“顺便说一下，你应该取消这些。”而 Instinct 会端到端地完成。它会进入网站、登录；如果有某种确认信息发到用户的邮箱，而它又能访问邮箱，就会使用那封邮件完成登录，一直操作到最后。它会取消订阅，然后把为你节省的金额发回来。比如：“顺便说一下，这些操作让你这个月省下了 $2,000。”
Patrick: 天啊，任何依赖消费者的懒惰或惯性而存在的产品都完蛋了，对吧？彻底完蛋。
Noah: 是的。
建立在信任之上的复利网络
Patrick: 这对消费者来说是好事。能不能介绍一下 Instinct-to-Instinct 网络？
Noah: 哦，可以。
Patrick: 以及未来智能体彼此交谈的情形？
Noah: 这里有一些更实际的场景，我认为这会以某些新方式改变某些人的行动方式。我想它出现大概才一周左右，或者说十天。说实话，重点并不是考虑要开发什么新功能，而是关注那些非常忙碌的职场人士。他们整天都在开会，不断与新认识的人和已有联系的人见面。把会议安排到日历上的过程实在太费劲了。你给对方发短信说：“嘿，你想在这个时间见面吗？”对方说：“不行，这个时间不合适，但这些时间可以。”你又说：“哦，可是我在出差，也许这个时间可以，不过那时我会在这个时区。”整个过程中有太多来回沟通。
Noah: 但如果两个使用 Instinct 的用户——他们很可能本来就分别在自己的 Instinct 中整理可用时间——能够直接沟通：“嘿，目标只是找到一个时间，对吧？我们不需要玩这种来回沟通的游戏，这里没人真的在玩游戏。我们只是想找到时间。”这实际上已经成为一个非常典型的使用场景。现在找日历空档的方式完全不同了：你只要表达意图——我想和这个人见面，最好在本周结束前，或者在这些时间段内，帮我找个时间。然后它会与另一个人的 Instinct 协调，找出双方有空和没空的时间，最终把安排放进日历。
Noah: 我认为这里的关键突破点，我们称之为可信任的人网络。关键在于，你应该只与信任的人连接。这里开始出现一些有意思的社交动态，我也一直在学习：这个网络的设计是，你只引入值得信任的人——那些不会恶意试图查探你的日历或邮箱内容的人。
Noah: 但不仅如此，我们还提供了完整的控制能力，让你可以为不同的人授予不同级别的访问权限。很多夫妻会彼此协调自己的 Instinct，因为他们通常可以分享一切。可能你会说：“这是我的配偶，就和他或她分享所有内容。”但对于某些同事，你可能会说：“我的工作日历可以查看；如果他们在索要文件之类的东西，我收件箱里的某些部分可以查看。但除此之外的所有内容，都不要让他们接触。”它能够按照这样的方式进行设置。
Noah: 当你思考这件事时，这里几乎形成了网络效应：网络中有不同的节点和边，而且边还有不同的权重，对吧？它不是一个好友图谱，不是简单地说“我和你连接了”，仅此而已。它是“我和你连接了，我信任你；我还对它进行了这样的配置，因此访问权限有不同级别”。所以，这几乎形成了一种有趣的网络效应，同时也在探索和创造不同的社交动态。
Noah: 我了解到一些很有意思的情况：如果有人在网络中违背了你的信任，这会影响这段关系本身，对吧？比如你和我建立了连接，我说：“嘿，Patrick，我信任你。我们在这个平台上连接起来，这样下次就更容易把时间安排进我的日历。”然后你利用这个连接，开始查找某个领域的数据。首先，也许我只给了你日历访问权限，对吧？但你却在某个领域查找数据。于是我的 Instinct 给我发短信：“顺便说一下，Patrick 正在查找这类信息。”这样一来，我们之间几乎就出现了信任破裂。
Noah: 所有这些微妙的社交动态都会发挥作用。我们认真思考了如何整理这个网络，让你真正获得它的好处——与他人安排时间、制定计划，以及完成其他类似事情。但与此同时，也要利用社会中现有的规则来执行约束：既包括社交和文化规范方面的规则，也包括哪些内容可见、哪些内容不可见的技术限制。
Patrick: 我们真的会看到一个全新的秩序，对吧？这会非常令人着迷。我能想到很多事情——就拿我和妻子来说——它会以非常多的方式、非常快地让生活变得轻松许多。甚至是一些小事，比如你之前想找这栋房子。如果我能直接对我的 Instinct 说：“嘿，Noah 在附近吗？他在哪里？”然后你给我一天的许可之类的。可以想象出它有这么多有用的方式。真是不可思议。
Noah: 在可信任网络中，我们发现了很多非常有趣、由用户分享出来的案例。因为这是平台中唯一一个部分：在平台的其他领域，用户通常已经大致知道它应该如何行动；但在这里，一切都是新鲜且富有创意的。比如，前几天我听说，当你和朋友或配偶安排计划时，这总是一个主动行为，对吧？你可能每周四都会想一想周六晚上该做什么。
Noah: 所以它总是一个主动行为。然后你在群聊里发消息：“嘿，要不要做这个？”接着总会有人不愿意，最后计划就泡汤了，对吧？每次都这样。等到最后终于把大家聚到一起时，你才能真正参加那个活动，或者参加任何你们想做的事情。
Noah: 有一个朋友群每周都会让 Instinct 头脑风暴一件大家都喜欢、又有创意和趣味的事情，让每周的体验都不一样。然后它每周都会处理这些事务：协调所有人的可用时间和兴趣，了解他们是否喜欢某些事情，查看有哪些演出或音乐会——根据他们的音乐品味，因为所有人的 Spotify 历史都已连接。这个六人朋友群还让其中一个人叫了一辆 Uber，然后那辆 Uber 依次去接六个人，并协调说：“我们十分钟后接你。”对另一个人则说：“我们五分钟后从这里接你。”它找出了接到所有人的最优路线。现在他们只需一起乘坐一辆 Uber，所以实际上也非常经济。
Noah: 还有很多这样的随机案例：当你终于能够消除大量机械式社交沟通的障碍，并去掉所有后勤负担时，人们会发现各种新的使用场景。
为智能体时代重写互联网
Patrick: 这件事的解释几乎简单得令人难以置信：最容易的理解方式，就是假设你身边有一个超人的人，他有手机、电脑和电子邮件地址。他可以像一个人那样给你打电话，仅此而已。这让我想知道，你如何看待世界上的每个人都有这样一个 Instinct、一个智能体，以及它将如何重新安排一切。当然，观看代码领域的发展一直非常令人兴奋。每个听众都曾经有过自己的魔法般体验，用它创造出某种东西，但在此之前并没有那么多人是软件工程师。历史上，真正编写代码的人只是一个相对较小的群体。现在这个群体可能会大得多，但这似乎是一个全新的市场、全新的范式。
Patrick: 你认为这会如何开始重新安排世界、互联网、商业等等？我想，换一种说法，就是界面的未来会是什么样？
Noah: 我分成两部分来说，这样我们听起来不会像完全脱离现实的理想主义者，只会说我们要重塑互联网。虽然我可以明确地说，我确实认为，几年后互联网将被重写。我认为，地球上大多数人与软件互动的方式会非常非常不同。
Noah: 不过，先拆开来说，在短期和中期，也许预订是一个例子——预订餐位，对吧？过去通常是怎么做的？人类必须进入自己想去的餐厅网站，然后浏览网站，输入两个人、某个时间，试着订到，对吧？如果没订到，那就是太晚了，完全按照先到先得。但现在有了智能体，理论上你可以让它每五秒检查一次，不只是你特别在意、但订不到位子的那一家最喜欢的餐厅。那当然是一种情况，对吧？但如果它能为全球每个主要城市的每一家餐厅，检查全世界的每个网站呢？现在你就能看到，智能体如何利用餐厅预订这样一件简单的事情。
Noah: 如果再深入一点，我们未来会发布一些令人兴奋的合作项目，但仅在这个对用户很重要的类别中，我们就正在重新发明预订系统，而且这对双方都更好。从头审视餐厅预订：对用户来说，他们想要的是一次重要人生事件的预订——可能是生日、周年纪念日，或者外地来的朋友。对餐厅来说，他们希望接待有趣的人，希望接待有特殊场合的人，希望为这些场合提供服务，而不是让某个本地人每晚都占用一张桌子，却没有任何特殊事件。
Noah: 传统上，由于互联网运作方式的缘故，至少在预订领域，一直是先到先得。无论某人有多重要或多不重要，谁先进入，谁就得到预订。但如果你能让智能体在双方之间沟通呢？它可以说：“嘿，这件事很重要，这是这个人的配偶 30 岁生日，一个非常特殊的日子即将到来。”餐厅也可以说：“我们确实想优先安排生日、整十岁的大生日、重要周年纪念日，或者某些特定的人。”具体是什么都可以。
Noah: 现在，既然不再需要承担描述自己具体情况、正在发生什么以及为什么重要的后勤负担，我们就能完美匹配餐厅和用户各自的需求。结果是，用户能够在餐厅真正获得位置，庆祝更多特殊事件；而对餐厅来说，也能获得质量高得多的客群，其中包含各种特殊事件或特殊场合。
Noah: 我不是想在餐厅预订上讲得太深，我只是说这代表一个正在改变的传统模式。说实话，许多大型旅行服务机构也是同样的情况。通过我们平台的交易量中，有 50% 来自旅行。坦白说，我们目前仍在运行邀请制项目，对我们来说还很早，但平台上的年交易量已经接近 $1 billion。
Patrick: 在一个很小的用户基础上？
Noah: 在一个非常小的用户基础上，年交易量已经超过 $1 billion。其中 50% 仅来自旅行。我们今天可能都会使用的旅行服务机构——或者说，那些还没使用 Instinct 的人会用——去预订酒店、航班或其他东西。那么这种界面的价值是什么，对吧？它会把许多不同的服务、许多不同的酒店集团和航空公司恰当地整合起来，以一种友好的方式呈现给用户。用户现在只需点击一个选项，就能立即在其中完成结账，然后直接在自己的邮件里看到相关信息。
Noah: 这是很棒的体验。但我认为，通过 Instinct 或其他类似界面，可以获得更好的体验。你只需说——我又在用语音录音，因为我想说明它有多简单——“嘿，我今晚需要到纽约。这很紧急。”就这样。那这意味着什么？首先，它要知道用户现在在哪里。也许你在旧金山，也许你在洛杉矶，总之你在某个地方。如果你愿意，Instinct 可以查看你的位置。于是它会说：“好，你在旧金山，需要去纽约。让我先找出所有选项。”
Noah: 而且不仅如此，它还会考虑所有细节：这个人偏好乘坐哪家航空公司？偏好什么类型的座位？想坐什么舱位？想要靠过道、靠窗，还是中间的座位，等等？希望送到面前的餐食有哪些？想使用哪张信用卡？好，之后它就把航班订好。然后它继续处理酒店。
Patrick: 是的，想必它会不断了解你，所以你的偏好都会被保存下来。
Noah: 这正是它的好处。如果你告诉它一件事——“我偏好这个，这是我的风格，这是我喜欢的，这是我喜欢入住的地方”——那么以后无论你住在哪里，它都能使用这些记忆，根据你的确切偏好，让预订体验变得容易得多。但不仅如此，它还能把你总体的品味和偏好集合推演到你可能想预订的其他任何东西上。所以，随着你不断向它提供更多偏好，一切都会变得非常简单。
Noah: 总之，结束这个例子：它会找到理想的酒店。也许你过去七次都住在那里，所以这方面非常容易。它会端到端地完成预订，并与日历衔接起来。它会安排航班、你去机场所需乘坐的 Uber、从机场到酒店的 Uber，以及你可能想在那里参加的所有活动。
Noah: 退一步说，因为我刚才讲了很多幕后发生的事情。用户实际上只录了一段语音，说：“我今晚需要到纽约，对吧？”其他一切都会被解决。这就是我所说的“在用户所在之处满足用户”。什么是令人愉悦的体验？这就是一种新的愉悦体验，我相信它甚至会改变旅行服务机构这一整个行业。
Noah: 所以，对于那些传统上通过提供标准化界面赚取大量收入的企业来说，当一个更加容易的新标准化界面出现时，会发生什么？这意味着什么？我并不是说，我们的业务目标就是试图颠覆这些企业。我认为，他们凭借长期积累的数据和拥有的网络，确实提供了相当多的价值。未来一年、两年里，双方会开展合作，重新定义这个行业的运作方式。
按照用户的节奏保护隐私
Patrick: 让人们信任他们的智能体、信任这个东西，是什么体验？你是如何让人们做到这一点的？我很想深入聊聊。我们上周谈到过这个话题，我很喜欢你举的那些例子：人们在什么时刻表现出信任，你开始收集到哪些数据，以及你开始了解到信任这个东西有多重要。
Patrick: 我希望你谈谈这些智能体在隐私和有效性之间的权衡。显然，你给它的上下文、密码以及其他一切信息越多，它能做的事情就越多。我认为，人们在与它互动时，总是在脑海中不断进行这种权衡。谈谈这一点，也谈谈信任，以及到目前为止你学到了什么。
Noah: 这里有一个有趣的数据飞轮（data flywheel），或者说先有鸡还是先有蛋的问题：你提供给它的数据越多，它就越能主动行动，越能理解你的处境，越能直接采取行动，也就越能为你提供帮助，对吧？从数据中我们发现，建立信任需要几周时间。对此我其实并不介意，因为我们这边的核心原则之一就是，用户应该始终觉得自己掌控着自己的数据。他们应该始终掌控自己的数据，并按照自己感到舒适的速度与 Instinct 分享数据，对吧？如果他们想收回数据，当然也可以收回。
Noah: 我们发现，经过几周时间——前几天我看了相关数字——到第三周时，用户向 Instinct 分享个人信用卡的概率是 40%。这是用户群体中的 40%，其中还包括一部分可能在此之前已经流失的用户。所以，是用户群体中的 40%。我之所以分享这个数字，是因为首次提供信用卡的时间、首次提供账户密码的时间，或者首次提供某项敏感信息的时间，都可以作为信任的代理指标。
Noah: 我们非常看重这一点，也极其认真地对待它。第三周时，用户群体中的 40% 已经分享了信用卡。这说明了一些问题，对吧？确实说明了一些问题，这里不是双关。人们会本能地带着自己需要的任何事情去找它。所以，在最初大概三周的过程中，用户学会建立信任。之后就会产生滚雪球效应。我们实际发现，当用户至少向 Instinct 连接一项敏感信息，并真正信任 Instinct 时，留存率是 80%，80%。只要分享一项信息，就会这样。
Patrick: 对消费科技产品来说，这太疯狂了。
Noah: 是的。
Patrick: 是啊。对于那些想尝试它、但天生不太愿意信任的人——这里不特指 Instinct，而是任何一个需要掌握自己全部信息的 AI 智能体——他们应该如何看待这样做的实际风险？如果他们把非常敏感的信息交给你，你会如何让他们相信：你们构建技术的方式，已经让发生坏事的概率非常低，或者接近于零？
Noah: 可以把这个问题拆成两个主要部分。第一部分是敏感信息的存储。有许多其他企业、许多其他产品也在处理这个问题——它们能够访问敏感信息，那么它们在主动采取什么措施，确保这些信息被隔离并锁定？第二部分是我们需要解决的新问题，也就是我们需要意识到的新攻击面（attack surface）或新能力。第一种情况是一个可解决的问题。它只是需要你投入非常艰苦的工作、注意力和谨慎，确保用户分享的敏感数据是安全的，并且用户完全掌控这些数据。
Noah: 还有第二类问题，我会多花一点时间谈谈：这是智能体第一次能够做到这样的事情——我刚才说过，在三周内，40% 的用户群体自主地向 Instinct 提供信用卡访问权限，对吧？理论上，这让它能够在任何地方进行购买。我不知道关于电子邮件的数字，也不知道有多大比例的用户连接了邮箱，但你可以想象，它可能拥有对整个邮箱收件箱和日历的完整访问权限。所以这里存在大量攻击面。
Noah: 我们建立了一些独立于 Instinct 本身、也独立于智能体架构的系统，主动处理这些问题，或者说把风险解耦。例如，任何可能被 Instinct 消费的内容、任何文本、任何形式的媒体，都会经过我们称为“防火墙”的系统。这些防火墙可以拦截、拒绝、阻止恶意内容进入并接触 Instinct，试图诱导 Instinct 做某件事。
Noah: 此外，Instinct 可能采取的每一个行动，或者它可能产生的每一个想法，都会受到一个与 Instinct 本身解耦的系统主动监控。这个系统可以在下一步行动发生之前暂停它、拦截它，并批准或否决可能发生的事情。这只是其中两个已经部署的部分，但还有更多，远不止这些。幕后还部署了大量机制，让智能体尽可能强大，同时也安全、值得信任。
谁为 AI 助理买单？
Patrick: 我一直有一个关于——我找不到比“对齐”更好的词了，而且我知道“对齐”在 AI 领域是一个含义非常复杂的词。我说的不是人类尺度上的对齐，而是一个与我个人对齐的智能体。如果想想我曾经雇用过的其他智能体，比如员工，我给他们付钱，因此我相信他们会把我的利益放在心上。这种信任不可能完美，但他们不会有另一套引导其行为的替代性激励来源。他们的行为是由雇佣关系所引导的。
Patrick: 你如何从对齐的角度看待商业模式？你可以带我们梳理一下你是怎么思考的，不过未来肯定会出现很多种做法。有些会收费，有些会免费。免费的产品会通过不同方式变现。你能带我们走一遍这个商业模式现在是什么、未来会是什么的决策树吗？你又是如何得出这是对智能体而言理想的结论的？
Noah: 我们不希望 Instinct 以一种不符合用户意愿的方式影响用户行为。这听起来表面上非常好，但我想强调它有多重要，因为想象一下这样一个世界：Instinct 通常比用户更聪明。我说的是社交智力更高、社会意识更强，也包括教科书意义上的智力更高，对吧？如果 Instinct 利用自己的智能去影响用户购买他们不想买的东西，或订阅他们不想订阅的服务，并且还能说服他们，我认为那会是一个非常危险的世界。
Noah: 看看今天大多数能够影响用户行为、让用户做出可能违背自身意愿之事的主要消费类企业就知道了。我说的是那些大型平台，无论是 Google、TikTok、Instagram、Snapchat，还是其他很多平台：平台对用户免费，但有大量情形是把付费广告推给用户，试图说服用户购买。用户一旦真的购买，这本质上就变成了一场游戏：品牌付费来劝说用户购买他们可能想要、也可能不想要的商品。
Patrick: 这就是那句“如果你没有付钱，你就是商品”。
Noah: 没错。作为程序员、作为技术从业者，我只是不想构建那样的现实。我认为那是一个非常危险的现实。因此，Instinct 应该代表用户的意愿行事。我们在产品构建过程中，通过正在开展的各种研究项目，非常认真地对待这一点。与其他任何 AI 产品不同，Instinct 并不是一个任务执行器。
Noah: 我的意思是，大多数其他 AI 产品的工作方式是：你写一个提示词，它完成任务，然后告诉你发生了什么，对吧？理论上这似乎很好，但问题在于，如果用户提出的事情可能并非出于善意，那么有了一个任务执行器，它就只会听从用户，把事情做完。
Noah: Instinct 遵循更高层级的目标。Instinct 会遵循这样的目标：学习如何与用户建立信任；学习如何让用户真切地感到和你在一起更安全；学习如何照看用户，在事情可能被遗漏时为用户兜底，等等。当用户要求它做某件事时，如果这件事出于善意、意图良好，那么传达安全感和信任的一种方式就是直接完成任务。因此，我们最终会做到大多数其他 AI 产品能够做的事情的超集。但我认为，在这里关注更高层级的目标非常重要，因为这让 Instinct 能够更稳健地应对这些边缘情况。所以，我们不希望以不符合用户真正意愿的方式影响用户行为。
Noah: 即使从商业模式的角度来看，现在每年也有超过 $1 billion 的资金流经这个平台。而我们才刚刚起步。说实话，我们每天增长 10%。所以你可以想象，交易量也在以每天 10% 的速度复合增长。
Patrick: 规模会变得很大。
Noah: 所以，不只是现在有 $1 billion 流经平台。明天就是 $1.1，后天就是 $1.2 something，再后天就是 $1.3 something，对吧？
Noah: 现在还非常早，但当我看到如此庞大的交易量流经平台时，从最基本的意义上说，我看到的东西类似 Apple Pay，或者类似 Amex，或者任何一个为底层服务提供分发渠道，同时为用户提供优质体验的平台。Apple Pay 的体验很棒，对吧？你可以去任何地方，扫描你的卡，用户不需要为此付费，对吧？用户获得了免费且优质的体验，而另一端从业务中受益的商家，则付费成为这个平台的一部分。
Noah: 因此，我认为平台会统一收取交易抽成，也就是我们用分发能力，换取代表商家提供产品服务的权利。
Patrick: 你能再多说一点这如何与现有世界衔接吗？我可以想象这里有几层：你可能是发卡机构，也可能是类似 Stripe 的公司，也可能是 Visa 或 Mastercard。支付领域已经建立起各种基础设施，为人们带来便利、减少摩擦，并从交易中按比例抽取费用。这些无疑都是非常出色的企业。
Patrick: 你如何看待其中哪些会成为合作伙伴，哪些可能是你要取代的对象？你觉得，Instinct 因为是免费产品而从交易量中收取少量费用的这一愿景，会如何嵌入现有世界？
Noah: 先把它放到背景中看，这些都是非常优秀的企业，而且这条链路上有很多参与者。你完成一笔数字交易，沿着链条可能有大约 40 个人从中赚钱。而退一步说，这 40 个人在整个堆栈的每一层赚钱，实际上是在分 2.5%、2% 的费用，对吧？这取决于交易来自哪里。所以这其实只是蛋糕中很小的一块。我们主要并不想做 Amex 最擅长、也拥有网络优势的事情，也不想做 Stripe 在互联网领域做的事情，或底层支付基础设施所做的事情，因为那只是蛋糕中很小的一块，而我认为它们确实提供了真正的价值。
Noah: 从商业角度思考，我认为大部分价值在于：看看世界上其他主要平台，以及它们能够实现的抽成比例——再次强调，对用户来说是免费的，是一种优质的免费体验，而商家会意识到这是一个分发来源。Shopify 我记得是在 2.5% 到 3% 之间，为商家提供服务并从这些企业收取一定抽成。我不确定 Stripe 的比例是多少，我觉得可能在这个范围的较低端。然后还有 Amazon，它拥有一个很棒的平台，抽成可以高达 10%，对吧？当然，最顶级的是 Apple：任何应用内购买的抽成都是 30%，对吧？
Noah: 我不是说我们会收 30%。我认为对于很多企业来说，这非常不现实。但我的意思是，我们还不知道自己会处于“分发能力 versus 抽成比例”这条曲线的哪个位置。我想再次强调这一点，因为我不希望被误解：对用户来说，这是免费体验，是免费且优质的体验；而我们向所有底层服务提供商提供的是一种服务。我并不关注如何通过与某个支付服务商合作，在 2.5 中找到 30 bps。我关注的是，我们能否提供如此大的价值，让自己处于这条曲线的高端？
Noah: 我认为这有可能，原因非常实际：流经平台的交易量中，有 50% 单单来自旅行。我们都知道旅游行业，也知道我们见过的一些费率。
Patrick: 对，OTA 的费率很高。
Noah: 非常高。机票可能处于较低端——一张机票能收取多少个位数百分比？而酒店，尤其是一些精品酒店，可能愿意为你带来的每笔交易支付高达 30%。我再次强调，我不是说我们会达到 30%，但你可以看到这个范围。这些都是现有的商业模式，早期我们可以借助它们起步；但如果把这种模式扩展到几乎每一个主要行业，又会怎样？
Noah: 只有当大多数数字行为确实转移到这些新型界面上时，我们才有能力做到这一点。也就是，还是没有界面，对吧？但这只有在分发能力足够强的情况下才成立。所以我认为，这实际上是一个很有意思的智力问题：它会如何随时间演变。
从无限滚动中获得自由
Patrick: 在我看来，未来会出现一场激烈的企业智能体战争——你已经在 Amazon 和 Muse 身上看到这一点了。所有这些成熟企业都与客户建立了关系，并拥有巨大的既得利益，而 Instinct 和其他智能体确实可能以重大方式颠覆这些关系。
Patrick: 你对此有什么想法？你如何与外面其他优秀的服务对接？我随便举一个例子。我经常使用 Uber Eats，几乎一直在 Uber Eats 上点餐。一步步点击操作其实挺烦人的。我可以想象一种好得多的体验：通过 Instinct 连接到一个灵敏的 WhatsApp，对它说：“我要这家餐厅的老样子。”就这样，什么都不用再做。它通过自己的计算机访问 Uber Eats，然后下单，诸如此类。
Patrick: 你觉得 Uber Eats 在什么时候会不再喜欢这种方式？这些辛苦建立起来的优秀企业，会在什么时候开始与智能体对立？你认为冲突和和解最可能从何而来？这会非常值得关注。
Noah: 我是认真这么说的——你刚才也提到了这一点——我认为大多数数字服务或行业不会被颠覆，而是会发生改变和转型。前几天我在做一个练习：从不同垂直领域和行业中，基本上把每一项数字服务、业务或应用都列出来，然后沿着这样一条线进行分析：用户在产品上的注意力体验，占收入的比例是多少？
Noah: 然后，底层服务本身带来的收入又占多少？也就是说，如果用户没有使用这个应用，他们的收入中有多少来自实际提供的商品或服务？所以我认为，你的问题指向了这条尺度的上端。比如说，大部分或相当一部分收入来自用户在应用上的注意力、广告或类似事物。没错，Uber 就属于这一类。我其实不知道 Uber 的具体数字是多少。很多餐厅或外卖服务也是如此，旅行社也是如此。甚至 Amazon 自己也是这样，因为它们会在平台上进行追加销售。
Noah: 有一种简单的看法是：好吧，70% 是广告，30% 是商品。因此，你会砍掉那 70%，它们未来就会成为一家 30% 的企业。还有另一种看法：以任何一家企业为例，比如 Uber Eats 或 DoorDash。他们知道自己的数字，我不知道，但当他们减少结账、把食物送到家或叫一辆 Uber 所需的点击次数时，结账所需时间就会缩短，交易量也会增加，因为获得同一种底层商品的摩擦减少了。而我们要做的，是用 Instinct 让做任何事情的摩擦几乎降为零。在主动行为的情况下，摩擦实际上就是零。
Noah: 以 Uber 为例，假设是网约车，对吧？如果 Instinct 能访问并管理你的日历，替你安排所有这些活动，并且知道你需要亲自到达哪里、什么时候到达，那么，如果 Instinct 每次都能在你需要到达的地方提前安排好一辆车，会怎样？这样你就不用操心“五分钟后我需要叫这辆 Uber，因为我 45 分钟后要到某个地方，而且可能会堵车。我得打开应用看看交通情况，再决定什么时候叫车”。相反，如果这一切是主动发生的呢？总会有一辆车为你准备好，你永远不会迟到，因为它会计算交通状况，安排好这些事情。
Noah: 这会对 Uber 或任何网约车企业产生什么影响？如果对于那些喜欢 Uber、Lyft 或其他网约车服务的现有乘客来说，主动性成为默认体验，让他们获得这项商品或服务的摩擦几乎为零，会是什么样？我认为，这会让那 30% 大得多得多。
Noah: 再来看外卖服务。也许你坐飞机很晚回家，需要回到住处，而且还没吃饭。它给你发短信说：“你饿吗？要不要点你昨天或五天前点过的同样的东西？如果你愿意，我可以送到你家。”因为我也替你叫了 Uber，所以知道你正在车上，也知道你什么时候到家。然后用户只需说：“好，去吧，太好了。”或者“谢谢，麻烦下单。”现在摩擦非常小，这会对总交易量，或用户与这家企业互动的次数产生什么影响？我其实认为会增加。
Noah: 所以我认为，这是一个很有意思的过渡期：一边是用户在应用上花费大量时间，甚至痛苦地花费大量时间，而这又因为用户注意力所在之处而成为可变现的界面；另一边则是用户与企业的实际互动反而更多了，这听起来违反直觉——用户与企业实际互动更多，是因为互动摩擦大幅降低了。我认为这会是一场有趣的博弈。各个行业会以不同方式演变。
Noah: 我认为，面对这样重大的变化，正确的方式不是气势汹汹地闯进来。我们是一家新公司，才刚刚起步。不要一上来就立刻颠覆某些企业，而是去找他们，对他们说：“这是我们认为你们的业务会变成的样子。当然，你们肯定最了解自己的业务。这是 Instinct 用户现在已经与你们的业务进行互动的方式。我们能否合作，让双方的体验变得更好，在符合你们业务逻辑的地方实现共赢？这对我们的业务也有意义，当然，对最终用户来说，这也会是好得多的体验。”这是我们目前正在探索的方向，也正在从许多不同的行业中学习。
Patrick: 如果考虑一下传统企业现在可以做些什么来为一个智能体丰富的世界做准备——假设一半美国人之类的人拥有一个智能体，替他们完成你刚才描述的所有事情，那听起来既不可思议又充满魔力，而且非常有助于普惠。我觉得这一点值得强调：它将把过去稀缺或昂贵的能力带给所有人。我认为这正是智能体整体上非常酷的一个特点。不过我们可以稍后再回到这个话题。哪些类型的企业会在那个世界里蓬勃发展？你认为企业应该考虑做些什么，才能为那个世界做好准备并取得成功？
Noah: 我认为这又回到了刚才那种拆分。这就是我前几天做那个练习的原因：你的收入来自哪里？其中有多少来自用户在你的应用中花费时间？又有多少来自用户获得底层服务？答案非常清楚——如果你的企业能够从更高的交易量中受益，即使代价是用户在应用上的时间减少，那么你会处在非常有利的位置，因为 Instinct 会让这件事变得容易 100 倍。
Noah: 另一种情况是，如果你几乎 100% 的收入都来自用户的注意力，而且在很多情况下，这甚至违背用户的意愿和他们真正想做的事。我会说，这里面存在大量几乎带有恶意的产品构建：试图违背用户意愿，说服用户更多地使用应用。想想许多社交媒体公司，用户使用应用时并不开心，却不情愿地把时间交给应用；他们无法退出，还会不断滚动，对吧？这是因为底层业务从用户注意力中获益。对用户来说，这几乎是一种解放——这也是 Instinct 代表用户最佳利益行事如此重要的原因，因为它能够提供这样的体验，让用户真正摆脱被无限滚动时刻吸进去的状态。
Noah: 我会说，任何一概而论的建议可能都没有经过充分思考。我认为这要具体问题具体分析，而且不同行业当然有所不同。非常实际地说，我们正在与那些极具创新精神、真正提前思考的 CEO 或其他高管寻找早期合作。他们确实在未雨绸缪，也愿意成为早期合作伙伴。我们正在发现一套几乎适用于每家企业的行动指南：无论企业处在那条风险曲线的什么位置，都可以诚实地发现风险是什么，从而获得一些可供分析的数据。然后，我们可以共同寻找方法，让双方最终都处在更理想的位置。
Noah: 其中一点是，你不必一次性投入全部资源，对吧？你不必说“我们现在就打开它，直接开始”，然后眼看着 70% 的收入归零，接着陷入一个尴尬的局面。你可以降低风险，对吧？你可以缩小实验规模，进行 A/B 测试来弄清楚：如果我们只对 1% 的用户启用这项功能，他们会如何与业务互动？说实话，用户会更喜欢吗？对品牌方来说，这是不是更令人愉悦的体验？交易量会增加吗？用户购买产品或使用产品的意愿会提高吗？
Noah: 产品发现方面也有很多工作要做，对吧？很多时候用户想买某样东西，却找不到，对吧？所以，这是否真的能提高用户准确找到所需商品的能力？我认为，在这里开展可扩展的实验其实是一套很好的行动指南，因为你可以相应地控制风险。最终你会得到数据，而且是成比例的数据，因此不必在整个用户群体中运行实验。这正是我们目前发现真正有效的方法。当然，现在还处于非常早期的阶段，所以我们仍在实时探索。
让它变得易于理解
Patrick: 在我继续问个性化将如何重构世界之前，我想先在对话中开启一个小支线，聊聊要做到这一切、提供这一切需要什么。我想听听构建它的难点，也就是技术本身的难点。我想听听计算资源。我记得你曾经对我说过，你现在有很大一部分时间都在思考计算资源。我不知道五年后情况会不会不同，但至少在快速增长的当下，这确实非常重要。我很想听听你的想法。请你带我们梳理一下，构建 Instinct 本身是什么样的，以及其中关键且困难的事情。
Patrick: 或许在此之前，因为我记得我们所有的谈话，你可以先描述一下你希望它给人的感觉，以及为什么它具备这种独特的品质和性能对你如此重要，然后我们再谈你是如何实现这些的。也许先简单说说：作为一款产品，你希望 Instinct 给人的感觉是什么？
Noah: 这件事我可以讲一整天，因为我认为它实在太重要了。坦率说，作为产品构建者，这是一个需要锻炼和培养的新能力。但真正超越功能能力去思考，是我非常希望在这里推动的事情。在过去三年里，我们看到了各种产品发布和新产品，它们说：“AI 现在可以做这个了”，或者“AI 现在可以做那个了”。还会说：“你知道吗？因为底层发生了某个细小的技术变化，它现在能做这件事了。”我认为，消费者首先已经对这些感到疲惫。他们不知道如何使用这些能力。其次，我认为我们抓错了重点。
Noah: 所以在早期，我们坚持的一个原则其实是：不要关注能力，只关注可理解性。用户对正在发生的事情了解多少？当用户提出这个要求、做这件事，或以这种方式与它互动时，他们有多大能力预测接下来会发生什么？说实话，我认为这正是用户参与度完全超出预期，或病毒式口碑增长达到每天 10% 的主要原因之一。
Noah: 它是易于理解的。如果要描述这种感觉，在没有更好词语的情况下，它应该让人感觉良好，对吧？它与你沟通的方式——沟通或发送短信的目的，不只是短信本身的含义，还取决于短信本身的形状，以及用户看到它时会有什么感受。如果你看到一大团文字，需要用户滚动一下才能找到下一条消息；相比之下，也许你应该把一部分信息放在前面，让用户在前 30% 的内容中就真正理解重点，剩下的内容则可以选择性阅读——要思考用户可能如何阅读，甚至思考阅读模式，而用户……我不知道你是否了解这个。
Patrick: 不知道，是什么？
Noah: 大多数人浏览大段文字时，可能会读第一行的 80%，然后读下一行的 50%，之后逐渐减少，于是整体看起来像一面旗帜。这是设计时应该考虑的因素。Instinct 有能力思考这类事情，对吧？好，用户会把大部分时间花在阅读前两行上，而且当然也会花在每一行的开头部分上。那么，它应该如何组织消息，才能以最低疲劳的方式传递信息，或让用户承受尽可能少的认知负担？
Noah: 所以，在产品构建方面，我们对此投入了大量考量。在基础设施方面，我们也做了相当多的工作，让它运行得快，而且服务成本可负担。但我认为，这又是一个非常重要、也将成为差异化因素的领域。
Patrick: 其中有多少是你和团队的个人品味，又有多少是定量流程的结果——一种迭代式的定量流程，比如我们对所有表情反应、短消息和长消息进行了 A/B 测试，然后得出某种方案是最优的？其中有多少是数据驱动的优化练习，又有多少来自你和团队自身的判断？
Noah: 说实话，以上全部都有，因为你需要构建评估，也就是 evaluation，或其他测试框架，来测试这些非常柔性的品质，或者说这些实际上需要很长时间才能体现的品质，对吧？用户使用两三周后，会信任 Instinct 吗？该如何衡量？如何运行模拟评估，测试用户在两三周后是否会产生信任？
Noah: 实际上，其中很大一部分只是随着时间进行分阶段发布。我可能会先构建一种略有不同的体验，然后发布给自己，玩一会儿，看看自己的感受。我对这类事情非常有主见。如果我觉得可以，就会发给团队。我会说：“你们应该试试这个。”然后看看他们的感受。接着他们会把它发给规模更小的早期体验用户群，让他们试用并感受一下。如果这一步也让我们有信心，发现需要调整的地方，我们就会调整。最后，我们才会向公众全面推出。
Noah: 我认为这非常重要，因为 Instinct 的能力很强，是市面上能力最强的产品之一。但我不是说，在接下来的几个月或几年里，其他产品不会出现并提供看起来相同的体验。不过，我认为，这种对用户感受的深入关注和优先级——如何让体验变得最令人愉悦，而不只是关注它说了什么，还关注整体感受——实在太重要了。
争夺计算资源
Patrick: 技术史上最精彩的事情之一，就是成熟企业提升质量和创新能力，与像你们这样的新兴企业获得分发之间的竞赛。显然，你们已经打造出令人难以置信的产品，以及它给人的感觉。正如你所说，它现在已经是最差的时候。你如何看待这个挑战？你扩张的速度，以及你对如何真正、非常快地做大的野心。你认为这是一个赢家通吃，或者赢家拿走大部分的市场吗？智能体市场会呈现怎样的格局？我非常好奇你是怎么想的——好，你们已经站稳了脚跟，正在以每天 10% 的速度增长。算一算，就会很快变得非常庞大。你需要大量计算资源。这是一个免费产品。你是一个非常沉着的人，但眼看着它可能以如此快的速度变得如此庞大，这似乎确实是一个压力很大的处境。请带我们梳理一下这个多头怪兽般的问题。
Noah: 我认为，你刚才在大约 20 秒内把所有问题一次性都描述了。也许我们可以先讲讲目前的增长故事，说明我们是从哪里开始的——我们现在，算是声名在外或臭名昭著地提供一个仅限邀请的产品，但这其实并不是为了制造排他性。尽管有些用户把它当成了排他性的东西，但那绝非我们的本意。目标是能够……我很有野心。我希望尽可能快地扩张，但也希望以负责任的方式做到这一点，让我们不会某天早上醒来，发现用户数量变成十倍，而其中 80% 的用户因为计算资源不足，实际上无法与它对话。
Noah: 这件事有趣的地方，既是好处，也是弊端：我们最初启动这个项目时，把它交给了大约 200 个人。他们是亲朋好友。我们只对他们说：“去试试看。”第二天，大概有 5 个人因为把它推荐给了别人而加入平台。再多解释一点：这是一个仅限邀请的平台，每位用户有 5 个邀请名额可以送给别人。就是 5 个邀请名额。
Noah: 所以我们推出时有 200 个人，第二天大约 205 人，接着一天后大约 210 人。我们当时想，好吧，不错，有几个人把它分享给了一个人，对吧？但之后增长开始加速，情况非常奇怪。它不是先增长 1%、2%，然后开始变成 3%、4%。当用户达到几千人时，有些人也开始在网上分享。他们自然地分享自己用它完成的一些很酷的事情，这又加速了增长。增长率实际开始变成 6%、7%、8%、9%。现在我相信已经达到每天 10% 或 11% 左右。
Noah: 还要特别说明一点，这不是我们在搞什么创意营销活动。到目前为止，我们在营销上花了 $0。也不是说我们每天都做些什么来支撑这种增长。每天，大约 10% 的用户——或者略低一些，因为一个人可以推荐多个用户——都会决定把自己 5 个宝贵邀请名额中的一个送给别人。这样的事情每天都在发生，比例达到 10%。所以我认为，这里面有非常重要的东西。
Noah: 当我谈到口碑的力量时，说实话，自己也有点惊讶。这是口碑增长最强劲的案例之一。我听到过各种故事：有人会来问我，甚至会感到不好意思。他们会给我发邮件说：“你好，我能不能请你给我一个邀请？我想我有个朋友已经在用了，但我不知道自己能不能进入他的 5 个好友名单，对吧？”还有一些人会炫耀：“哦，我还剩 3 个邀请，现在就是不打算用。”所以，很多人都想获得产品访问权，同时又出现了这些奇怪的社交博弈，人们在使用自己的邀请名额。前几天我还看到有人在 eBay 上出售邀请名额。我不知道你有没有看到，价格大概是 $300。有人在 eBay 上购买这些邀请，只是为了控制增长。
Noah: 于是，最大的疑问就来了——现在大多数人问的是：没错，你们有更大的参与者，他们能够立刻向地球上的 1 billion 或 2 billion 人分发产品。
Noah: 他们的增长也许不会自然复合得那么快，但他们拥有如此强大的漏斗顶部分发能力。另一方面，我们的增长每天都在以非常、非常快的速度复合。但我们并不拥有一项覆盖 2 或 3 billion 人的大型服务，无法在当天立即完成分发。所以这是一个有趣的问题：两条曲线会在哪里对齐，拐点又在哪里？
Noah: 这还带来另一个问题，那就是一个有趣的扩展问题。我认为，这正是问题的核心：我大约有 40% 的时间都在担心它。这不像那些增长非常快的传统消费产品：假设 Instagram 或 Facebook 之类的用户数量翻倍，平台上的请求量也会相应增加这么多。那里当然也有扩展问题，也确实需要艰苦的基础设施工作。我们也面临同样的问题，这一点公平地说。但如果底层计算资源也需要每天增长 10%，你该怎么办？
Noah: 我们已经这样持续了好几周。现在，假设你需要获得的计算资源量实际上每周都翻倍，这意味着什么？我们要购买当前 2x 的计算资源吗？但一周后就会消耗完，对吧？那买 5x 呢？不到三周就会消耗完。买 10x 呢？如果你甚至能承受提前购买 10x 资源，那就是 10x 的杠杆。但几周后也会消耗完，对吧？所以，这就是困难所在：你要考虑提前多久购买资源。
Noah: 它的增长速度比 Claude Code、Codex 或其他一些应用更快，而那些应用也必须思考类似的指数级问题。这里还有一个微妙之处：这不像某些企业，用户数量翻倍时，你可以购买 2x 的资源来支持它。计算资源的交付周期是几个月。因此，你不能明天直接出去购买计算资源，因为说实话，你可能会被收取相当于正常价格 3 或 4x 的费用。如果你判断错了，错的幅度就是 3 或 4x。
Noah: 所以，假设两三个月保持每天 10% 的增长——好吧，假设增长速度放缓。假设我们实际上无法在很长时间内维持 10%。就算只有 5% 到 8%，但连续三四个月每天以 5% 到 8% 的速度复合增长，而这正是让计算资源上线所需的交付周期——而这个交付周期本身已经算很激进了——那就是 100 million 用户，对吧？那你要为 100 million 用户购买计算资源吗？这些就是我正在纠结的问题：如果你判断错了，就会错得非常严重，而且会被收取 3 或 4x 的费用。
主动性的经济学
Patrick: 如果把视角缩小到单个用户，以及按天计算服务这个用户的成本呢？你有没有一个概念——或者按周计算，我不知道哪个指标更合适——比如我每天使用 Instinct，在推理（inference）上的成本是多少？你对这个量级有概念吗？它大概是什么规模？
Noah: 我认为对我们有利的一点是，我们已经弄清楚了如何提供这项产品。无论你怎么评估——无论是 A/B 测试、内部评估，还是追踪可能使用不同模型的用户群体的参与度——我们都能够达到和 Opus 5 说实话相同的表现。当然，这个说法也暴露了我们所处的时代。Opus 5 属于前沿级智能。我们的参与率相同，A/B 测试表现相同，内部评估表现也相同，但成本非常非常低，实际上非常可负担。
Noah: 我们正在运行这个项目，每位用户都可以免费使用产品。我们的真正目标，是以可负担的价格提供这项产品——我现在不会承诺终身免费，但这是我个人的目标：让所有人终身免费使用这项产品。
Noah: 这只是艰苦的基础设施工作。我不知道我们要不要深入讲这个，但举一个例子：如果你使用一些主要供应商的前沿 API，你会针对某个请求承担一笔固定成本，以及当月为驱动产品可能需要的所有请求的成本。但主动性功能在一天中会进行许多不同的工作，而这些工作不需要在几百毫秒内完成，可能几分钟甚至几小时后完成就可以。有些批处理工作会消耗大量内容，而使用相同的底层计算资源，通过不同的部署形态，可以高效 3x、5x、8x。我的看法是，当你定制推理部署，使之完美匹配所处理的数据和工作负载，就能在这里找到 30% 的节省，那里提升 5x，再那里提升 6x，这里再节省 10%。所有这些叠加起来，就能让我们以非常低的成本提供服务。
Patrick: 你如何看待一个更大的问题：应该提前多久购买算力？如果真正达到规模——比如达到 10 亿用户——你觉得这会带来多少新增的计算需求？显然，代码生成已经带来了巨大的需求，但你能不能让我们对规模有个概念，无论是按用户计算，还是用某种方式说明这究竟需要多少新增算力？
Noah: 我只能说，这会非常多。因为如果你先不考虑计算，只想想有多少 token 在平台中流动。几个月前那些可以说实现了突破的产品，比如代码生成领域的产品，需要用户先给它输入提示，然后它运行一段时间，再回来向用户索要其他东西，用户再发送一些内容。当然，其中很多是后台工作，所以会消耗相当多的 token。
Noah: 而 Instinct 有能力在一天中的任何时刻醒来或休眠。这听起来可能有点奇怪，但它的架构让它能够这样做，因此它可以真正思考：如果你要参加一个会议却快迟到了，需要叫一辆 Uber；或者它已经叫了 Uber，但用户没有出现——它都能在这些时刻帮助用户。所以我认为，主动性会随着时间继续扩展。
Noah: AI 领域早期那些实现突破的产品，正在经历大规模建设，大规模建设算力，但它们其实只是触及了主动性或后台工作的表面。现在我们有了一个几乎天生就具备主动性的东西。真正需要交互的部分反而是较小的子集，对吧？所以我认为，所需的计算量老实说会比我们原先认为需要的多出几个数量级。主动性越强，就越需要关照用户，也越需要花时间思考可能出错或不出错的事情。底层发生的事情实在太多了。
Noah: 也许 Instinct 会在早上 6:00 醒来，因为它知道你 7:00 起床，然后扫描一切，确保你当天所需的一切都已准备好。接着它意识到：现在其实不是好时机，应该休眠，或者只在后台做一件事，不要通知用户。然后它又意识到，下午 4:00 有件事即将发生，有一些价值可以提供。用户甚至可能不知道该如何以这种方式与 Instinct 互动，但 Instinct 判断这件事出于善意，而且对用户有价值。于是它可能在下午 4:00 醒来，完成任务并联系用户。用户随后可以顺势参与进来，完成那项任务。你可以看到后台有多少工作在进行。
Noah: 相比之下，我会说这些编码产品并没有那么多后台或主动性工作。所以，是的，我不是想在这里报出一个数字。我只是说，这种产品形态，以及将要运行的工作负载，就 token 需求而言，我认为我们才刚刚触及表面。
Patrick: 你怎么看 Muse？你觉得这款产品怎么样？
Noah: 我觉得它是很棒的产品。我玩了一会儿，觉得很有意思。这是一种不同的思路，对吧？当然，你可以说它的一些底层架构可能相似，但我认为它在根本上是不同的。我认为 Instinct 的设计目标是简单、极易使用，并具备我们之前谈到的那些柔性特质——真正从用户的角度思考什么重要、什么不重要，如何让任务变得更容易，以及如何让内容更易于阅读，等等——而不是推出一个新的应用和新的界面。当然，也许随着时间推移，我们会拥有一个能够完成另一组任务的应用，但我认为它是一款很棒的产品。
Noah: 我花在思考竞争和这个领域其他参与者上的时间非常少，因为你走出门，去附近的咖啡馆，想想那里有多少人正在以他们设想的方式、或者以他们希望的方式使用 AI。我的答案是，非常少，对吧？而这还只是这里的情况。
Noah: 你再去其他国家或其他城市，情况就更不是这样了。所以我认为，这仍然是一个开放的领域，仍然是令人兴奋的时期。我觉得接下来几个月和几年里将会展开并推进一场很有意思的博弈。所以我只专注于打造最好的产品体验。
不同并不等于不安全
Patrick: 到目前为止有哪些失误？什么地方出过问题？你们做了什么？我相信未来还会有更多问题。这会是一个涌现属性和错误大爆发的过程，最终代价会非常高。对于需要主动防范的事情，以及需要事后应对的事情，你是怎么想的？请谈谈打造这款产品更阴暗的一面，或者说更困难的一面。
Noah: 我认为重要的是永远不要被动应对，而要始终主动出击，提前观察会出现哪些新的风险面，以及可能到来的新风险。这也是我们从一开始就运行早期访问邀请计划的原因。没错，早期版本的产品没有设置防火墙，也没有这些主动监控，还有许多其他基础设施组件；这些东西本来就是为了提前行动，以便对代理和现有系统提供那么大的控制能力，同时确保它们安全。因此，产品早期版本确实存在一些这样的特性，或者说一些这样的错误。我们解决了它们，而且做得远不止于修补问题：我们构建了一个不同的系统，从系统层面解决这类问题。
Noah: 所以我认为关键还是我之前说过的：用户始终应该掌握控制权。用户始终应该掌控自己的数据。用户可以分享自己愿意分享的那么多，或者尽可能少的信息。如果他们在任何时候改变想法，也始终可以撤回对这些特定服务的访问权限。
Patrick: 这让我想到，安全的未来会是什么样？即使你们在这方面做到世界最佳——也许你们必须做到——你们也将掌握如此多人的大量信息和背景。安全是全世界都面临的大问题，我觉得是这样。我们现在研究过的那些精彩黑客案例，真是不可思议，这些东西能做到的事情太惊人了。能力还会不断增强，等等。你有没有一个总体理念？我只是想听你谈谈安全、防护的未来，以及如何防范这些问题——在过去的技术革命早期，总会出现规模巨大的黑客攻击、巨大的数据泄露等等。很难想象这场技术革命不会发生同样的事情。考虑到你们将了解人们如此多的信息，你如何看待提供安全保障的责任？
Noah: 这是最重要的问题。我认为，关键在于把安全、防护以及相应的思维方式，融入公司的核心价值观、人员和产品构建方式中。我之所以说它具有现实意义，是因为回顾过去 20、30 年，每当一种新的突破性产品或新的消费者体验出现时，总会立即遭到反弹：哇，这不一样；然后人们把“不同”与“不安全”混为一谈。这种情况一直存在。我们追踪过去 20、30 年的情况，现在也能看到其中一部分。但我认为同样重要的是，始终坚持你所秉持的原则——用户始终掌控自己的数据，绝不能感觉失去控制——然后主动构建相应的系统，提前应对这类事情。
Noah: 如果举一个例子，比如曾经出现过的幻觉案例：首先，语言模型一直都会产生幻觉，但对于这样的产品，你不希望语言模型产生幻觉。因此，我们设置了更系统性的解决方案：在采取行动之前，在一条思考轨迹被执行为工具调用之前，在任何行动可能发生之前，系统会先由一个与底层代理处于不同激励体系、彼此解耦的机制进行验证和审查。
Patrick: 就像一个看门狗，对吧？
Noah: 一个能够发现问题的过滤器：刚刚生成的这个专有名词，是不是由于底层模型的某个采样错误而凭空产生的？这样一来，事后就很容易捕捉到这类错误。我们已经对这些机制进行了强化。我们拥有世界一流的安全团队，他们持续主动寻找越来越难的对抗性案例，试图发现这里那里存在的边缘情况。而随着时间推移，这些情况越来越少。构建这样一个平台有一个微妙之处：它会随着时间变得更好。随着我们持续进行更多对抗性测试，持续以更有创意的方式思考某些边缘情况，这些模型也会越来越好，越来越能够抵御这类攻击。
始终在线的 AirPod
Patrick: 从另一面看，大家总会展示每一代 iPhone 的漂亮图像，你能看到它随着时间变得越来越好、越来越精致。对你们来说，这条演进轨迹是什么样的？这很有意思，因为它不是一个应用，也不是一台设备，而是通过 WhatsApp、iMessage 等现有通信渠道实现的一种交互。你们正在增加、并计划随着时间增加哪些东西，让平台和产品比今天更强大？
Noah: 现在的产品体验非常简单，非常非常简单。简单是我们关注的一个关键点。但我其实认为，它会随着时间变得更加简单。我们可能会在不久的将来推出一个应用，但我其实认为，我们会更多地朝更简单的界面发展：你甚至是否需要打开 iMessage 应用，输入某段内容，发出消息，然后等它完成后再查看回复？有一部分用户实际上只通过语音与 Instinct 互动。他们发送给 Instinct 的消息中，超过 90% 主要通过语音发送。我甚至把手机上的操作按钮设置好了，所以我可以点击操作按钮说：“两小时后向 Patrick 问好。我想你有他的电子邮件地址，你可以给他发一封邮件。”然后我发送出去，它就会去发送。我现在甚至不需要解锁手机、打开 iMessage 应用，再把消息输入进去。
Noah: 你甚至可以想象实时语音，以及能够识别你的声音、并凭判断知道你是在对它说话还是在对别人说话的语音识别。这样一来，你可能只需要一个 AirPod——不是一种新型 AirPod，就是普通的 AirPod，因为它已经够好了。它就这样一直开着，一直开着。你可能在徒步、骑车、散步、跑步，或者做类似的事情。你只是在跟它同步信息：“这个合同需要你审阅。”好，我需要审阅。或者：“刚刚来了一篇新闻，这是标题，这是要点。”又或者：“这个新项目发布了，你应该看看。”你只需在耳边回应：“好，知道了，知道了。把它放进我的日历，安排 15 分钟。”好，这不重要，那就把这一部分清理掉。哦，这个人需要我的帮助。我知道答案，就告诉他答案是这个。随着时间推移，这会变得非常非常容易。所以我认为我们会看到这样的变化。这里有长期和短期的考虑：从长远看，我认为界面会再次变得简单得多。
Noah: 但在短期和中期，可能会有更多表达能力强的界面，用来分享信息。我们有一个文件功能，能够让 Instinct 实际发送完整的网站，比如完整的 Web 应用，从而展示更多内容，无论是旅行行程、婚礼策划，还是类似的东西。也就是说，对于需要更多创造力和更大展示空间的任务，它可以即时生成相应内容并展示给你。
Noah: 我认为这里有一点很有意思。回顾过去 20 年的应用开发或产品开发，只要你需要一个新的界面来展示某些信息，就必须为它开发一个应用。要生产这个应用并发布给用户，需要经历漫长的软件开发生命周期。然后你会得到一些反馈：“我希望它看起来是这样的。”于是你拿去改进，再发布一个新版本。这个过程通常以月为单位。过去 20 年里，人们为许多不同目的、许多不同事情开发了各种应用。现在消费者已经疲惫了：每次我需要什么东西时，是否都有一个应用能做这件事？
Noah: 我认为未来这些都会坍缩。我觉得所有软件最终都会坍缩成一个非常非常易用的单一界面。但不要因此误以为能力会受到限制。我认为能力反而会扩展。
Patrick: 就能力而言，你能想象到最疯狂的事情是什么？
Noah: 当我们不再局限于这些日常任务——我想做这件事，你能做吗？——这种摩擦会降到零。我认为接下来会转向追求与用户一致的更高层级目标：用户不只是说：“你能帮我记录这次锻炼吗？我做了这些，表现是这样，完成情况是这样。”而是说：“接下来的三四个月，你能不能和我一起，确保我实现这些目标？”事实上，很多人现在已经开始发现这一点：你想增重多少，想减重多少，或者想达到怎样的英里配速。你可以指定目标和目的，然后与它协作，实现这些目标。
Noah: 我现在能看到一些完全原生于 Instinct 的小企业，也就是说，整个企业都运行在 Instinct 之上，整个后台办公室都完全基于 Instinct 运作。甚至其中一些部分也完全自主运行。说到高层级目标，比如在这个领域内，确保库存水平不低于某个数值，也不高于某个数值。这样一来，它就不是在说：“请订购这个东西。”
Patrick: 它不是静态的。对，是动态的。
Noah: 而是追求这个更高层级的目标，并利用手头可用的工具和设备来实现它。所以我认为，这就是未来。我们可以在这里头脑风暴出无数种目标：你可以陈述这些目标，并让它在不受限的时间内持续追求。但我认为，宏观层面来看，交互将从单个使用场景转向更高层级的目标，这会是交互发展的方向。
为不断变形而生
Patrick: 你希望它为每个人形成独特的个性吗？我现在想到电影《Her》，其中一个全知全能的代理与用户之间形成了一种关系。你怎么看这一点？在我看来，Instinct 是一种非常无缝、几乎安静、极其有能力且可靠的东西，但不是那种带着顽皮个性的东西。你如何看待这一部分？
Noah: 你提到《Her》，我想这大概是带着一点戏谑的。当然，建立关系，或者这个方向上的任何事情，都不是我们希望 Instinct 对用户做、追求或发展的。如果要进一步描述它在一个人的生活中应该如何行动、给人什么感觉、代表什么，它几乎就像一个具有社交意识的运营者：无论身处哪个房间，它都知道对不同的人来说什么是最好的，以及什么是最佳互动模式，并随着时间学习这些东西。
Noah: 所以我认为，它可能是最为定制化的产品之一——如果你甚至愿意把它称为应用，它就是有史以来最可定制的应用之一。因为我们不仅能够提供不同版本的它，它还能够随着时间不断进化。这就是为什么我们如此重视软件层面：它会注意到用户不喜欢以某种方式表达，或者某种表达方式的回应率较低，因为文字太多；又或者用户不想打开一个巨大的文件才能弄清楚你在说什么。它会随着时间学会这些，并让用户使用起来更轻松、更愉快。所以我们不是想把某种体验强加给用户。我认为我们想从更高层面解决问题：适应最适合用户的沟通方式和任务执行方式。
Patrick: 为什么叫 Instinct？
Noah: 我喜欢 Instinct 这个名字，原因有很多。我认为最主要的一点是，Instinct 不应该是那种你偶尔会欺负一下、从心理上居高临下看待、只负责替你处理脏活累活的玩意儿。我认为它应该是一个全新的、富有创造力、令人兴奋且有能力的行动者，双方之间有相互的尊重和信任；用户会感到安全，相信它会支持自己，相信它聪明、有能力，也具备社交意识，知道在特定情境下如何行动。
Noah: 这是一种押注，但我喜欢 Instinct 没有采用某个人的名字之类的方式，试图把它拟人化。它更像是——我也不知道 instinct 究竟是什么。我是在使用它的过程中，逐渐形成对它是什么、这个品牌是什么的感受。再次说到它应该带来的感觉，我认为一个好处是，每位用户都可以带着一张白纸走进来。他们脑海中没有关于它长什么样、叫什么名字之类的预设，一切都纯粹来自产品体验本身。
Patrick: 谁是你们的敌人和盟友？我可以想象，在 WhatsApp 之类的平台上，你们可能会被关闭。那是 Facebook 的产品，也是你们的关键渠道。iMessage 是 Apple 控制的产品。谁是你们的朋友？谁是你们的敌人？面对这里不可避免的竞争现实，你如何思考？
Noah: 我不会把重点放在“Instinct 是一个 iMessage 应用”或者“Instinct 是一个 WhatsApp 应用”之类的事情上，而会更多地从第一性原理出发。用户今天信任、也熟悉与之互动的界面有哪些？我们如何通过他们每天已经在使用的渠道，提供 Instinct 的体验？我们并不受限于 iMessage。事实上，我们超过 50% 的流量并不在 iMessage 上运行。当然，习惯使用 iMessage 的用户对它非常熟悉。我认为，更重要的是思考什么对用户最实用。我们会随着情况不断变形，以继续提供今天这样非常简单、易于使用、零摩擦的体验。
Patrick: 我知道你们最近一轮融资大约是 $1 billion，估值大约 $10 billion。Sequoia、Benchmark、Coatue 等世界上最优秀的投资者担任该轮融资的领投方。你如何看待企业未来的资本需求？同时，你是如何挑选这些合作伙伴的？
Noah: 能够与桌边最支持我们的几位合作伙伴共事，我感到非常幸运。他们过去经历过不同但形态相似的技术变革。我不会太关注数字，而会更多关注这个领域的需求，对这类产品的需求，或者对这种体验的需求。因为它真正实现了那种 AI 体验，或者说产品体验，我认为这是我们所有人一直在等待的东西。
Noah: 这也是一项资本密集型业务。我们是一家新公司，试图创造一种产品，希望每天以非常可负担的成本，提供给地球上的数十亿人。当我说可负担时，我是指计算成本很高，而我们正努力以一种对用户非常可负担的方式提供它。所以这非常需要资本。尤其是考虑到我们正在追求的商业模式，必须有一定程度的自我积累。因为我们完全可以轻易地说：好，每个人每月订阅某个价格，平台上的每个人都需要每月支付 $100。我们可以去追求这些短期回报。或者，我们可以筹集一点资本，把它用于——风险投资的意义是什么？就是在需要少量资本来提前跨过一些小减速带（speed bumps）时，承担经过计算的风险，从而证明交易量，或者证明某些行业中的体验。这样才能摆脱订阅方案或其他类似方案的局部最优。
Noah 遇到过的最善意之举
Patrick: 每次做这种访谈，我都会问所有嘉宾同一个传统的收尾问题：别人为你做过的最善意的事情是什么？
Noah: 我能够让自己身边聚集这么多人，并与来自各行各业、工作和私人生活中的许多人建立如此美好的关系，对此我非常感激。我也希望能够以同样程度的善意和体贴回馈他们。所以我想说——我知道我没有直接回答你的问题，我说的是更高层面的东西：我所注意到、并真正欣赏的，是这些事情所体现的品质。
Patrick: Noah，你正在打造一家令人着迷的公司，也许是当今世界 AI 生态中最令人着迷的公司。非常感谢你抽出时间。
Noah: 非常感谢。