The State of the AI Debate

AI辩论的下一个时代正式来临了。

一方面，特朗普总统呼吁建立一支新的AI力量，同时还提出了自己对整个行业的重新命名。

另一方面，全国各地的监管者和政客们正在提议AI紧急关闭开关、新法案以及数据中心政策的变更。

而在这一切背后，潜伏着中国这个棘手的问题。

如果中国不支持任何形式的暂停或前沿步伐控制，那些行动还有意义吗？

本周，中国国家主席习近平正在华盛顿，贸易代表团已经在讨论AI问题了。

那么，我们是否真的会看到这些问题取得进展，还是AI辩论的状态将仍然在这两个截然不同的国家之间僵持不下？

《AI每日简报》是一个每日播客和视频节目，内容涵盖AI领域最重要的新闻和讨论。

好了朋友们，在深入之前先快速通知一下。

今天我们先从Anthropic将其计划的重磅IPO推迟到11月说起，尽管内部人士表示延迟与AI安全无关。

《华尔街日报》报道称，Anthropic实际上不会像原计划那样在本月或下月上市。

然而，消息人士称，延迟的决定是在CEO Dario Amodei呼吁AI放缓之前做出的。

相反，Anthropic的顾问表示，延迟将使他们能够分享第三季度的财务数据，预计这些数据会很强劲。

《The Information》证实了这一报道，并补充说Anthropic尚未开始与华尔街分析师和机构投资者会面。

这些路演通常会在IPO前一个月左右进行。

不过，一些潜在投资者已经与Anthropic会面，作为所谓的试水会议的一部分。

消息人士透露了一些财务细节，称Anthropic从去年第二季度每赚1美元就花费2.30美元，到今年第二季度在此基础上略有盈利。

这与《金融时报》最近的报道相符，该报道称Anthropic声称在剔除股权激励后，其运营收入为正。

该报道重复了一个说法，即如果剔除收入分享协议和模型训练成本，毛利率超过80%。

行业批评者对此框架极为负面，这或许并不令人意外，他们认为剥离主要成本以实现账面盈利并不能很好地反映财务健康状况。

这是Anthropic IPO的一个潜在问题，因为披露文件将让投资者首次看到未经调整的数字。

《The Information》写道，一些投资者在会议后也留下了盈利将是短暂的印象。

该公司签署了大量新的数据中心协议，这些协议将在未来几个季度开始增加结构性成本。

Interconnected Capital的Kevin Xu表示，市场可能很难开出空白支票，他评论说：“Anthropic上市意味着它将自己提升到整个金融市场的高度，使其更容易获得不同的融资选择。”

但公开市场投资者仍然希望相信Anthropic能够为其资本支出提供资金，而债务是实现这一目标的桥梁，而不是借贷没有尽头。

这就是整个AI行业目前面临的问题。

《纽约时报》报道称，Anthropic表示他们有望在年底前达到1000亿美元的年化收入，高于7月底的650亿美元。

更重要的是，除了数字之外，一些华尔街人士开始将AI安全风险视为市场风险。

前纳斯达克高管、现任顾问Karen Snow表示，在呼吁放缓之后，Anthropic的IPO“从毫无疑问变成了不是毫无疑问。”

她补充说，市场可能很挑剔，对AI的情绪已经发生了一些变化。

问题是现在AI头顶上确实有点乌云。

为此，Anthropic可能会推迟他们的IPO，以便推出新模型，并试图把话题从安全转向进展。

AI泄密者开始报告说，有人看到新的Sonnet、Opus和Fable模型在秘密测试中，这意味着我们可能在接下来几周看到一次全面的模型更新。

看起来Anthropic仍然有望在年底前进行IPO。

不过，也许围绕Anthropic更有趣的讨论是，据报道这家公司在湾区建了一个湿实验室，开始进行生物实验。

路透社报道说，Anthropic悄悄建立了自己的生物学实验室来进行内部研究。

Anthropic的生命科学主管Eric Cadoree Abrams告诉路透社，我们认为要做生物学，终极测试仍然是，而且在一段时间内仍将是，在真实实验室里工作。

我们今天绝对在做这件事。

他说，这个实验室的运作方式与湾区的其他生物技术实验室类似，尽管Anthropic没有透露他们到底在做什么，但他们确实指出重点是基础生物学，而不是药物发现。

现在，任何用活组织和血液样本进行物理实验的生物学实验室都算是湿实验室。

不过，我们不知道这个实验室的生物安全等级，这决定了它是否能进行高风险实验。

尽管如此，很多人还是紧抓着明显的安全问题不放，Flexport首席执行官Ryan Peterson问道，如果Anthropic担心流氓AI杀掉所有人，为什么他们要给它一个机器人生物学实验室的控制权？

投资者Chamath Palihapitiya写道，那些带来像《我们都会死》和《现在就来管我》这样作品的团队，正在旧金山建一个湿实验室。

我不建议这样。

关于这对Anthropic的商业模式以及更广泛的实验室商业模式意味着什么，还有另一个非常有趣的问题。

报道指出，Anthropic一直小心避免给人感觉他们在与像诺和诺德这样的制药伙伴竞争。

然而，投资者Nick Carter写道，这是一个非常愤世嫉俗的解读，但有没有可能，最近几周的恐慌宣传是一种方式，用来温和地让他们的投资者群体接受这个概念，即Anthropic将内化所有重大突破，而不是让那些没门路的大众分享好处？

卖token可能是一种比依赖不稳定的生物技术和其他科学发现更好的商业模式，但如果蒸馏真的是一种不可接受的利润率压缩方式，那么Anthropic就有动力保持前沿技术私有化，自己利用这些新知识产权变现，而不是让客户拿走。

而且，与其直接承认他们的token商人商业模式不可持续，Anthropic可以宣布他们在放缓前沿进度，让公众落后于真正的前沿6个月到一年以上，只对他们自己内部的研究人员开放。

当然，这需要他们最大的对手OpenAI的配合，这样Anthropic看起来就不会太落后。

如果他们还创建一个合法卡特尔，自愿同意放慢公共前沿的速度，那就更好了。

不过，他们还是得向政府申请反垄断豁免。

这真让人琢磨，对吧？

Nic总结说，这是猜测。

也许恐惧是真的，这一切碰巧是一个非常方便的局面。

我觉得Nic的分析中有两个非常不同的事情，实际上是可以分开的。

第一是，这些实验室是否担心token价格被竞争压下去，长期来看，销售这种基本商品的商业模式看起来不会像现在这么好，也许利用能提前接触最先进技术的机会更好，而不是仅仅卖token给别人做事情，而是自己去做这些事情。

我觉得这跟放缓前沿是否是那种策略的一个工具是可分开的，即使一个人不持有那种愤世嫉俗的观点，第一部分，关于这是否标志着这些实验室在商业模式上做对冲，是一个值得思考的有趣问题。

而且顺便说一句，有很多不愤世嫉俗的人把Anthropic看作一个一直对AI在医疗解决方案用例上可能性的兴奋的实验室，只是在向那个方向迈出明显的一步。

现在回到市场这边，我们得到了一些数据中心债务危机潜在情况的初步迹象。

The Information报道称，与交易公司Jane Street租赁的数据中心相关的债券已被抛售。

这些债券是8月份以8.9%的利率发行的，但现在交易利率到了11.3%，这是一个很大的涨幅，不能用美联储加息来解释。

现在，要完全理解这些融资市场发生的情况，有几个重要的注意事项。

首先，这并不改变Jane Street的数据中心合作伙伴在这笔债务上的支付情况，因为债务是以固定利率发行的。

但这确实意味着投资者会要求下一批融资有更高的利率。

这还特别指的是垃圾债券市场的恶化，而不是投资级债务。

Jane Street的评级是BB，标普全球对建造其数据中心的合资企业也给予了相同的信用评级。

基本上，这只是数据中心融资在边际上放缓的一个信号。

最近另一个大新闻是Meta首次通过CleanSpark的交易涉足垃圾债券市场。

这笔交易以8.25%的利率筹集了23亿美元，并获得了超过100亿美元的投资者需求。

和最近的许多交易一样，这笔债务的结构是CleanSpark作为借款人，Meta作为数据中心租户提供担保。

这些交易使得超大规模云服务商能够有效地将其信用评级出租给较小的数据中心开发商。

在这种情况下，我们看到投资者非常愿意继续向超大规模数据中心产品放贷，但他们需要多一点溢价。

金融时报还报道，与新墨西哥州一个Oracle数据中心相关的180亿美元债务已达到压力水平，报价低至每美元89美分。

Oracle已经面临从投资级被下调的风险，如果发生这种情况，可能会引发一波机构抛售。

现阶段只是市场紧张情绪，但有明显迹象表明人们都很紧张。

上周末，专注于基础设施的风险投资者Meltem Demirors发帖说，听说银行正在停止所有算力贷款。

信贷紧缩开始了。

该帖子获得了80万次浏览和大量互动，许多金融界人士问她到底是什么意思。

Meltem后来补充说，更细致地说：私募股权公司和专业贷款机构仍然活跃。

投资级借款人将继续获得融资，但会受到更多审查。

长尾部分正在迅速枯竭。

富人和穷人之间的极端分化。

算力是一场承销游戏，大多数信用质量很差而且越来越差。

不过，投资者Jigar Shah表示现在恐慌还有点早，他评论说，人们因为AI数据中心建设的债务利差扩大而惊慌失措。

没必要惊慌。

是的，两到三年的建设周期很困难，但许多人将低于25兆瓦的数据中心视为一种方式，可以在120天内以50%的成本建造。

不过，对于那些试图关注AI交易可能转向的迹象的人来说，相比于股价，这才是市场需要关注的地方。

不过，现阶段新闻摘要就到这里。

接下来是主节目。

KPMG和德克萨斯大学奥斯汀分校的一项新研究发现，当人们与AI合作时，相似的技能并不保证相似的结果。

研究人员研究了500多名早期职业人士，发现表现最佳的人通过引导、评估和完善AI的输出，持续放大了AI的价值。

这些顶尖表现者被称为“AI放大器”，他们的定义不仅仅取决于他们知道什么，而在于他们如何与AI合作。

欢迎回到AI每日简报。

现在，我们正处于AI辩论中一个相当重要的转折点。

具体来说，当然，我指的是监管辩论，因为在AI的引领下，这个问题变得具有重大的政治共鸣。

然而，重要的是，这周在这一对话的背景下带来了一些独特的东西，那就是一个更直接地了解和听取中国意见的机会，了解他们在所有这些主导美国话语的问题上的立场。

鉴于我们的许多监管辩论都以对中国会或不会做什么的假设为后盾，这使得本周有可能相当重要。

但如果你以为政府在与习近平主席会谈前会休息一个周末，那你就大错特错了。

上周末，特朗普总统宣布成立一个新的以AI为重点的军事分支，寻找新的AI沙皇，并进行品牌重塑以应对AI人气下滑的问题。

周六在“真理社交”上的一篇帖子中，特朗普再次抨击了他所称的“许多骗局”，他认为这些都导致了AI的“毁灭”。

他宣称：“作为美国总统，我不会袖手旁观，任由这种情况发生。”

在谈论了数据中心对其所在社区来说是多么“富裕和有名望”之后，特朗普宣布：“我正在组建AI部队，就像我在第一任期组建太空部队一样，那是一个非常成功的例子。”

为此，我将在不久的将来宣布AI沙皇。

只有高智商的人才能申请。

AI是下一场工业革命或互联网，但会更大、更具影响力，可能占我们国家GDP的25%。

我们正领先于中国和世界其他地区，我打算保持这一地位。

在宣布之后，总统花了一天的时间来研究品牌全面改革，他在X上发帖说，“很多人认为‘人工智能’这个词相对于AI或人工智来说不准确且非常不优雅。”

对这个新现象更优雅、更准确的描述将是“超级智能”SI、“极致智能”EI或“至上智能”。

帖子甚至还附了一个投票，在超过23万张选票之后，“超级智能”以41%的选票略微领先于其他选项，特朗普后来将“至上智能”淘汰，宣称它很可能因为与最高法院的关联而落败。

在第二个投票中，截止录制时有17.8万张选票，“超级智能”以51比49略微领先于“极致智能”。

现在，我想我不需要深入探讨人们对总统花时间在这上面的目瞪口呆、惊愕的反应。

顺便说一句，这些批评来自左翼和右翼双方。

右翼评论员马特·沃尔什写道：“总统为什么偏偏要关注这个？”

但至少有些人对此更加认真。

X平台上的Signal写道：“特朗普的品牌直觉再次不败，绝不应被忽视。”

他完全正确，整个领域的品牌命名都很糟糕。

塔可钟花了数十年时间教美国人“至上”意味着什么。

它意味着更多、更好等。

而在美国词汇中，“人工”几乎总是用在负面的语境中。

当然，即便你真的认真对待这个品牌重塑任务，再怎么重新包装也解决不了AI带来的实际问题。那么，大家对AI Force怎么看？

嗯，不出所料，很多人都在嘲笑和讽刺这个想法。

但也有人觉得，直接否定它可能不太明智。

认真对待这个提议的论据基本是回顾了Space Force的例子。虽然一开始宣布时也是被各种调侃，但抛开这些不谈，它实际上做的就是整合陆军、空军和海军各自的卫星运营和防御资源——之前这些部门各自为政，都有自己的资产和专业人员。

所以某种形式的资源和人才整合，尤其是在网络安全和网络防御领域，可能确实有价值——这完全不是异想天开。

换句话说，先搁置那些关于X-risk、AI kill switch之类的争论。

可以确定的是，由于先进AI的出现，我们将面临一个全新的网络安全挑战时代。

设立一个中央机构，为其他军种提供网络安全支持，这可能不算一个疯狂的想法。

说到kill switch，在AI辩论的其他方面，kill switch法案正成为一种非常流行的政策。

例如，加州州长Gavin Newsom签署了一项行政命令，加快制定关于AI kill switch的政策。

该命令召集了一个工作组，在两个月内提供政策指导，还包括其他措施，比如要求第三方安全检查员。

在社交媒体发布的一段视频中，Newsom说：“我们不会坐等行动。

我们将在来不及之前加快实质性和负责任的AI监管工作。

我们会深思熟虑，但同时保持紧迫的速度。

风险太高了，不能等待或推迟行动。”现在先不谈这项政策的实质优点，或者你对Gavin Newsom本人的任何看法。

单就一点而言，Newsom将成为理解民主党AI政治走向的有用风向标。

Newsom预计将成为2028年民主党总统候选人提名的领跑者之一，但他又来自加州，过去曾否决过AI安全法案。这意味着他语气的变化以及解释立场的方式，将提供一些有趣信号，表明风向如何。

过去一周，关于AI kill switch的呼声确实相当高涨。

Andrew Yang在CNBC的采访中将其作为一项AI政策偏好提了出来。

加州民主党人Ted Lieu正在重新推动在华盛顿通过一项kill switch法案。

不难理解为什么这种法案会受欢迎，不过它在多大程度上能解决当前紧迫的担忧，那就是另一个问题了。

弗吉尼亚州也出台了一些新的数据中心政策，民主党州长Abigail Spanberger签署了一项行政命令，对该州的数据中心建设施加新限制。多年来，弗吉尼亚一直是数据中心建设的重点地区。

就数据中心政策而言，这算是比较折中的。

这不算暂停令，尽管某些政策根据具体实施情况可能会起到事实上的禁令作用。

该命令禁止政府官员签署保密协议，正如我们所看到的，这从今往后基本上会成为政治上的红线。

它还指示州政府加快制定噪音法规，并委托对整个行业的备用电力供应进行审查。

除了行政命令，Spanberger还公布了该州新的数据中心问责框架。

其中一项重要内容是取消了“按权利批准”条款，该条款此前允许在某些土地上无需额外批准即可建设数据中心。

这种简化的审批流程是Loudoun County形成“数据中心走廊”的重要推动因素。

就目前的反应来看，数据中心建设方对新限制不满，而当地的反对团体则认为这些措施还不够到位。

但话说回来，在民主国家，有时候谁都不完全满意，恰恰说明政策找到了合适的中间地带。

然而，所有这些对话背后，中国的阴影始终挥之不去。

最近这些关于暂停和放缓的讨论，核心担忧在于，如果中国不认同这类政策，那这些讨论实际上就是白搭，除了把美国排除在AI竞赛之外，起不到任何实际作用。

考虑到这一点，加州国会议员罗·卡纳敦促中国加入AI放缓行动。

卡纳已经致函包括阿里巴巴、DeepSeek和Moonshot在内的中国AI公司，邀请它们加入一项具有约束力的国际协议，以控制前沿技术的发展节奏。

他还以众议院中国问题特别委员会资深成员的身份，召集了一次紧急国会听证会。

听证会定在周三举行，正好赶在习近平主席国事访问之前，这当然就是我之前说本周可能会有实质性进展的意思，而不仅仅是更多漫无目的的讨论。

背景介绍一下，中国国家主席习近平将于9月23日至25日访问美国。

这紧随今年5月特朗普总统对北京的访问之后。

据报道，两位总统在华盛顿的会晤定在9月24日，星期四。

尽管AI占据了大量头条新闻，但当前最紧迫的经济优先事项是维持现有的贸易休战状态，该休战将于11月到期。

官员们正在讨论延长休战期，并可能削减美国农产品和能源出口的关税。

稀土仍然是一个关键压力点，8月份对美出口环比下降了20%。

不过，AI仍是议程上的重头戏，也是本周日进行的高级别预备会谈的核心议题之一，参加会谈的关键谈判代表包括美国财政部长斯科特·贝森特及其负责经济事务的中方对应官员。

贝森特盛赞了与中国副总理何立峰的会谈非常成功，并特别提到了AI事件预警系统的提议，这有点像冷战时期克里姆林宫与白宫之间热线电话的AI版。

贝森特说，美国提议在两国之间建立一个通报机制，我们希望就共同的威胁和共同的目标达成共识。

一方面，这种双边沟通看起来可能像是最容易摘的果实，但贝森特基本上是在说，不要低估它的重要性。

在记者吹风会上，他表示，我们认为，就像任何跨境活动一样，世界上第一大和第二大AI强国之间从模糊转向透明，这非常重要。

那么，中国在所有这些问题上持什么立场呢？

请记住，我试图在这里给你一个关于这个国家整体感受的快速总结，其不完整和简化程度，绝对不低于一个中国AI播客主持人试图给他们的听众一个代表美国的单一观点。

但是，这里和那里的担忧之间确实存在一些相当关键的差异。

最大的差异之一是中国AI社区几乎没有，或者说几乎没有公开宣称对存在性风险的恐惧。

如果说存在任何关于x-risk（存在风险）的担忧，那就是中国政府担心AI可能对社会控制乃至最终的一党执政构成生存威胁。

少数几个官方政策立场之一来自中国国家安全部部长陈一新，他在几周前就这个话题发表了文章。

《纽约时报》在转述他的观点时写道，引用陈部长的话说，他呼吁加强党对AI的控制和更严格的政府监管。

他说，这对于保护国内政治稳定、防御敌对势力日益复杂的网络攻击和虚假信息宣传活动，以及在军事上与像美国这样的国家竞争，都是必要的。

新加坡管理大学法学教授高亨利表示，北京在参与这些会谈时，并没有把AI安全视为一项共同的人道主义使命，而是从对抗的角度来看待。

他补充说，政府明确表示，数据主权和政治安全绝不会为了国际安全协议而作交换。

上周一，中国外交部发言人明确表达了他们关于AI放缓的立场。

他说，人工智能的发展关乎全人类的共同福祉。

各方应共同推动一个开放、包容、普遍受益且道德上合理的人工智能发展方式。

散布恐慌、搞对抗和恶性竞争只会扰乱全球人工智能治理进程，不符合任何人的利益。

为此，中国面临的最大问题之一是Anthropic在数据安全上的立场，这源于几起在美国几乎没上新闻的事件。

七月份，研究人员在Claude代码中发现了一个追踪中国IP的后门，并报告了这一活动。

Anthropic辩称这是阻止蒸馏攻击的必要措施，但中国官员视之为向本国大型科技公司投放恶意软件。

消息传出后，阿里巴巴禁止使用Claude代码，政府官员也发出了全行业警告。

最近，在一份风险报告中，Anthropic透露中国政府官员在使用Claude时无视隐私。

他们报告称，官员们上传了包括中国军事行动细节在内的敏感政府文件。

周六，一个与中国国家电视台有关联的社交媒体账号警告说，Anthropic正在与美国情报机构共享数据。

其中一部分指控是，Anthropic多次修改其服务条款，却未给予适当通知。

基本上，进入本周的会议，看来确定人工智能驱动间谍活动的交战规则，对中国官员来说，其优先级远比任何关乎生存风险的问题要高。

两个人工智能超级大国之间的另一个重大差异在于，这项技术如何影响更广泛的经济。

在美国，坦白说，人工智能的建设一直在让经济避免衰退。

根据大多数报道，过去一年，人工智能资本支出一直是经济增长的核心驱动力。

然而，在中国，经济并未从人工智能中获得任何显著的提振。

《纽约时报》报道，中国的经济学家，甚至那些最接近政府的，都公开警告说政府正在向一种创造就业机会相对较少的技术投入过多资源，而在拯救更广泛经济方面却做得太少。

中国经济挣扎的原因其实与人工智能无关。

问题在于，没有任何人工智能驱动的复苏迹象来帮助应对过去几年的困境。

青年失业率已达到18.9%。

国内消费全面下滑，汽车销量一年内下降20%，住房市场继续下跌，年度跌幅又达14%。

前中国央行官员、经济学教授李稻葵表示，经济运转过冷。

一个繁荣的科技行业无法提振一个更大的基础。

经济学家提议将基本养老金增加五倍，以支撑一个摇摇欲坠的消费经济，这意味着目前中国官员面对的局势更接近于危机，而非瓜分人工智能繁荣的红利。

对某些人来说，就美国政策而言，这些其实都不重要。

例如，在受访CNN时，微软人工智能CEO穆斯塔法·苏莱曼表示，我不认为我们应该用中国来作为我们在自身努力上停滞不前的挡箭牌。

他基本上辩称，在多元化的人工智能体系中，每家实验室应对自身的安全措施负责，并表示他不认为监管是负面的，而应看作是创造共同规范和标准以提升安全性的方式。

这不应该拖慢我们的步伐。

这种观点是否会更加普遍，还有待观察，但可以肯定的是，本周将以某种形式推进这一讨论，我们会在这轮会谈真正举行后的周末回顾情况。

今天就到这里，这是今天的《AI每日简报》。

一如既往，感谢你的收听或观看。

下次见，祝平安。