Trump Rails Against AI Slowdown "Hoax"

随着Dario Amadei上周末发布关于放慢前沿发展节奏的说明，以及其他实验室负责人的相应回应，现在的讨论焦点转向了接下来该怎么办。

一方面，有些人变得更加细致，试图区分一些问题：我们是否应该就AI风险展开辩论，以及如何最好地设置护栏，让社会参与AI实验室的决策过程，而不是讨论实验室为此提出的具体方案。

另一方则是党派的破坏球，国会要求监管的雷鸣般的灾难，当然还有铺天盖地的Truth Social帖子。

AI Daily Brief是一档每日播客和视频节目，涵盖AI领域最重要的新闻和讨论。

好了朋友们，在深入之前先快速宣布几件事。

Aidailybrief.ai也是你可以找到社区里所有动态的地方。

比如，现在我们正在进行多人在线AI冲刺团队活动。

这个活动旨在寻找那些能够融入你工作交叉点的AI代理，我认为这将是未来几个月的一个关键趋势。

再次提醒，你可以在aidailybrief.ai的顶部找到活动链接。

著名数学家Terence Tao带领25位菲尔兹奖得主联名发表公开信，反对AI公司涉足学术数学。

感觉好像是很久以前的事了，但在上周中之前，AI界最大的话题还是OpenAI解决了一个千禧年大奖难题。

纽约大学教授Tristan Buckmaster过去一年一直用AI工具研究该问题，他质疑OpenAI是否访问了他的日志来抢先获奖。

OpenAI否认访问了日志，并声称在第二个千禧年大奖难题上取得了重大进展。

随着传闻称Anthropic又解决了另一个问题，今年有望解决六个未解问题中的三个。

这些问题几十年来一直是该领域的巅峰成就，因此AI解决它们引发了对研究数学更广泛的质疑，这并不意外。

周五，菲尔兹奖得主Terence Tao带领25位同行签署了一封公开信，题为《AI在数学中的严重错位》。

他们指出的错位并非AI与人类之间，而是AI公司与它们所进入的科学领域之间。

数学家们写道：过去几个月，LLM的数学能力大幅提升，已经能够解决许多数学领域的主要未解问题。

然而，AI公司急于将解决数学问题作为基准，这对数学科学和数学社区是有害的。

AI公司的目标与数学社区的目标严重错位。

我们认为这些是更广泛的错位问题的一部分，这些问题也影响了其他科学和创意行业，以及整个社会。

现在，一些人认为这份声明是在哀叹数学家地位的丧失。

解决一个千禧年大奖难题几乎可以确保获得菲尔兹奖，这相当于数学界的诺贝尔奖。

但深入看，这封信更多是关于自动化的科学进步如何损害整个事业。

信中指出：著名问题常常充当里程碑和灯塔，人们可以据此衡量对领域图景的理解改进。

解决其中一个问题一直标志着新的见解和有趣的方法，随后会由数学界通过漫长而艰苦的讲座、讨论、简化过程来研究。

一些数学思想甚至会继续发展，几十年或几个世纪后成为全人类理解和使用的工具。

信中对学生接受训练思考未解决问题的深度表示担忧。

对AI公司急于发布结果以击败研究同一问题的人类，甚至超越数学领域本身表示担忧。

数学家们写道：解决问题只是实现概念理解和洞察这一主要目标的工具和代理。

在AI的世界里忘记这一点，可能会让工具反过来违背最初的目标。

确实，以越来越快的速度大规模生产真假言论，可能不是在为新想法注入活力，反而会破坏肥沃的土壤。

最终，签署这封信的数学家们把他们在学术界的小角落，描绘成整个人类社会的一个缩影，而且这个领域相比大多数领域，被颠覆得相当早。

他们写道，我们正在目睹对智力工作的普遍威胁，AI使用的结果与它的初衷之间出现了错位。

在许多领域和活动中，多年的训练传统上不仅是为了产生最终的答案或产品，也是为了培养理解力，以及提出新问题和新想法的能力。

然而，AI系统建立在大量人类前期工作的基础上，越来越有能力直接产出这类工作的成果，而这些目标就不再有对齐了。

数学界现在面临的问题，类似其他科学和创意行业正在面临的问题，也预示了全人类可能面临的问题：如何确保，随着AI改变工作的方式，我们不会忘记工作最初想要实现的是什么。

最终，这封信承认AI会留下来，而且对研究数学家来说，AI确实对艰巨的工作极为有益。

陶哲轩本人也是慢慢才转向接受AI辅助数学的。

直到最近，他都不太看好这项技术，但现在他已经调整了自己的工作流程，以便更好地利用这些工具。

那么，有些人直接否定了这封信。

埃里克·韦恩斯坦写道，我先来：谁是这个所谓的数学界的一员？

我是吗？

因为任何关注我的人都知道，我一直在警告这种不受欢迎的“神职阶层”，他们假装代表我们所有人，却拖住了数学界。

我会把AI的“野蛮人”请进来。

作家尼古拉斯·塔勒布写道，这对现有的数学家阶层来说不是好事，因为他们失去了特权，但对数学本身和我们知识体系来说，不一定就是坏事？

数学家史蒂芬·斯特罗加茨回应了塔勒布，并试图表达他自己个人的失落感。

实际上，他承认在跟《连线》杂志为文章接受采访时，他真的哽咽了。

他写道，那我为什么会哽咽？

这不是因为AI抢了我的工作。

我67岁了，快退休了。

我也喜欢跟AI玩，觉得特别兴奋。

我在研究、头脑风暴和学习中用它，而且你们也能看到，我把它用来整理这个帖子。

那到底是因为什么呢？

我想是因为，当我开始跟记者聊起数学那辉煌的4000年历史时。

能成为那段漫长对话的一部分是一种荣幸，所有那些美丽而重要的工作，以及给人类带来的种种好处。

然后，2026年AI的巨浪突然冲击了数学。

那种传统的宏大感和变化的突然性交织在一起，让我情绪激动起来。

基本上他还继续论证说，变化总是伴随着一定程度的失去，即使是好的变化也一样；而且，即使你把变化视为无法避免的，那也不意味着你不会为过渡中失去的东西感到悲伤。

说到这个过渡，我们继续关注是否以及在哪些地方有AI颠覆特定行业或特定人群的证据，而人口普查局的一项新研究确实发现，大学毕业生正在进入的就业市场——这个市场正好和AI崛起重叠——是一个非常艰难的市场。

这项研究查看了2016年至2024年间大学毕业生的招聘和薪资数据，其数据集涵盖了该时期约29%的学士学位。

研究人员根据毕业生所从事职业受AI颠覆影响的程度，将他们分为不同群体。

研究发现，从2022年11月ChatGPT发布开始，毕业生的就业前景受到了显著影响。

受AI颠覆影响的程度不同，效果也不同。进入高受影响领域的毕业生，就业率下降了5个百分点，收入减少了13%。

收入减少的部分原因是毕业生接受了本专业领域之外、薪资较低的职位。

研究指出，这种收入下降的幅度，与在经济大衰退时期毕业所遭受的收入损失相当。

如果你想找AI导致就业中断的证据，那么像这种早期职业员工的领域，是最常被提及的。

斯坦福的Erik Brynjolfsson和他的团队称之为煤矿里的金丝雀。

难点在于，因果关系远不如相关性那么清晰。

很多人指出，企业在采用AI方面相当缓慢，尤其是AI的高级应用。

所以，认为ChatGPT一发布，他们就突然改变招聘做法的想法，有点可疑。

许多人还会指出，同一时期还发生了许多其他因素。

科技行业从2022年起就经历了大规模裁员，但很多人认为AI之外的其它原因，比如疫情时期过度招聘的修正。

最近也有一些研究指出，一些归因于AI的现象，至少与居家办公同样相关。有人推测，这可能会对初级员工产生负面影响，因为他们没有机会与同事和老板建立真正深厚的关系。

不管原因是什么，很明显，大学毕业生现在正进入一个极其艰难的就业市场，这绝对值得持续研究。

转到融资新闻，中国开源模型公司ZAI计划融资50亿美元，以支持其扩大的计算需求。

这轮融资于周日宣布，将通过发行新股和可转换债券两种方式进行。

ZAI表示，他们将把60%的收益用于训练下一代模型，其中包括构建一个完全自训练闭环。

这是中国实验室首次公开宣称将构建递归式自我改进，但这并不是唯一的相关公告。

周一，一个由33名研究人员组成的团队，在ByteDance的支持下，发表了一篇题为《人类构建的最后一个AI：迈向真正的递归自我改进》的研究论文。

该论文概述了RSI的理论路线图，但结论是这种方法目前还不太成熟。

具体来说，AI可以自动化训练过程中的某些部分，但现阶段没有证据表明它可以改进这个过程本身。

尽管如此，这个消息强化了一点：如果递归自我改进是AI安全人士的主要担忧，那么任何放缓都需要与中国协调。

我认为，这可能是从新闻头条过渡到我们本期主要内容的完美时机。

毕马威和德克萨斯大学奥斯汀分校的一项新研究发现，当人们与AI合作时，相似的技能并不能保证相似的结果。

研究人员研究了500多名早期职业专业人士，发现表现最好的人通过指导、评估和完善AI的输出，持续地放大了AI的价值。

这些表现出色的人被称为“AI放大器”，他们的定义不仅仅取决于他们知道什么，还取决于他们如何与AI合作。

欢迎回到AI日报。

昨天我论证过，Dario Amodei的“Pacing the Frontier”提案，比以往有更多细节，再加上其他实验室负责人站出来明确表示同意Dario的观点，甚至转发他的文章，这代表了讨论中的一个重要转折点。

这意味着人们认识到，AI发展的下一阶段，实验室将不再是决定新AI（如果它真的会问世的话）上市速度的唯一仲裁者。

所以，我当时认为，我把达里奥的信看作是谈判的开场，一场关于新阶段权力如何分配的谈判。

而昨天录制之后的一些证据，确实支持了这个看法。

比如，a16z 的马丁·卡萨多更新了他的想法，他最初对这封信的态度相当敌对。

昨天他在 X 上发帖说，不带 cynical 的看法是，实验室正在努力应对即将到来的、不够精细的联邦监管，以及一个高度紧张、资金充裕的末日论者圈子，这确实是很难办的局面。

完全可以既赞赏他们试图为安全和安保问题找到治理方法的努力，又对这个提案表示怀疑，同时对更大的安全主义圈子表示担忧。

重要的是，不要把这三件事混为一谈。

我先把关于近期物种灭绝的言论放在一边。

就像我们行业的任何重大时代一样，新技术都有安全影响。

而且我确实认为，Anthropic、OpenAI 和 SpaceX 之间就如何最好地处理问题进行的开放对话，无论是关于节奏还是独立监督机构，都让我们处在一个更好的位置。

我属于反对独立监督机构的那一派。

我无奈地开玩笑说，联邦政府的严厉监管显然会给我们所有人带来灾难，不幸的是，如果我们不能一起振作起来，我认为这很可能成为现实。

我没有特殊的内部消息，但根据我过去几天了解到的情况，实验室确实在努力做正确的事情。

这是一个非常复杂且不断变化的局面，而更广泛的安全圈子仍然很糟糕，并且继续构成国家安全风险。

所以，从一个最初相当认同“他们这么做只是为了博取关注，或者是因为有效利他主义者都疯了”这个观点的人，这是一个更加细致入微的转变。

正如马丁所说，这种转变试图区分并分别处理：赞赏他们寻找正确治理方法的努力，对他们提出的方法表示怀疑，以及对更大安全协议的影响表达更深的担忧。

然而，这种细致入微的讨论，实际上并不是昨天的主流声音。

因为周一早上，特朗普总统对 AI 安全辩论发表了看法，而他的想法完全不微妙。

实际上，最终他在 Truth Social 上发了 7 次帖子。

第一条、也是重复最多的一条是：AI 唯一需要的控制或“护栏”，是一个强大、聪明、高智商的总统，而美国在这方面绰绰有余。

特朗普政府阻止了 AI 界的人做坏事或可能做坏事，比如达里奥和 Anthropic，他现在假装自己是个完美的小天使，我们会继续这样做。

我们对这些公司已经拥有巨大的刑事和监管权力。

有一场针对 AI 和数据中心的邪恶阴谋，唯一对此感到高兴的是中国。

谁赢得 AI，谁就赢。

我们领先中国和所有其他国家，而且我们会继续保持领先。

阴谋论者、叛国者、卖国贼和泄密者，小心点。

感谢你们对此事的关注。

唐纳德·J·特朗普总统。

大约一个半小时后。

AI 数据中心建设之所以在进行，唯一原因就是美国远远领先于所有其他国家。

别杀下金蛋的鹅！

两小时后。

关于人工智能，在商业史上，有谁见过一个行业的领袖呼吁加强监管，而如果严格实施，这种监管会让他们走向灭亡和破产？

人工智能接管世界、毁灭人类以及其他所有坏事，都是骗局。

和"俄罗斯、俄罗斯、俄罗斯"、"乌克兰、乌克兰、乌克兰"、弹劾骗局一号、弹劾骗局二号，以及美国被迫忍受的所有其他骗局和欺诈没什么不同，这些都是破坏者和异端分子用卑劣手段和非法行为造成的。

中国国家主席习近平刚刚宣布，中国不会做任何阻碍人工智能或其未来发展的事情。

谷歌最近表示，他们想在芬兰建一座大型工厂，因为他们发现美国许可审批太难了。

我对这很不高兴，希望他们改变想法。

人工智能和数据中心将是历史上最伟大的经济发展引擎，比石油、黄金、钻石甚至互联网还要大。

在唐纳德·J·特朗普总统任期内，它不会被那些运作精良的破坏势力所阻止。

顺便说一句，我知道我正在仔细地读所有这些内容。

但这是原始资料，收到7条关于这个的信息，说明它现在是多么热门的话题。

在那条消息三个小时后，特朗普又说：那些说人工智能会毁灭世界、数据中心对社区有害的人，和前不久说世界会被气候变化毁灭的是同一批人。

那个骗局对他们没用，现在他们又搞下一个了。

这些人是革命者，但他们是打着邪恶旗号的革命者。

很快你就会发现，他们在为那些不把美国最大利益放在心上的人工作。

仅仅四分钟后，我是骗局终结者，我现在又揭穿另一个骗局：人工智能将接管、吞噬并毁灭世界，机器人将进军我们的城市并把我们都消灭掉。

这甚至比"俄罗斯、俄罗斯、俄罗斯"骗局或全球变暖骗局还要离谱。

感谢你对这件事的关注。

十九分钟后，所谓人工智能将接管世界的说法是一个骗局，就像全球变暖，所谓的，那时说所有人现在都应该死了。

"俄罗斯、俄罗斯、俄罗斯"、"乌克兰、乌克兰、乌克兰"，或者弹劾骗局一号、弹劾骗局二号。

这些都是激进的左派民主党人，他们从不放弃，但很少获胜。

希望选民们已经看清真相。

最后，三个半小时后，激进的左派民主党人炮制的人工智能骗局，让人想起他们不久前的全球变暖骗局，那时说所有人都会死于极端高温。

结果怎么样了？

让美国再次伟大。

现在，就像特朗普在Truth Social上发帖时常有的情况一样，JD Vance发表了后续评论，试图强化这一信息，但没有那么多感叹号、引号和奇怪的大写。

在安德鲁斯空军基地发表讲话时，万斯告诉记者：就个人而言，我觉得有点奇怪，这么多前沿人工智能科技公司跑来政府门口，求政府监管它们。

我觉得这有点像特洛伊木马。

国防部首席技术官在X上的账号也加入了争论，分享了一张写着"AI First War Department"的图片，配文是"美国主义，而不是有效利他主义"。

美国将继续在人工智能领域占据主导地位。

现在，你可能想象得到，对此有几类不同的回应。

有些人很高兴。

计算机科学教授Pedro Domingos写道，感谢特朗普总统看穿了AI恐惧宣传。

另一方面，心理学教授兼AI安全倡导者Jeffrey Miller指出了这一立场的潜在政治后果。

他写道，专业建议：如果共和党想在即将到来的中期选举中获胜，特朗普把每个担心AI安全的人都称为阴谋论者、叛国者或卖国贼，并不明智。

接着他列举了一系列民调，显示大多数美国人对AI并不是特别热衷，并总结道，人类生存和AI安全是跨党派的问题，某些共和党人试图把它变成党派问题，这很奇怪。

尤其是考虑到AI产业试图召唤AI恶魔、彻底颠覆人类文明、最终取代人类，这与保守派、传统主义者或基督徒的立场毫无关系。

如今，认为这些问题完全是跨党派的观点，看起来有点站不住脚了。

但我们稍后再谈这个。

大多数人已经明白，如果这真是一场谈判，那界限已经正式划清了。

Ryan Orhan写道，现在没有任何模糊空间了。

特朗普认为AI灭绝论是个骗局，他希望美国以最快速度建设。

中国没有放慢脚步，在他看来，美国如果自缚手脚，那就是疯了。

有一个人大体上同意，尽管可能用了更外交化的措辞，那就是Nvidia的CEO Jensen Huang。

在All-In峰会上的一次采访中（当然，那周末的事件是核心焦点），Huang反驳了AI末日论调，称其不负责任。

采访初期，Chamath Palihapitiya问Jensen，如何向不熟悉行业的人解释AI有10%的可能性灭绝人类这一观点。

Jensen回答说，我们不该解释，因为这是编造的。

他说，这个预测令人不安和震惊，不应该做，因为不负责任。

接着Jensen回顾了AI末日论者的预测记录。

比如AI会取代放射科医生、消灭白领工作、以及90%的代码由AI生成。

他说，所有这些预测都是错误的。

我们必须对所有这些愚蠢的预测负责。

我们必须记录这些，并提醒自己，这些预测与美国赢得AI竞赛的目标不一致。

后来在采访中，出现了一个连好莱坞编剧都会因太不真实而拒绝的情节：Jensen在台上现场接到了来自白宫椭圆办公室的电话。

Jensen对总统说，干得好，先生。

您看穿了这一切，这背后很复杂，但您真的看穿了，我们非常感激。

在Jensen设法让总统打开免提后，特朗普说，这几乎就是一个阴谋。

最高兴的是中国，但很多原本什么都拿不到的州也很高兴。

我告诉你，这全是骗局。

数据中心很棒。

它们让人们变得富有。

它们让国家变得富有。

这是未来二十到二十五年的石油。

他们正中了许多不希望这件事发生的人的下怀。

那可能是政界人士，也可能是中国，但这是一个骗局。

机器人不会接管世界。

黄仁勋回应说，先生，我们不会让这种事发生。

现在，虽然这两个部分引起了最多的关注，但黄仁勋对当前时刻的整体阐述还是值得仔细分析的。

虽然他否定了存在性风险，但他并没有否定对AI安全的需求。

事实上，黄仁勋广泛支持在AI实验室内部设置独立审计员的这一想法，正如达里奥·阿莫代伊上周末所呼吁的那样。

他对自己的支持附加了一个条件，那就是审计员必须真正独立于AI末日论者的圈子，但他仍然支持这个想法。

黄仁勋把安全问题主要框定为工程问题——前沿AI实验室在从研究转向工程的过程中正面临困难。

像Hugging Face事件这样的例子让黄仁勋认识到，实验室需要更好的安全框架，并且需要更加重视安全。

他还指出，我们迄今为止看到的安全事故，都是因为给智能体提供了近乎无限的计算资源。

他说，前沿实验室里最有可能出现最大的危险，这是合理的。

一个高中生不太可能搞出什么事，因为他们没有足够的计算资源。

事实上，放眼全球，除了前沿实验室，谁都没有足够的计算资源。

黄仁勋认为，解决方案必须根植于现实和工程实践。他说，你首先必须从工程的角度来找出问题的根本原因。

发生了什么？

我们能做哪些不同的事情？

我们要实施或制度化什么，不管是技术、方法还是流程，才能确保这种事不再发生？

我敢打赌，在这些案例中，每一个都是未来可以控制住的，不让它再发生。

换句话说，即使总统的来电是那个戏剧性的精彩时刻，但整个对话中有更多我们许多人一直期待的那种细致入微的讨论。

现在，回到这个问题，这件事到底有多两党共识。

虽然目前的民意调查也许确实如此，但政治就是会按照政治的方式运作。

正如我在昨天的节目里提到的，特朗普并不是唯一对AI辩论发表看法的总统。

上周末，Politico报道称，奥巴马总统曾敦促民主党人更加密切地关注AI政策，将其作为竞选纲领。

据报道，上周四在一次筹款活动上，他表示，如果他在2028年竞选总统，AI将是“我的核心议程之一”。

周一，奥巴马公开表达了他的观点，这看起来可能不算什么，但总的来说，奥巴马一直不太愿意深入参与政策讨论。

在X上的一篇帖子中，他写道，本周我很受鼓舞，看到前沿实验室的领导者们一致认为，他们需要放慢AI开发的步伐。

鉴于事态的严重性，这是一个好的、也是必要的首要步骤。

但更让我感到鼓舞的是，越来越多的人认识到，这一强有力新技术的发展方式应该成为我们公共辩论的核心。

我关注AI进展已经十多年了，对我而言很清楚的一点是，这项技术的潜在影响并未被过度夸大。

而且它进展极快，甚至比工程师们跟上的速度还要快。

我不是AI加速主义者，不认为它会带来某种技术乌托邦，我也不是末日论者，不认为它必然导致人类毁灭。

但这项技术是在医学、能源、教育上带来惊人突破，还是引发巨大的经济混乱、更大的不平等和潜在的灾难，将取决于我们现在做出的选择——这些选择不仅应由相关公司做出，而应由我们所有人共同做出。

奥巴马随后宣布了Blueprint项目，这是由Ron Conway的风险投资公司发起的一项倡议，声明的目标是在人工智能领域的领导者和要求制定新规以监管该技术的民主党人之间重建联系。

Pirate Wire的Mike Solana写道，现在已经无法避免了。

随着中期选举的到来，AI安全在政治上变得越来越两极化。

现在，既促使人们陷入歇斯底里又掩盖真实风险的激励机制已经太强，难以阻止。

这种信息环境至少会和COVID期间一样艰难。

在Kamala Harris也加入呼吁放慢脚步的行列后，Rohit Krishnan写道，恭喜大家成功地将我们时代最重要的问题政治化了。

我肯定现在更理性的人会占上风，我们一定会共同选择正确的行动方针。

Ryan Orhan再次插话了。

这正在变成AI安全噩梦般的情景。

一旦AI安全问题与政治人物和政治派别挂钩，半个国家的人就会仅仅因为另一半支持而反对它。

民主党开始排队支持放慢脚步。

特朗普宣称整个事件是个骗局，并承诺美国不会停下。

我非常讨厌看到这件事变为党派之争。

与此同时，在市场上，最初的反应是对放慢言论有些紧张。

纳斯达克指数相对持平。

但半导体指数周一下跌了5.9%。

金融媒体正在讨论转向SaaS，甚至转向备受诟病的印度IT股，作为AI板块下跌时的避风港。

所以这就是我们现在的处境。

接下来要看的是这是否会从政治领域跳到政策领域，但就目前而言，这就是今天的AI每日简报。

一如既往感谢你们的收听或观看，下次再见，祝平安！