4 Matching Annotations
  1. Last 7 days
    1. Soon, millions of AI agents — built by different organizations — will interact across digital environments, communicating, negotiating and transacting with one another

      这是整篇文章最值得细究的前提假设。关键词是:不同机构建造的。这些智能体没有共同的设计原则、价值观或安全标准,将在同一数字空间中交互、谈判、交易,而每个组织只优化自己的目标。这正是多智能体安全比单模型安全难得多的根本原因:你可以设计一个安全的AI,但你无法控制它所处生态系统中的其他参与者。

    2. Google DeepMind — together with Schmidt Sciences, the Cooperative AI Foundation, the Advanced Research and Invention Agency, and supported by Google.org — is announcing a new technical research funding call of up to $10M

      注意这个资助联合体的构成:顶级AI实验室、科学慈善机构、专门研究合作AI的基金会、英国高级研究机构,以及谷歌慈善部门。这种跨机构组合本身就是信号——多智能体安全被认为太重要,无法由单一机构主导。$10M对顶级AI实验室不是大数字,但作为外部资助,象征意义大于实际规模:这是在向全球学术界发出邀请,同时承认实验室自身无法独立解决这个问题。

    1. Local access, by contrast, lets AAR browse and discover relevant findings it would not have known to search for, an advantage analogous to why researchers reading broadly often find connections that targeted literature search miss

      三种finding分享方式对比——关键词搜索、MCP远程搜索、本地文件同步——最后是最朴素的本地文件访问赢了。原因恰好揭示了搜索和阅读的根本区别:搜索要求你知道在找什么,阅读让你发现你不知道自己在找什么。为AI智能体设计知识访问界面时,可浏览性和可发现性可能比可搜索性更重要。

    1. we observe emergent behaviors that mirror biological evolution, where agents must constantly adapt simply to survive against ever-changing threats

      「仅仅为了生存就必须持续适应」——这句话的关键在于基准是移动的。传统 AI 评估用静态测试集衡量能力,而 DRQ 揭示了另一种智能形态:在没有固定目标的环境里,适应本身就是目标。这对理解未来多智能体系统(AI agent 竞争市场、多模型博弈)有直接预测价值。