6 Matching Annotations
  1. Last 7 days
    1. a failure that occurs once in ten million conversations is unlikely to be discovered in a million-sample run, so adversarial evaluations, red-teaming, and targeted tail-risk analysis remain necessary

      Deployment Simulation的盲区:它无法检测频率低于1/200,000的行为。但对于AI安全来说,最危险的风险恰恰往往是极低频率的极高危害事件(尾部风险)。这就是为什么这个方法是对红队测试和对抗性评估的补充,而非替代。两类方法各有分工:Deployment Simulation负责覆盖高频行为的准确预测,红队测试负责挖掘低频的严重威胁。这种分工的清晰承认本身,反而是这篇论文科学性最强的地方之一。

  2. Nov 2022
    1. 如果某个数学定理他不去证明,某个量化策略他不去验证,可能真的就少有人能做出。但如果 Wave 没有他,可能 Wave 还是会招到一位优秀 CTO,或者 OPay 会占领 Wave 现有的市场,提供完全一样的服务。Kuhn 会在意自己贡献起决定作用吗?Kuhn 说,知道自己一定程度上不可替代当然是重要的。只是他回顾 Wave 的历史,他认为如果不是他,公司不会发展地那么快。

      你的意义可以是实现那个迟早会发生的事

    2. 1)真实世界的问题维度很高,难题不止一种;2)如果以影响力为目标,他能产生最大影响的方式不一定是解决最难的问题,而可能是:找到解决简单问题的最快方法;找到能用简单方法解决但还没被解决的问题;组建团队,加快解决简单问题的速度。他现在这个“支付公司 CTO“ 的工作,抽象到一定程度就是“从一个数据库删一行数字、在另一个数据库里加一行数字”。但就是这样“简单”的工作给用户创造了巨大价值:很多原来发货后几个月才能拿款的小商贩,现在当场、甚至提前就能拿到钱。Kuhn 穿着公司 T 恤在塞内加尔路上走,经常有人认出他们公司的企鹅标志。在做这份工作之前,他还担心工作内容太简单他会无聊。但他后来发现,任何一个问题,只要看久了都会觉得有趣。

      真实世界的问题维度很高,难题不止一种。

      任何一个问题,只要看久了都会觉得有趣。

    1. 我的方法是,基于自己的需求和面临的问题(why)选择工具和方法(what),当碰到新的工具时,先了解其基本功能和使用逻辑,自己把玩一番(how),然后根据自己的需要,建立一个使用流程。等熟悉之后,开始在 YouTube 搜搜看其他人是怎么用的,有没有值得借鉴的地方,或自己没有发现的功能。然后把它们揉合到自己的系统中来。

      1、基于需求来选择工具与方法 2、遇到新的工具时,先了解基本功能与使用逻辑。 3、根据自己的需求来建立一个使用流程。

  3. Dec 2021
    1. Evergreen note 的方法,一共有 4 個步驟: 紀錄資訊,寫成筆記後放到 Inbox (收集箱) 在筆記中填寫 Metadata,並移動到適當的資料夾下 使用漸進式總結,用一句話總結筆記內容 將筆記內容加到主題 MOC 筆記,和其他筆記連結

      笔记落地方法

    1. Evergreen Note 对笔记爱好者的启发 这样的想法启发了非常多 "笔记爱好者" ,并陆续提出了一些有趣的笔记系统概念。 例如: Maggie Appletons与Salman的 Digital Garden (数字花园) nickmilo在 Obsidian 论坛提出的 inbox 、incubation folder、Evergreen notes Bryan Jenks提出的 Seedling、Incubation、Evergreen 标签系统

      方法论