向死而生
2 published articles
LLM 的 Reasoning 能力让今后的操作系统调度层几乎毫无疑问的会发生翻天覆地的变化。 长期：端计算是必然，工程，供应链，半导体，模型运算，特定模型小型化等，3-5 年左右的时间 中期：熟悉调度层，函数调用，指令微调。 工程化 Langchain / LLamaIndex Retrieve / Rerank 【OS】 数据流：获取，展示，交互 隐私：Private Cloud Compute Edge Compute 的自证悖论： 响应总时长 = 网络延时 + Inference 计算耗时 Generate 600 tokens: 云服务器 [10 倍算力，时间基准]：200 token/s，150 ms 单程网络延时 普通终端：20 token/s 计算 Neural 增强终端：60 token/s Neural 增强节点【无限能耗】：100 token/s 计算，200 ms 单程网络延时 计算得出: Edge Compute = 0 + 30,000 ms = 30,000 ms Edge [Enhanced] Compute = 0 + 10,000 ms = 10,000 ms Private Cloud Compute = 400 ms [单次 roundtrip] + 6,000 ms = 6,400 ms Public Cloud Compute = 300 ms [单次 roundtrip] + 3,000ms = 3,300 ms 计算成本和隐私的话，家用 / 企业用算力中心。
Photograph by Joe Pugliese for TIME Intro 最近《时代》的年度 CEO 出炉，看看 Sam Altman 的这张封面。结合 OpenAI 这个注定要在历史上留下浓墨重彩的技术型公司，与其不平凡的治理结构，以及 11 月份发生的戏剧性的冲突和最终的结果，也很扣今天的这个命题，善与恶。 事实上，当代能去「客观」的评价 OpenAI 事件几乎是不现实的，因为几乎所有人都或多或少利益相关，这让我同步产生了一个很有意思的想法，历史上的人类行为，是否存在可以被评价的基石？ 利益相关方的评价，其「善恶观」是评价基石，导致其评价是极其主观的，且不由其意愿决定，后续我在对自己的反思上也会提及这件事。然而，在数十年、上百年过后，用后世的「善恶标准」去评价一个历史事件，又往往是失真的，再叠加留存下来的信息源本身也可能存在诸多误导，最终只能被抽象化记录下来，得出一些关于社会学的结论，而无法从细节论证真伪和改变的可能性。 我的好奇在于，如何回答下述问题： Sam Altman 存在阶级局限性吗？ 但是 Sam Altman 无法逾越这样的阶级局限性吗？ Elon Musk 算是逾越了阶级局限性吗？ Elon 在 2018 年尝试执掌 Open AI，那次尝试的失败会让 OpenAI 今天面对的局面更向善，还是更向恶？ 没能做到主观上意识到了，且客观上本可以做到的事，算作恶吗？ 于此同时，也更理解了 Elon Musk 所说的，只有物理（或相关自然学科）的进步，如果凡事都是双刃剑，这把剑大概率，是可以评价利大于弊的。在我个人的这个人生阶段，回望过去的 2 年，用这个话题，作为阶段的复盘和思考，我想总体上是合适的。 现实 宏大的现实，即当前的时代和社会背景，是单体的人类无法轻易逾越的坚固的屏障。从过往的国家和政体的成与败，可以得到一个大约粗略的结论了，经济发展是当前世界的发展主线，「资本 / Capital」是当前世界经济动脉网络的基石。为了避免短视行为，我们似乎具备两个选择： 以完全理想化的高纬统一愿景，实现对时代背景的超越，以支撑一个完全不成立的经济模型。例如，环境问题，战争问题，早年 OpenAI 等纯理想化模型等。 包裹一个以「现实经济模型」为基础假设的框架，进而实现一定程度的对冲，将「共同利益问题」产业化，进行长期资本向善的布局。例如，新能源，XXX 基金会，XXX 主权基金，SpaceX 和 NASA 的合作，OpenAI 的「有限收益改组」尝试等。 我感受到了一个词，「别扭」。怎么做怎么别扭。因为我们得尝试去解决一个「问题」，必定是累的。这个问题是，自由市场经济和私有制体系下，个体利益「自然的」大于集体利益，且「集体的定义愈发趋向模糊化」的这个问题。「自然」的含义是：水往低处流，意味着逆势而行就必定要「做功」。 我个人的看法是，当我们谈及「做功」这个动作，它的效率，甚至说成败本身，脱离了机制，而强依赖于「人」，而且必定是「伟大的人」。推导下的这个「关键角色」的出现，也代表了我个人对「关键事务一号位」的定义。 即： 可以充分利用现实，并通过组织约束小部分人达到反人类反现实，既而再能实现超越现实，然后降维得到对现实层面的统治级影响力，最终以期实现群体升级。 选择 在这样的背景下，选择变得极其的艰难。身处其中，上面的每一句话，都很难判断和把握。 「充分利用现实」的度量衡是什么，充分是个程度，并且关于其「是否充分」的定义也基本取决于「善恶观」。我们都会喊「科技向善」的口号，但是科技需要「燃料」，而当代的燃料，最普适的就是「现金」，刚好这点可以用来具象化的表达为什么「经济」是主动脉。比如，你很难要求一群人，在「收益」短中长期都不可观的情况下，极致纯粹的因为「集体主义」，「家国情怀」而进行投入，这几乎是不会被世界上所有「相关方（亲人，朋友，利益群体）」认可的「傻逼行为」。 取舍 善恶观的「升级」。 前方