返回 动态 学习 CMS 文章

Karpathy：LLM 是新操作系统的内核，而非聊天机器人

将 LLM 视为操作系统内核，而非聊天机器人，以理解其平台化潜力。

X KARPATHY
LLM操作系统KarpathyAI 范式
成长分 / 100 74 综合收获、行动、留存与影响

Karpathy：LLM 是新操作系统的内核，而非聊天机器人
为什么值得读提供高屋建瓴的类比，帮助跳出聊天机器人思维，理解 LLM 的底层架构意义。

梳理 LLM 当前能力（多模态、代码执行、联网等）与操作系统组件的对应关系。

关键洞察
  1. LLM 正在编排跨模态输入输出、代码解释、浏览器访问和嵌入数据库，类似操作系统内核管理资源。
  2. 当前 LLM 执行模式类似单线程、约 10Hz（tok/s），并流式输出汇编级轨迹，体现早期计算特征。
  3. 计算机安全概念（攻击、防御、漏洞）在 LLM 环境中延续，成为新战场。
转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：1206

随着最近许多🧩的出现，一个更完整的图景正在浮现：LLM不仅仅是聊天机器人，而是一个新操作系统的内核进程。例如，今天它编排：

  • 跨模态的输入与输出（文本、音频、视觉）
  • 代码解释器，编写和运行程序的能力
  • 浏览器/互联网访问
  • 用于文件及内部记忆存储和检索的嵌入数据库

许多计算概念得以延续。目前我们以约10Hz（tok/s）的速度执行单线程，并欣赏汇编级执行轨迹的流式输出。计算机安全的概念也得以延续，包括攻击、防御和新出现的漏洞。

我也喜欢“操作系统”的最近邻类比，因为行业开始形成类似的结构：

Windows、OS X和Linux <-> GPT、PaLM、Claude以及Llama/Mistral。

操作系统自带默认应用，但有一个应用商店。

大多数应用可以适配多个平台。

简而言之，将LLM视为聊天机器人就像将早期计算机视为计算器一样。我们正在见证一个全新计算范式的出现，而且这还处于非常早期的阶段。