我认为，你几乎不应该用 AI 来写作，也就是说，不要让 AI 替你完成“把文字敲到页面上”这件事。无论是博客文章、研究报告、备忘录、一封用心写的邮件、一部小说，还是任何旨在传达想法、论证、分析或其他实质性1思考的文字，都是如此。即便你给了 AI 非常详细的要点、口述的想法或其他背景信息，即便你事后编辑了 AI 写出的文字，我也这么认为。2
理由有三：（1）写作过程是思考过程不可或缺的一部分；（2）AI 写出的东西含糊，而且错得不易察觉；（3）用 AI 写作（又不加以标注）既无礼又有误导性。下面我会详细解释这几点，但先说几句开场白。
你可能知道，我并不反对 AI。我认为在研究和写作的许多其他环节使用 AI 非常合理，例如转录音频、分析数据、搜索信息、头脑风暴，以及对草稿提出反馈。我也认为，用 AI 做行文润色和文字校对，或者改写某一段使其更清晰、更紧凑，都没问题，前提是所有改动都由人来有意识地接受或拒绝。我反对的只是用 AI 来写文字本身。3
没错，用 AI 写作确实有各种好处。比如，它比自己写省力得多，也快得多。所以，用 AI 写作的弊端必须相当大，整体上才算得上是坏事。你现在大概已经猜到了，我认为它们确实很大。
最后，我只是在谈论目前已有的、以及我预期在不久的将来会出现的 AI 模型。将来某个时候，很可能会出现足够优秀的模型，让人把写作委托给它们是合理的（不过到那时，也许把整个研究或写作过程端到端地委托出去更合理，因为除了写作，它们还得承担全部或大部分思考工作）。
写作过程就是思考过程
做任何研究的目的，都是对重要问题形成准确的信念，然后把它传达给读者。在我看来，实现这一点的最佳方式之一就是写作。
写某件事，哪怕是你很熟悉的事，通常也会让你发现，自己并没有想象中那么了解它。把想法变成文字是一场严峻的考验。[……] 一篇文章里最终出现的想法，有一半是你在写作过程中才想到的。事实上，这正是我写文章的原因。
在 Patrick McKenzie 的播客的一期节目中，Clara Collier 说：
当我在写某样东西，某样有实质内容的东西时，写作过程的每一个环节都有思考，都会改变我的想法。从提纲，到把提纲变成文字，再到单个句子，都是如此。我经常遇到这样的情形：我想把提纲写成成稿，正在琢磨一处过渡，怎么都不顺，然后我意识到，哦，这处过渡之所以不顺，是因为这两个观点其实不该并置。我在这里想做的事本身就是错的。而如果我把提纲喂给大语言模型，它不会停下来想一想，也许这份提纲本身就有问题。[……]
Patrick 回应道：
我完全同意，写作过程就是思考过程。我认为我们现在有了经验上的证明，因为你造出一台会写作的机器，思考就作为副作用冒了出来。
但在写一篇多页的文章时，即便你有很强的论点，强迫自己把它写成句子和段落、搭起论证的结构，也会让你看到论证里的漏洞在哪里。它会让你看到你的研究过程哪里不够充分。它会让你发现这样的情况：哦，其实有些东西和我想说的相矛盾。而且，作为一个还算讲道德的人，我想我会承认存在反方论点，或者不得不补充说明，能够站得住脚的完整结论，比我“想写的”那个结论要弱一些。
我基本同意这些看法。当我写一样东西时，我必须先知道自己想说什么，也就是说，我必须思考证据和论证，并得出一些信念。所以写作迫使我去做这些事，而这些对任何写作或研究项目都是必不可少的。对于任何这样的项目，总得有人把整件事装在脑子里：所有的证据、各种考量、各种论证，以及它们如何拼合在一起。用 AI 写作，让人更容易回避这些必要的思考。
AI 写作含糊，且错得不易察觉
我写东西时，会在具体的措辞和表达上做出许多细小的决定。这些小决定合在一起，决定了文字整体的清晰度和正确性。
举个例子，如果我让 Claude Fable 5“写一个简短的段落，介绍 AI 芯片走私问题”，这是一个已有大量文章和报道的话题，它的输出是：
自 2022 年 10 月以来，美国一直限制向中国出口先进 AI 芯片，意在减缓中国在 AI 前沿领域的进展。但出口管制的力度取决于执法，而 AI 芯片体积小巧、价值极高，又通过庞大的全球供应链销售——这些特性使其既有吸引力又便于走私。转运网络通过新加坡、马来西亚和阿联酋等地的中间商，利用空壳公司和伪造的文件，把受管制的 GPU 送入中国。对规模的估计差异很大，从每年数万颗到可能超过十万颗高端芯片不等，即便是较低的数字，所代表的算力也足以对训练和部署强大的 AI 系统产生影响。与此同时，负责监管这一价值数千亿美元贸易的工业与安全局（Bureau of Industry and Security），其预算和人手只适合应对规模小得多的问题。因此，芯片走私有可能悄悄掏空美国 AI 政策的核心支柱之一。
这段话不算糟，甚至可以说相当合理，但我会这样写吗？不会。事实上，Claude 做了很多选择，我觉得都有些微妙的错误或不妥：
- Claude 写道“出口管制的力度取决于执法”，但这是什么意思？它要么说了一句显而易见的话（当然，不执行或执行不力的政策效果更差），要么什么也没说。5
- Claude 写道 AI 芯片“体积小巧”，这没错，但走私的通常是 AI 服务器，而服务器并不小巧。不过更重要的是，这并不要紧，因为 AI 芯片走私很少涉及藏匿产品以通过海关；通常只是把产品重新标注成别的货物，可以说是光明正大地运输。
- Claude 写道，“通过庞大的全球供应链销售”使 AI 芯片“既有吸引力又便于走私”。这是什么意思？是说走私者更容易从美国以外的公司购买芯片吗？（直到不久前，走私者似乎还能相对轻松地从总部在美国的公司采购 AI 芯片。）是说这让走私者在马来西亚等国大量购买 AI 芯片时不那么显眼吗？（我认为这更接近事实。）还是别的什么意思？
- Claude 写道，对走私规模的估计“差异很大，从每年数万颗到可能超过十万颗高端芯片不等”。这在字面上是真的，但较低的估计几乎肯定是错的，真实数字很可能更接近 Claude 提到的较高一端，也就是数十万颗。6所以这具有误导性。此外，Claude 没有指明是哪一年，而自 2022 年 10 月以来走私量波动极大；它也没有说明什么是“高端”芯片（听起来像是只卖给沙特王室成员和公爵遗孀的手工奢侈品）。
- Claude 写道，“即便是较低的数字，所代表的算力也足以对训练和部署强大的 AI 系统产生影响”。这句话没有任何信息价值。从某种意义上说，哪怕只有一颗 AI 芯片，对训练和部署 AI 系统也是“有影响”的，无论系统强大与否。（再说，什么是“强大的 AI 系统”？为什么少量算力对强大的 AI 系统比对无能的 AI 系统更重要？如果说有什么不同，你或许会觉得恰恰相反：较弱的 AI 系统从少量算力中获益更多。）
- Claude 写道，工业与安全局（BIS）“负责监管一项价值数千亿美元的贸易”。这里最好直接给出那个数字。
- Claude 写道，BIS“其预算和人手只适合应对规模小得多的问题”。首先，我们知道 BIS 的预算和人员编制，所以最好直接给出这些数字并说明其背景。其次，问题“更小”是什么意思？是说它不那么重要，还是说解决它所需的力度更小，或是别的意思？重要的难道不是，给 BIS 更多资源很可能会大幅改善执法，而不是 BIS 目前的资源量更适合某个别的问题吗？
- Claude 的最后一句话，即 AI 芯片走私“因此有可能悄悄掏空美国 AI 政策的核心支柱之一”，纯属毫无信息量的喝彩词句。
一篇文字里出现一两处这样的问题也许无关紧要，但据我的经验，AI 写作中充斥着大量不必要的含糊且微妙错误的表述。请注意，即便你给 AI 提供了大量背景信息，比如书面笔记和提纲，这个问题依然存在。7
类似地，Eric Schwitzgebel 写道：
人类专家的思考方式与大语言模型不同，而且更好。他们的用词，即便是细微之处，也反映出他们自己可能都没有意识到的敏感。通常，专家的文字对其专业领域内的问题，比语言模型的输出更敏锐。[……]
你可能会这样反驳：我当然会在发送前阅读大语言模型的输出，除非我认可每一个字，否则我不会发这封邮件，更不会提交这篇文章！所以，反驳继续说，你确实思考了所表达的想法。文字反映的是你作为专家的最佳判断，甚至可能比你的专家最佳判断更好：它是你的专家最佳判断与大语言模型的专长相结合的产物。
我的回答是：一边阅读一边点头，与真正有成效地写出一段文字，在认知上有巨大差别。原因有二：第一，文字一旦摆在页面上，人很容易被动地让大致差不多的词凑合过关，而不会像从零开始写作时那样，费力、主动地斟酌用词。第二，正如我上面所说，我怀疑人类，即便是专家，也并不真正清楚影响用词的所有因素，也就是他们对什么保持着敏感。你原本会把话说得略有不同，即便你不知道这一点，也不知道为什么，发出和接收到的也是另一种信号。
我同意这一点。但实际情况比这糟糕得多！AI 不仅写出不必要地含糊、微妙错误的文字，而且是以几乎最有说服力的方式写出来的！如果 AI 并不确切“知道”你让它写的东西，它通常不会停下来告诉你它不知道；相反，它会写出含糊空洞到足以为真的东西，或者听起来是真的、但实际上不是（或者未必是）的东西。人类当然也经常出错、含糊，但我认为我们出错和含糊的方式往往没那么有说服力，也更容易被发现。
阅读 AI 写的文字并像我先前处理 AI 芯片走私那段文字那样找出所有小问题，需要花很大力气。如果我对 AI 芯片走私不太了解，除非对这段文字苦思良久，否则我很可能发现不了我列出的大部分问题。但如果是我自己写这段文字，我就不可能注意不到自己在哪里感到困惑。
用 AI 写作（又不加以标注）既无礼又有误导性
有时我写一篇文字，是打算让别人读的。比如，我可能想把它发布在网上，或分享给同事征求反馈，或作为邮件发出，或寄给出版社。当我发布或分享一篇文字时，读者大概会期望我对所写的内容花过心思，尤其是期望这篇文字代表我的想法。至少他们理应这样期望，而我也希望如此。这是读者与作者之间的默契：读者付出注意力，作者则以有价值的东西作为回报，比如信息或乐趣。
在 Patrick McKenzie 播客的同一期节目中，Clara Collier 还说：
也许我有点矫情，但大语言模型所能生成的我的文章版本，总会缺少一些我能够补上的东西。这并不是因为，在很多领域模型比我懂得多。可是任何人想问 Claude 什么都可以随时去问。
如果他们在读我写的东西，或者读我作为编辑选出来放到他们面前的东西，那是因为存在一种默契。我给他们的，是他们在别处得不到的东西。这会比直接去问模型更好地利用他们的时间。这也是我不会直接使用大语言模型生成的文字的原因；即便用了，我也希望在他们花时间读之前，就把读到的是什么讲清楚。
我上面写的所有内容，关于微妙的错误和含糊，以及关于当一篇文字由 AI 写成时，你无从知道作者是否花了很多心思，所有这些都违背了这种默契。因此，当我读一篇文字并发现它全部或部分由 AI 撰写时，我对这篇文字和作者的信任会立刻下降，而且我认为这是理性的。
出于以上种种原因，当你推广 AI 写的文字，或把 AI 写的草稿发给别人时，我认为你是失礼的。我觉得这有点像把一份写得极其马虎的草稿发给别人，却隐瞒它写得极其马虎这一事实。而且除非你清楚标明哪些输出由 AI 写成，否则你就是在误导读者：他们会以为你的文字是你自己的文字，经过深思熟虑，并且特别代表你的信念。
当然，你可以通过标明文字由 AI 撰写，或主要由 AI 撰写，来避免无礼和误导的问题。不过我猜大多数人并不愿意这样做。
难道没有例外吗？
问：如果我清楚标明哪些是 AI 写的输出，能不能把它们放进一篇文字里？答：可以，我觉得这基本没问题。比如，有时我会对某件事做一番粗浅的调查，并依靠 Claude 获得某条信息，然后我可能会写类似这样的话：“Claude Fable 5 告诉我，某某情况属实。”8当不值得花大量时间核实那条特定说法时，这很有用。重点在于，输出要被明确标注为 AI 所写，这样读者就可以按自己的判断决定是否打折扣。
问：那我是不是可以对整篇文字都这么做？答：我认为，用 AI 写一整篇实质性的文字几乎从来都不是个好主意，即便标明了也一样，至少在你打算让别人读它的情况下是这样。原因是：第一，结果很可能比你自己写差得多；第二，如果你标明是 AI 写的，人们会（理所当然地）不去读你的文字。我认为，即便只有你自己会读，用 AI 写文字往往也是个错误，因为这样做你就失去了上面前两节所说的好处。
问：我是一个英语写作吃力的非英语母语者，能不能用 AI 来写英文？答：有人说这是可以接受的，包括不加说明地这样做。出于上述所有理由，我不同意。我认为用 AI 翻译用母语写成的文字可能是可以接受的，但即便如此，我觉得最好也说明一下。总体而言，我的感觉是，AI 在翻译时比在根据要点笔记起草时，更能保持清晰和准确。
问：如果利害关系非常重大，用 AI 加快必要的写作又非常重要、很有价值，比如撰写与 AI 相关的政策备忘录，那该怎么办？答：我并不认为用 AI 写作真能让我快多少？或者说，我认为在实践中它加快速度的方式是牺牲质量，而我认为在边际上你不应该牺牲质量。比如，华盛顿特区已经淹没在几乎没人读的报告和议题简报里了；稀缺的、真正对政策制定者有帮助的，是针对重要主题、更准确也更深思熟虑的分析。
我认为，在某些情况下，用 AI 来写主要起协调或事务性作用的短文是可以的。比如，如果你在公司里需要反复写一些简短、高度程式化的邮件，那么用 AI 起草、稍作修改后再发送，似乎没问题。
这里可能有一两个例外。比如，如果你自己极其仔细地核查并大幅修改 AI 写的文字，那*也许*可以。但也可能不行，而且这样做似乎并不比自己从头写更轻松或更快。我认为在实践中，这类写作加快进度的方式是牺牲质量。
我赞成用 AI 来做头脑风暴和分析，而这两者同样涉及费力的思考，这是否自相矛盾？我不确定，但我认为，只要你同样让自己的信念经受把它们用文字写下来的考验，用 AI 做这些事大概就没问题。
他后来在一篇专门谈 AI 的文章中重新回到了这一论点。
这句话还有一些别的解读方式，不过我认为它们是错的。比如，你可以把“出口管制的力度取决于执法”理解为：如果我们能以某种方式量化整个出口管制体系有多好、其执法有多好，那么存在一个临界点，过了这个点，除非执法改善，否则这套体系就无法再变得更好。但我认为这并不成立，因为总是还有其他改进出口管制体系的办法，例如调整出口政策。
好吧，这部分是我的错，我早在 2023 年 10 月低估了未来 AI 芯片走私的规模，这一点可能进入了 Fable 的训练数据。我认为我在那份报告中的很多判断是对的，包括对 AI 芯片走私机制的描述和我的政策建议，但对问题规模的预测很可能差了一个数量级。请记住，当时我们能依据的只有路透社的一篇微不足道的报道，讲的是深圳小规模的黑市活动。
比如，我有时会用 Claude 总结会议记录，以便与同事分享。即便我使用精心撰写的提示词，其中包含几个我自己写的会议要点示例，而且 Claude 能访问完整的会议转录，它仍然会引入微妙的含糊和错误。（顺带一提，这些错误中相当多似乎是因为 Claude 没有完全理解这些要点是写给谁的、对方可能知道和不知道什么，尽管我已尝试提供这些背景信息。）
为了加分，说明具体是哪个模型生成了该输出，似乎也是个好做法。