讨论精选
UnlikelyPotato (0↑): P102-100s 基本上就是 1080 Ti。它们曾是比特币挖矿卡,拥有 PCI-E 1x 1.0 插槽(我认为),所以数据加载到它们上面需要一段时间……但价格并不差。不过,它们是耗电的小野兽,需要双 8 针电源接口,但你可以大幅限制它们的功耗,而不会对性能产生太大影响。
Boricua-vet (0↑): 是的,加载这个模型需要 18 秒。我将它们限制在 150W,每张卡的 token 生成速度相比 250W 损失了 3%。限制功耗后,它们通常最大消耗约 120W,所以两张卡共 240W,待机时每张 7W。
Dany0 (0↑): 可惜其他东西都很贵。 这让我觉得花 200 美元订阅 Codex 看起来极其荒谬。