据@karpathy称，nanochat现可在单台配备8张H100的节点上约3小时完成GPT2级大语言模型训练，成本约73美元，为紧凑型LLM训练提供了明确的成本与时间基准（来源：@karpathy）。据@karpathy表示，GPT2被其视为现代LLM技术栈首次成型的里程碑，此次更新强调在现代表卡上可复现的低成本GPT2级训练（来源：@karpathy）。