OpenAI 甚么是“模型仍在加载”毛病？

当您在一段时间内第一次使用经过微调的模型时，加载它可能需要一些时间。这有时会致使前几个要求失败并显示 429 代码和一条毛病消息“模型仍在加载”。

加载模型所需的时间取决于同享流量和模型的大小。例如，像 davinci 这样的较大模型可能需要几分钟才能加载，而较小的模型加载速度可能会快很多。

加载模型后，完成要求应当更快，并且您不太可能遇到超时。

我们强烈建议在您的要求代码中实行具有指数退避的重试逻辑，以解决您在加载模型时可能遇到的任何问题（有关示例，请参阅本笔记本的“使用指数退避重试”部份）

ChatGPT中国体验版https://go.guigege.cn