Il numero massimo di token da generare. Assicurati che la somma dei token inseriti e di max_tokens non superi la finestra di contesto del modello.
Il numero massimo di token da generare. Assicurati che la somma dei token inseriti e di max_tokens non superi la finestra di contesto del modello. Poiché alcuni servizi sono ancora in fase di aggiornamento, si consiglia di non impostare max_tokens al limite massimo della finestra; riserva un buffer di circa 10k token per le operazioni di input e per gli sforzi del sistema. Per maggiori informazioni, consulta Models。
Pubblicato da @oneai su AIRAI. Contattaci per domande.
Link dell’articolo:https://airai.cc/it/news/44/
Link dell’articolo:https://airai.cc/it/news/44/
È stato utile?