Aller au contenu principal
Version : Suivant

OpenAIChatCompletionsStreamResult

Hérite de

Propriétés

PropriétéTypeDescription
dataObjectContient le flux de données envoyées par le serveur.

Propriétés calculées

PropriétéTypeDescription
choiceOpenAIChoiceRenvoie une donnée choice, avec un message delta.
choicesCollectionRenvoie une collection de données OpenAIChoice, avec des messages delta.

Propriétés surchargées

PropriétéTypeDescription
successBooleanRetourne True si le flux de données a été décodé avec succès en tant qu'objet.
terminatedBooleanUn booléen indiquant si la requête HTTP a été close, c'est-à-dire si onTerminate a été appelé.
usageObjectRetourne les informations d'utilisation des tokens depuis les données du flux (uniquement disponibles dans le bloc final lorsque stream_options.include_usage est à True).

usage

La propriété usage retourne un objet contenant des informations d'utilisation de tokens, disponible uniquement dans le bloc final de streaming lorsque activé via stream_options. nclude_usage: True dans les paramètres de la requête.

La structure est la même que OpenAIChatCompletionsResult :

ChampTypeDescription
prompt_tokensIntegerNombre de tokens dans l'invite.
completion_tokensIntegerNombre de tokens dans la réponse.
total_tokensIntegerTotal des tokens utilisés (invite + réponse).
prompt_tokens_detailsObjectRépartition des tokens d'invite (facultatif).
completion_tokens_detailsObjectRépartition des tokens de réponse (facultatif).

Note : Pour recevoir des informations d'utilisation dans les réponses de streaming, vous devez définir stream_options: {include_usage: True} dans vos paramètres de votre requête. Voir OpenAIChatCompletionsParameters pour plus de détails.