La plantilla de chat y los tokens especiales
5 etiquetas
← 07-modelos-open-source-huggingface
Un modelo de chat sigue siendo un completador de texto: la lista de mensajes con roles se traduce a una cadena con delimitadores propios de ese modelo. apply_chat_template, add_generation_prompt y por qué ningún split escrito a mano sobrevive a un cambio de modelo.
- chat-template
- tokenizador
- tokens-especiales
- generacion
- huggingface