linux-BR.org

Notícias de software livre e tecnologias

Se o arquivo existir, o estado do modelo será carregado, permitindo retomar uma sessão anterior.Para ativar o suporte da sessão, use a opção – -session Arquivo de linha de comando ao executar o programa.Ao manter o contexto de interações anteriores, ele pode entender e responder melhor às solicitações de usuário de uma maneira mais natural.Você pode construir assim:
A ferramenta Talk-Llama suporta gerenciamento de sessões para permitir conversas mais coerentes e contínuas.Esse recurso é especialmente útil para manter o contexto em longas conversas ou ao interagir com o assistente de IA em várias sessões.

Fonte: https://github.com/ggerganov/whisper.cpp/tree/master/examples/talk-llama