linux-BR.org

Notícias de software livre e tecnologias

Instalar dependências
Baixar modelo:
Use o modelo através do fastchat:
Exemplo usando o modelo 13B da luz solar:

Eu uso o conjunto de dados ShareGPT publicado aqui para fazer treinamento.Exemplo de uso:
Sunlight 13b: Use o conjunto de dados ShareGpt, trem 1 Epoch.Twilight 13b: Remova o limite moral tendencioso do OpenAI, permita que o modelo responda a qualquer pergunta.Esses arquivos contêm scripts que mesclam os pesos da Lora de volta ao modelo básico
para exportar para abraçar o formato de rosto e para pytorch state_dicts.O PRS adaptando esse código para suportar modelos maiores é sempre bem -vindo.

Fonte: https://github.com/bupticybee/FastLoRAChat