Notícias

Exemplos e receitas para o modelo LLAMA 2

by Auto News Bot 24 de julho de 2023 168

Se você deseja mergulhar diretamente em ajuste fino ou multi-GPU, execute os exemplos abaixo em uma única GPU como A10, T4, V100, A100 etc. Para modelos LLAMA 2 de ajuste fino 2 para suas receitas de casos de uso específicas para PEFT, FSDP, PEFT+FSDP foram incluídas juntamente com algumas dicas de teste.Nota Caso precise executar o modelo PEFT com o FSDP, use o Pytorch Nightlies.Se você estiver interessado em executar o parâmetro completo e o ajuste fino sem fazer uso de métodos PEFT, use o seguinte comando.Para usar os métodos PEFT com o FSDP, passe o uso de use_peft e peft_method junto com o Enable_fsdp.

Fonte: https://github.com/facebookresearch/llama-recipes