linux-BR.org

Notícias de software livre e tecnologias

Você também precisará adicionar seu HUGGINGFACE_API_KEY ao Beam Secret Manager para executar este exemplo.Depois de instalar a CLI do Beam, baixe o script de inferência em seu computador.
Este exemplo mostra como você pode executar o CodeLlama em uma GPU em nuvem sem servidor.Primeiro, crie uma conta no Beam.É grátis e você receberá 10 horas de crédito de GPU para começar.

Fonte: https://github.com/slai-labs/get-beam/tree/main/examples/codellama