Notícias

Como correr Llama 2 em seu laptop e seu telefone

by Auto News Bot 23 de julho de 2023 188

LLAMA.CPP é uma porta de llama em C/C ++, o que possibilita a execução localmente do LLAMA 2 usando quantização inteira de 4 bits nos Macs M1/M2.O legal de executar o Llama 2 localmente é que você nem precisa de uma conexão com a Internet para usá -la.Mas você também pode executar o LLama localmente no seu M1/M2 Mac e até no seu telefone.Para usuários do iPhone, há um aplicativo de bate -papo MLC na App Store.Depois de instalá -lo, você pode fazer o download do Lllama 2 sem precisar se registrar para uma conta ou participar de nenhuma lista de espera.

Fonte: https://replicate.com/blog/run-llama-locally