O modelo Dolphin-2.2-yi-34b é baseado no 34B LLM, YI, lançado pela equipe 01.Ai.Wasmedge é a maneira mais fácil, mais rápida e segura de executar aplicativos LLM.Em seguida, use as seguintes linhas de comando para iniciar um servidor de API para o modelo.Neste artigo, abordaremos
Usaremos a pilha Rust + Wasm para desenvolver e implantar aplicativos para este modelo.Etapa 3: Baixe um arquivo WASM portátil de plataforma cruzada para o aplicativo de bate-papo.
Fonte: https://www.secondstate.io/articles/dolphin-2.2-yi-34b/
