linux-BR.org

Notícias de software livre e tecnologias

Neste artigo, levando QWEN1.5-72B-CHAT como exemplo, vamos cobrir

A equipe de Qwen lançou 6 tamanhos de modelo, incluindo 0,5b, 1,8b, 4b, 7b, 14b ao mesmo tempo.Em seguida, use as seguintes linhas de comando para iniciar um servidor de API para o modelo.Uma API da Web compatível com o OpenAI permite que o modelo funcione com um grande ecossistema de ferramentas e estruturas de agentes LLM, como Flows.Network, Langchain e Llamaindex.A Wasmedge é a maneira mais fácil, mais rápida e segura de executar aplicativos LLM.Em seguida, faça o download da interface do usuário da Web Chatbot para interagir com o modelo com uma interface do usuário do Chatbot.

Fonte: https://www.secondstate.io/articles/qwen1.5-72b-chat/