linux-BR.org

Notícias de software livre e tecnologias

Etapa 2: faça o download do modelo calm2-7b-chat gguf file.it pode levar muito tempo, pois o tamanho do modelo é de vários GBs.Então, Wasmedge fez uma demonstração de usar o MAC para executar o Japão produzido LLM, Calm2-7b-Chat, que é calorosamente recebido pelos desenvolvedores.Mais tarde, o Cyberagent falou sobre seu modelo de linguagem recém -treinado, Calm2.Uma API da Web compatível com o OpenAI permite que o modelo funcione com um grande ecossistema de ferramentas e estruturas de agentes LLM, como Flows.Network, Langchain e Llamaindex.Em seguida, use as seguintes linhas de comando para iniciar um servidor de API para o modelo.

Fonte: https://www.secondstate.io/articles/calm2-7b-chat/