linux-BR.org

Notícias de software livre e tecnologias

Organize seus modelos LLM e incorporação: suporta LLMs locais e provedores de API populares (Openai, Azure, Ollama, Groq).Com pleno, os pacotes extras de não estruturados também serão instalados, ele pode suportar tipos adicionais de arquivo (.doc, .docx, …), mas o custo é maior tamanho da imagem do docker.Atualmente, os seguintes provedores são suportados:
Openai
No arquivo .env, defina a variável OpenAI_API_KEY com sua tecla API OpenAI em ordem
Para permitir o acesso aos modelos do OpenAI.Host Your Own Document QA (RAG) Web-UI: Apoie o login de vários usuários, organize seus arquivos em coleções privadas/públicas, colabore e compartilhe seu bate-papo favorito com outras pessoas.Essas opções estão disponíveis:
Selecione carregadores correspondentes nas configurações -> Configurações de recuperação -> carregador de arquivos
Por padrão, todos os dados do aplicativo são armazenados na pasta ./ktem_app_data.

Fonte: https://github.com/Cinnamon/kotaemon