linux-BR.org

Notícias de software livre e tecnologias

Inferência de clipe em C/C ++ sem dependências extras
Esta é uma implementação livre de dependência de clipe bem conhecido por Openai,
Graças ao ótimo trabalho em GGML.Aparentemente, os modelos de Laion superam os modelos OpenAI em vários benchmarks, por isso são recomendados.Por exemplo, você pode executar o seguinte para converter o modelo em Q4_0:
Agora você pode usar o GGML-Model-Q4_0.bin como o modelo em F16.Você pode usá -lo para trabalhar com modelos de clipes do OpenAi e Laion
no formato dos transformadores.Você pode converter modelos de clipe do OpenAI e Laion no formato Transformers.

Fonte: https://github.com/monatis/clip.cpp