linux-BR.org

Notícias de software livre e tecnologias

Com ele, você pode criar um assistente de IA (ou um “chatbot”) usando estruturas e ferramentas comuns da Web, como PHP, Elasticsearch ou Solr.Ele se conecta com várias APIs LLM, como o OpenAI (ChatGPT) e as de código aberto como Koboldai.
Enviado por Kristian Polso em Sáb, 25/11/2023 – 11:53
Lançei uma solução baseada em RAG de código aberto no Github, chamado PHP-RAG.Em outras palavras, é uma maneira de aumentar ou enriquecer a inferência LLM, fornecendo contexto extra de uma fonte de terceiros.Pessoalmente, acho que aplicativos baseados em Lucene como Elastic ou Solr são ótimos para isso, pois são rápidos e otimizados para esse tipo de consulta.

Fonte: https://polso.info/php-rag-open-source-php-based-llm-solution