Isso foi em parte um problema de ambiente: como abraçar as ferramentas do rosto é acelerado por GPU, nosso servidor precisava de uma combinação específica de sistema operacional, hardware e drivers.No entanto, já tínhamos nosso próprio código de chatbot interno (e ainda não lançado), chamado “Companion”, que Rupert havia escrito para apoiar seus outros experimentos de IA.Vários grupos fizeram exatamente isso, treinando seus próprios modelos do zero e liberando -os como código aberto (via MIT, Apache 2.0 ou Creative Commons License).Nesta postagem, vou levá -lo a cada camada dessa pilha, os desafios que encontramos e as decisões que tomamos para atender às nossas próprias necessidades e prazos específicos.Essa avaliação consistiu em pedir a cada modelo um conjunto diversificado de perguntas para comparar sua resistência à toxicidade, viés, desinformação e conteúdo perigoso.
Fonte: https://hacks.mozilla.org/2023/07/so-you-want-to-build-your-own-open-source-chatbot/