Aqui estamos, apenas um mês depois, e existem variantes com ajuste de instrução, quantização, melhorias de qualidade, evalas humanas, multimodalidade, rLHF, etc. Mais importantes do que os pesos reais, no entanto, foi o repo Alpaca-Lora de Eric Wang, que usadoAjuste fino de baixa classificação para fazer esse treinamento “em poucas horas em um único RTX 4090”.O Google deve se estabelecer um líder na comunidade de código aberto, assumindo a liderança cooperando com, em vez de ignorar, a conversa mais ampla.O NOMIC cria GPT4all, que é um modelo e, mais importante, um ecossistema.Os modelos de código aberto são mais rápidos, mais personalizáveis, mais privados e libras a libras mais capazes.
Fonte: https://www.semianalysis.com/p/google-we-have-no-moat-and-neither