linux-BR.org

Notícias de software livre e tecnologias

Para a amostra abaixo do Spider:
O System_prompt será
O prompt do usuário
O prompt do usuário é simples, a pergunta do usuário para cada amostra na aranha.Os recentes avanços na tecnologia de modelo de grande idioma (LLM), como o GPT-4, melhoraram a precisão das soluções propostas.Como todo o treinamento e ajuste fino do modelo, o primeiro passo do ajuste fino GPT-3.5-Turbo é a criação e o upload de um conjunto de dados de treinamento.Portanto, ao trabalhar com o conjunto de dados Spider, reduzimos o número de amostras de 7.000 para 5.750 e conduzimos o ajuste fino para um total de 2 épocas.Para criar um trabalho de ajuste fino, você pode usar o seguinte código Python:
A duração do processo de ajuste fino varia de acordo com o tamanho do conjunto de dados de ajuste fino.

Fonte: https://medium.com/@aazo11/fine-tuning-gpt-3-5-turbo-for-natural-language-to-sql-f0bb1db00e05