Notícias

Guia estendida: Instrução Tune Llama 2

by Auto News Bot 26 de julho de 2023 156

Atualmente, a atenção do flash está disponível apenas para AMPERE (A10, A40, A100, …) e GPUS (H100, …).Uma instrução é uma peça de texto ou prompt fornecido a um LLM, como llama, GPT-4 ou Claude, para guiá-lo para gerar uma resposta.Existem várias maneiras de criar um conjunto de dados de instruções, incluindo:
Cada um dos métodos tem suas próprias vantagens e desvantagens e depende do orçamento, tempo e requisitos de qualidade.As instruções permitem que os seres humanos direcionem a conversa e restrinjam a saída do modelo de idioma a ser mais natural, útil e alinhada com os objetivos do usuário.No blog, vamos:
Nota: Este tutorial foi criado e executado em uma instância G5.2xlarge AWS EC2, incluindo uma GPU da NVIDIA A10G.

Fonte: https://www.philschmid.de/instruction-tune-llama-2