Notícias

Show HN: LLAMA2.F90 – Toy Llama2 Modelo Inferência em Fortran

by Auto News Bot 3 de setembro de 2023 202

Toy Llama2 Modelo Inferência em Fortran
Isso é baseado em llama2.c por Andrej Karpathy https://github.com/karpathy/llama2.c é baseado em uma versão do código por volta de 28 de julho de 2023. Ele tem as funções intrínsecas certas, lida com a memória mais facilmente do que C do que C.(Embora as declarações sejam estranhas) e lida com as matrizes nativamente.O modelo de brinquedo usa o ponto de verificação “pequenas histórias” do projeto LLAMA2.C e reproduz esses resultados.É uma parede de código, mas deve fazer sentido no contexto do notebook Ipython vinculado abaixo e do projeto LLAMA2.C.Resta ver como ele funciona facilmente com outros aceleradores (blas, etc.).

Fonte: https://github.com/rbitr/llama2.f90