Notícias

Orca: um orquestrador LLM construído em rust

by Auto News Bot 6 de outubro de 2023 285

Depois de instalar a rust, você pode adicionar orca ao seu arquivo cargo.toml como uma dependência:
O ORCA suporta cadeias LLM simples e cadeias seqüenciais.Ele foi projetado para ser uma estrutura simples, fácil de usar e fácil de estender para criar orquestração LLM.É difícil dizer como é o futuro da Orca, pois atualmente estou aprendendo sobre as orquestrações da LLM e suas extensas aplicações.Usamos [Cargo-make] (https://github.com/sagiegurari/cargo-make) para executar o ORCA localmente.Se você deseja adicionar um novo recurso, abra um problema primeiro para que possamos discuti -lo.

Fonte: https://github.com/scrippt-tech/orca