2. 3. 4. Neste novo mundo interessante de modelos de idiomas, você pode encontrar motores como llama.cpp, exllama, autogptq, vllm e muito mais.6.
Fonte: https://medium.com/@jlklooste/how-to-install-llama-2-on-oracle-cloud-infrastructure-8d4bbac6b5b1