linux-BR.org

Notícias de software livre e tecnologias

Para a Amazon, eles podem colocar esses recursos sob demanda para trabalhar em quase um tipo de ambiente de leilão, garantindo-lhes a receita (supondo que os clientes venham, é claro).O preço do acesso a esses recursos será verdadeiramente dinâmico, variando dependendo da oferta e da demanda, de acordo com a empresa.Alugar uma instância de longo prazo de um provedor de nuvem quando você só precisa de acesso a esses recursos caros para um único trabalho, não faz necessariamente sentido.O produto oferece aos clientes acesso às instâncias do NVIDIA H100 Tensor Core GPUs em tamanhos de cluster de uma a 64 instâncias com 8 GPUs por instância.
Mais e mais empresas estão executando grandes modelos de idiomas, que exigem acesso às GPUs.

Fonte: https://techcrunch.com/2023/11/01/new-aws-service-lets-customers-rent-nvidia-gpus-for-quick-ai-projects/