Para a nova análise, o Google rastreia a energia das CPUs, os aceleradores de IA dedicados e a memória, tanto quando ativos no manuseio de consultas quanto para a ocorrência entre as consultas.Mas o Google tem acesso a praticamente tudo: a energia usada para atender uma solicitação, o hardware necessário para fazê -lo, os requisitos de refrigeração e muito mais.Mas há também a energia necessária para memória, armazenamento, resfriamento e mais necessários para apoiar esses processadores.Portanto, embora os acadêmicos possam testar as necessidades de energia dos modelos individuais de IA, é difícil extrapolar isso para casos de uso do mundo real.A única coisa que o Google poderia ter feito uma estimativa razoável de, mas não o fez, é o impacto do treinamento de seus modelos.
