Notícias

Quantização binária – pesquisa vetorial, 40x mais rápido

by Auto News Bot 20 de setembro de 2023 130

Isso ocorre porque eles são projetados para classificação, clustering e casos de uso semelhantes, que normalmente precisam de mais informações codificadas no vetor.Depois que o QDRANT puxa o conjunto de vetores super -amostrados, os vetores completos que serão, digamos, 1536 dimensões para o OpenAI serão retirados do disco.Nossa implementação da quantização alcança um bom equilíbrio entre grandes e grandes vetores no horário de classificação e vetores binários no momento da pesquisa e recuperação.Ou talvez, para o seu conjunto de dados combinado com sua precisão versus requisitos de velocidade, você pode apenas pesquisar no índice binário e sem resgate, ou seja, no entanto, nossa implementação permite equilibrar a troca entre a velocidade e a precisão do recall no momento da pesquisa, em vez de tempo de índicecriação.

Fonte: https://qdrant.tech/articles/binary-quantization/