Notícias

APIs de AI com zero-trust que servem llama 2 70b dentro dos enclaves

by Auto News Bot 14 de setembro de 2023 273

Todos os pontos de acesso, como SSH, logs, redes etc., são bloqueados para garantir o isolamento dos dados.Já tivemos nosso primeiro projeto, Blindai, um servidor de inferência de rust de código aberto que implanta modelos ONNX nos enclaves seguros da Intel SGX, auditado pela Quarkslab.Data de lançamento provisório: semana que termina em 10/06/2023
Uma versão totalmente segura do Blindlama pronta para auditoria, com um ambiente de servidor totalmente endurecido.Data de lançamento esperada: semana que termina em 08/09/2023
A versão beta adiciona a implementação completa do atestado baseado em TPM, o que significa que nossa API pode ser totalmente verificada remotamente.Não hesite em levantar questões no Github, entre em contato conosco ou veja nosso guia sobre como auditar Blindlama (em breve!).

Fonte: https://blindllama.mithrilsecurity.io/en/latest/