pubmedbert-base-embeddings-matryoshka

Uso (txtai)

import txtai

# Nuevas incrustaciones con dimensionalidad solicitada
embeddings = txtai.Embeddings(
  path="neuml/pubmedbert-base-embeddings-matryoshka",
  content=True,
  dimensionality=256
)
embeddings.index(documents())

# Ejecutar una consulta
embeddings.search("consulta para ejecutar")

Uso (Sentence-Transformers)

from sentence_transformers import SentenceTransformer
sentences = ["Esta es una frase de ejemplo", "Cada frase se convierte"]

model = SentenceTransformer("neuml/pubmedbert-base-embeddings-matryoshka")
embeddings = model.encode(sentences)

# Dimensionalidad solicitada
dimensionality = 256

print(embeddings[:, :dimensionality])

Uso (Hugging Face Transformers)

from transformers import AutoTokenizer, AutoModel
import torch

# Mean Pooling: Tener en cuenta la máscara de atención para promediar correctamente
def meanpooling(output, mask):
    embeddings = output[0]  # El primer elemento del resultado del modelo contiene todas las incrustaciones de tokens
    mask = mask.unsqueeze(-1).expand(embeddings.size()).float()
    return torch.sum(embeddings * mask, 1) / torch.clamp(mask.sum(1), min=1e-9)

# Frases para las que queremos incrustaciones
dentences = ['Esta es una frase de ejemplo', 'Cada frase se convierte']

# Cargar modelo desde HuggingFace Hub
tokenizer = AutoTokenizer.from_pretrained("neuml/pubmedbert-base-embeddings-matryoshka")
model = AutoModel.from_pretrained("neuml/pubmedbert-base-embeddings-matryoshka")

# Tokenizar frases
inputs = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt')

# Computar incrustaciones de tokens
with torch.no_grad():
    output = model(**inputs)

# Realizar pooling. En este caso, mean pooling.
embeddings = meanpooling(output, inputs['attention_mask'])

# Dimensionalidad solicitada
dimensionality = 256

print("Incrustaciones de frases:")
print(embeddings[:, :dimensionality])