API de turbopuffer - Conare

Conare sirve la API de turbopuffer en https://api.conare.ai/tpuf: conserva tu código y tu SDK de turbopuffer, y apúntalos a Conare con una clave de Conare.

curl https://api.conare.ai/tpuf/v2/namespaces/products/query \
  -H "Authorization: Bearer $CONARE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"rank_by": ["vector", "ANN", [0.1, 0.2, 0.3, 0.4]], "top_k": 10}'

import os
import turbopuffer

tpuf = turbopuffer.Turbopuffer(
    api_key=os.environ["CONARE_API_KEY"],
    region="gcp-us-central1",  # any value: Conare ignores it
    base_url="https://api.conare.ai/tpuf/{region}",
)

ns = tpuf.namespace("products")
ns.write(
    upsert_rows=[{"id": 1, "vector": [0.1, 0.2, 0.3, 0.4], "title": "refunds"}],
    distance_metric="cosine_distance",
)
result = ns.query(rank_by=("vector", "ANN", [0.1, 0.2, 0.3, 0.4]), top_k=10)

Response

{
  "billing": { "billable_logical_bytes_queried": 0, "billable_logical_bytes_returned": 0 },
  "performance": { "cache_hit_ratio": 1.0, "cache_temperature": "hot", "query_execution_ms": 0, "server_total_ms": 0 },
  "rows": [{ "$dist": 0.0, "id": 1 }]
}

Tú aportas tus propios vectores, y estos namespaces están separados de los del resto de la API.

Compatible

Área	Compatible
Escrituras	Upserts, patches, eliminaciones, escrituras condicionales, eliminación o patch por filtro
Consultas	Vectoriales (ANN y exactas), texto completo BM25, ordenación por atributo, filtros, agregación `Count`, hasta 16 consultas en una llamada
Namespaces	Listado, esquema, metadatos, calentamiento de caché, eliminación, copia y ramificación
Distancia	`cosine_distance`, `euclidean_squared`
`top_k`	Hasta 10.000

Cualquier otra cosa, como group_by o varias columnas vectoriales, devuelve 400 con un mensaje que la nombra.

Límites

Límite
Consultas	1.000 por segundo por organización
Escrituras, otras llamadas	100 por segundo cada una
Cuerpo de la solicitud	Hasta 64 MiB