Saltar al contenido principal
Una fuente de Google Cloud Storage mantiene un bucket, o prefijos de él, en un namespace. Cada archivo se lee igual que una subida, y un archivo eliminado del bucket pierde sus documentos.
1

Concede acceso

Conare lee los buckets como una única cuenta de servicio de Google, así que no se intercambia ninguna clave. Concédele Storage Object Viewer y crea el objeto vacío .conare/<organization id>, que demuestra que el bucket es tuyo:
gcloud
2

Previsualiza el bucket

curl
3

Conéctalo

curl

La cuenta

GET /sources/gcs
Response
  • service_account, role: la cuenta y el rol que debes concederle en tu bucket.
  • Una fuente deja de sincronizarse cuando se elimina .conare/<organization id>; gcs_not_verified indica el objeto que hay que crear.
Esquema completo: The account to grant a bucket to.

Previsualizar un bucket

POST /sources/gcs/preview Lista lo que leería una fuente del bucket; no se almacena nada.
Response
Esquema completo: Preview a bucket.

Conectar un bucket

Envía "type": "gcs" a POST /sources; la primera sincronización empieza de inmediato, y una clave limitada al namespace puede conectarlo.
Response

Sincronizar y desconectar

  • Cada sincronización lista el bucket y lee los archivos nuevos y modificados.
  • Una sincronización que eliminaría más de 1.000 documentos y una décima parte de la fuente espera 24 horas a que una segunda sincronización lo confirme.

Documentos

Cada archivo es un documento, con el id y las ubicaciones de una subida, además de source_url (gs://bucket/name), bucket, object y generation en sus metadatos.
GET /sources/:id/documents lista sus archivos.

Fallos

GET /sources/:id/failures
curl
Response
  • Un fallo nunca detiene una sincronización.
  • Un archivo que falló de forma definitiva solo se vuelve a leer cuando cambia.
  • Uno que falló por un motivo pasajero se reintenta en las 3 sincronizaciones siguientes, y después a diario.
Esquema completo: List the objects a source could not keep.

Errores