メインコンテンツへスキップ
Google Cloud Storage ソースは、バケットまたはそのプレフィックスを 1 つの namespace に保ちます。各ファイルはアップロードと同じように読み取られ、バケットから削除されたファイルはそのドキュメントも失われます。
1

アクセスを許可する

Conare は 1 つの Google サービスアカウントとしてバケットを読み取るため、キーを受け渡す必要はありません。このアカウントに Storage Object Viewer を付与し、バケットがあなたのものであることを示す空のオブジェクト .conare/<organization id> を作成します。
gcloud
2

バケットをプレビューする

curl
3

接続する

curl

アカウント

GET /sources/gcs
Response
  • service_account、role:アカウントと、バケットでそのアカウントに付与するロールです。
  • .conare/<organization id> が削除されるとソースの同期は停止します。gcs_not_verified は作成すべきオブジェクトを示します。
完全なスキーマ:バケットへのアクセスを付与するアカウント。

バケットをプレビューする

POST /sources/gcs/preview そのバケットのソースが読み取る内容を一覧表示します。何も保存されません。
Response
完全なスキーマ:バケットをプレビューする。

バケットを接続する

POST /sources に "type": "gcs" を送信します。最初の同期はすぐに始まり、その namespace にスコープされたキーでも接続できます。
Response

同期と切断

  • 各同期はバケットを一覧表示し、新規および変更されたファイルを読み取ります。
  • 1,000 件を超え、かつソースの 10 分の 1 を超えるドキュメントを削除する同期は、2 回目の同期による確認を 24 時間待ちます。

ドキュメント

各ファイルは 1 つのドキュメントで、アップロードと同じ id と位置があり、メタデータに source_url(gs://bucket/name)、bucket、object、generation が加わります。
GET /sources/:id/documents はソースのファイルを一覧表示します。

失敗

GET /sources/:id/failures
curl
Response
  • 失敗によって同期が止まることはありません。
  • 恒久的に失敗したファイルは、変更されたときにのみ再度読み取られます。
  • 一時的な理由で失敗したファイルは、次の 3 回の同期で再試行され、その後は毎日再試行されます。
完全なスキーマ:ソースが保持できなかったオブジェクトを一覧表示する。

エラー