Запросы по варианту использования Hive + Iceberg + S3Apache

Ответить
Anonymous
 Запросы по варианту использования Hive + Iceberg + S3

Сообщение Anonymous »

Я относительно новичок в Apache Hive. Я хочу настроить автономное метахранилище Apache Hive для определенного варианта использования (описанного ниже), и мои вопросы связаны с этим вариантом использования.

Вариант использования: я пытаюсь настроить автономное метахранилище Hive, которое будет использоваться исключительно как каталог Iceberg для хранения данных в Amazon S3 (метаданные для самого метахранилища могут находиться в Postgres).
< /blockquote>
Вопросы:
  • Действительно ли мне нужно настраивать детали S3 в файле Metastore-site.xml (например, Metastore.warehouse. dir) и core-site.xml (например, fs.defaultFS и fs.s3a.*)?
  • Какие параметры AuthN и AuthZ доступны мне для автономного хранилища метаданных (если таковые имеются) ?
Я пытался удалить файл core-site.xml и части файла Metastore-site.xml, содержащие ссылки на s3a. Я ожидал, что операции CRUD в хранилище S3 (через хранилище метаданных) будут работать. Но я мог видеть журналы в хранилище метаданных, пытающихся подключиться к S3, но безуспешно.

Подробнее здесь: https://stackoverflow.com/questions/786 ... s3-usecase
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Apache»