Проблема с использованием tokenizer.encode_plusPython

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Проблема с использованием tokenizer.encode_plus

Сообщение Anonymous »

Блокнот #jupyter
Я пытаюсь изучить классификатор BERT с помощью https://colab.research.google.com/drive ... db3pt8LuQВ этом коллабе, начиная с «Токенизировать все предложение..».
В этой части у меня возникла проблема: «TypeError: _tokenize() got» неожиданный аргумент ключевого слова 'pad_to_max_length'"
**
input_ids = []
attention_masks = []

for sent in sentences:
encoded_dict = tokenizer.encode_plus(
sent, # Sentence to encode.
add_special_tokens = True, # Add '[CLS]' and '[SEP]'
max_length = 64, # Pad & truncate all sentences.
pad_to_max_length = True,
return_attention_mask = True, # Construct attn. masks.
return_tensors = 'pt', # Return pytorch tensors.
)


Подробнее здесь: https://stackoverflow.com/questions/638 ... ncode-plus
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • Я получил ошибку времени выполнения C Plus Plus для начинающих при написании простой программы [закрыто]
    Anonymous » » в форуме C++
    0 Ответы
    96 Просмотры
    Последнее сообщение Anonymous
  • Проблема с использованием tokenizer.encode_plus
    Anonymous » » в форуме Python
    0 Ответы
    9 Просмотры
    Последнее сообщение Anonymous
  • Проблема с использованием tokenizer.encode_plus
    Anonymous » » в форуме Python
    0 Ответы
    2 Просмотры
    Последнее сообщение Anonymous
  • Ошибка параллелизма Tokenizer при использовании gradio и mlflow
    Anonymous » » в форуме Python
    0 Ответы
    25 Просмотры
    Последнее сообщение Anonymous
  • В чем разница между MWE Tokenizer и countvectorizer+ngram?
    Anonymous » » в форуме Python
    0 Ответы
    15 Просмотры
    Последнее сообщение Anonymous

Вернуться в «Python»