num_items функция выдает
в коде пользователя:
Файл "/Users/anu/PycharmProjects/Siglip/KVCache.py", строка 12, в num_items *
tf.cond( self.key_cache.size() > 0,
OutOfRangeError: пыталась прочитать индекс 0, но размер массива это: 0
Я не мог понять, почему он так охотно выполняет чтение. update еще не отлажено. Этот код является частью моей логики вывода модели Keras/TensorFlow. Если я изменю его, чтобы включить лямбда, он тоже не работает. На данный момент я удалил TensorArray и использую dict с tf.Variable. значение.
import tensorflow as tf
class KVCache:
def __init__(self, ):
self.key_cache = tf.TensorArray(tf.int32, size=0, dynamic_size=True)
self.value_cache = tf.TensorArray(tf.int32, size=0, dynamic_size=True)
@tf.function
def num_items(self):
tf.cond( self.key_cache.size() > 0,
tf.shape(self.key_cache.read(0))[-2],
tf.constant(0, tf.int32)
)
@tf.function
def update(self,
key_states,
value_states,
layer_idx):
if self.key_cache.size()
Подробнее здесь: https://stackoverflow.com/questions/798 ... -size-is-0
TensorArray читается, когда размер равен 0 ⇐ Python
Программы на Python
-
Anonymous
1764658895
Anonymous
num_items функция выдает
в коде пользователя:
Файл "/Users/anu/PycharmProjects/Siglip/KVCache.py", строка 12, в num_items *
tf.cond( self.key_cache.size() > 0,
OutOfRangeError: пыталась прочитать индекс 0, но размер массива это: 0
Я не мог понять, почему он так охотно выполняет чтение. update еще не отлажено. Этот код является частью моей логики вывода модели Keras/TensorFlow. Если я изменю его, чтобы включить лямбда, он тоже не работает. На данный момент я удалил TensorArray и использую dict с tf.Variable. значение.
import tensorflow as tf
class KVCache:
def __init__(self, ):
self.key_cache = tf.TensorArray(tf.int32, size=0, dynamic_size=True)
self.value_cache = tf.TensorArray(tf.int32, size=0, dynamic_size=True)
@tf.function
def num_items(self):
tf.cond( self.key_cache.size() > 0,
tf.shape(self.key_cache.read(0))[-2],
tf.constant(0, tf.int32)
)
@tf.function
def update(self,
key_states,
value_states,
layer_idx):
if self.key_cache.size()
Подробнее здесь: [url]https://stackoverflow.com/questions/79830645/tensorarray-read-when-size-is-0[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия