Я работаю с Google GenAI Java SDK — com.google.genai:google-genai:1.23.0 — в приложении Spring Boot 3, работающем в среде GitHub Codespaces.
Я называю модель Gemini 2.5 Flash следующим образом:
Код: Выделить всё
GenerateContentResponse response = geminiClient.models()
.generateContent(modelName, prompt, generationConfig);
String answer = response.text(); // This part works well
- подсчет количества токенов
- количество токенов кандидатов
- общее количество токенов
- Я использую GitHub Codespaces, поэтому я не могу легко нажать «Ctrl + щелчок» в определениях классов, чтобы изучить доступные методы.
- Я искал в официальной документации SDK и Javadocs, но мне не удалось найти четкую документацию для класса GenerateContentResponseUsageMetadata или его доступных методов.
- Я также искал в Интернете (GitHub, Google, форумы разработчиков), и в некоторых сообщениях говорится, что useMetadata может не предоставляться надежно в некоторых версиях или моделях SDK. ответы.
- Я подтвердил, что response.toString() иногда включает useMetadata в качестве фрагмента JSON, например:
Код: Выделить всё
"usageMetadata": {
"promptTokenCount": 30,
"candidatesTokenCount": 65,
"totalTokenCount": 95
}
- Как правильно импортировать и использовать useMetadata() в версии 1.23.0?
- Каков точный метод имена (если есть) для получения количества токенов?
- Поддерживается ли эта функция вообще в SDK v1.23.0, или мне следует анализировать необработанный JSON вручную в качестве обходного пути?
Заранее спасибо!
Я попробовал следующее:
Код: Выделить всё
import com.google.genai.types.GenerateContentResponseUsageMetadata;
...
GenerateContentResponseUsageMetadata usage = response.usageMetadata().orElse(null);
if (usage != null) {
int promptTokens = usage.getPromptTokenCount(); // error
int completionTokens = usage.getCandidatesTokenCount(); // error
int totalTokens = usage.getTotalTokenCount(); // error
}
Я также пробовал вызывать их без get, например use.promptTokenCount(), но это тоже не сработало.>
Подробнее здесь: https://stackoverflow.com/questions/797 ... -using-goo
Мобильная версия