Агент Dataframe Pandas от Langchain – безопасно? ⇐ Python
-
Anonymous
Агент Dataframe Pandas от Langchain – безопасно?
Безопасен ли агент Pandas Dataframe от Langchain? У них на сайте так написано
ПРИМЕЧАНИЕ. Этот агент вызывает внутренний агент Python, который выполняет код Python, сгенерированный LLM. Это может быть плохо, если код Python, сгенерированный LLM, является вредным. Используйте осторожно.
Как бы вы оценили этот риск?
Также последующий вопрос будет заключаться в том, как предотвратить выполнение агентом вредоносного кода. Я думаю, что PandasAI справится с этим, например. управление операторами import, но есть ли аналогичный (встроенный) способ в Langchain?
Безопасен ли агент Pandas Dataframe от Langchain? У них на сайте так написано
ПРИМЕЧАНИЕ. Этот агент вызывает внутренний агент Python, который выполняет код Python, сгенерированный LLM. Это может быть плохо, если код Python, сгенерированный LLM, является вредным. Используйте осторожно.
Как бы вы оценили этот риск?
Также последующий вопрос будет заключаться в том, как предотвратить выполнение агентом вредоносного кода. Я думаю, что PandasAI справится с этим, например. управление операторами import, но есть ли аналогичный (встроенный) способ в Langchain?
