diff --git a/content/posts/nextcloud_x_litellm_x_ollama.md b/content/posts/nextcloud_x_litellm_x_ollama.md index 277fa25..dfd7ce0 100644 --- a/content/posts/nextcloud_x_litellm_x_ollama.md +++ b/content/posts/nextcloud_x_litellm_x_ollama.md @@ -93,12 +93,14 @@ pipx install 'litellm[proxy]' ```bash model_list: - - model_name: saiga-llama3 + - model_name: llama3 litellm_params: - model: ollama/saiga-llama3 - - model_name: название_модели + model: ollama/llama3 + - model_name: qwen2 litellm_params: - model: ollama/название_модели + model: ollama/qwen2 + +# ну далее по шаблону, если есть другие модели ``` ### Сервис systemd {#litellm_systemd} Затем я сделал **systemd** сервис, чтобы не запускать это дело ручками, он должен располагаться в