This reverts commit f4eeae753e
.
This commit is contained in:
parent
f4eeae753e
commit
643ef5bc30
1 changed files with 6 additions and 4 deletions
|
@ -96,11 +96,13 @@ model_list:
|
|||
- model_name: llama3
|
||||
litellm_params:
|
||||
model: ollama/llama3
|
||||
- model_name: qwen2
|
||||
- model_name: saiga-llama3
|
||||
litellm_params:
|
||||
model: ollama/qwen2
|
||||
|
||||
# ну далее по шаблону, если есть другие модели
|
||||
model: ollama/saiga-llama3
|
||||
# ну и далее по списку, если надо
|
||||
- model_name: название_модели
|
||||
litellm_params:
|
||||
model: ollama/название_модели
|
||||
```
|
||||
### Сервис systemd {#litellm_systemd}
|
||||
Затем я сделал **systemd** сервис, чтобы не запускать это дело ручками, он должен располагаться в
|
||||
|
|
Loading…
Reference in a new issue