This reverts commit f4eeae753e
.
This commit is contained in:
parent
f4eeae753e
commit
643ef5bc30
1 changed files with 6 additions and 4 deletions
|
@ -96,11 +96,13 @@ model_list:
|
||||||
- model_name: llama3
|
- model_name: llama3
|
||||||
litellm_params:
|
litellm_params:
|
||||||
model: ollama/llama3
|
model: ollama/llama3
|
||||||
- model_name: qwen2
|
- model_name: saiga-llama3
|
||||||
litellm_params:
|
litellm_params:
|
||||||
model: ollama/qwen2
|
model: ollama/saiga-llama3
|
||||||
|
# ну и далее по списку, если надо
|
||||||
# ну далее по шаблону, если есть другие модели
|
- model_name: название_модели
|
||||||
|
litellm_params:
|
||||||
|
model: ollama/название_модели
|
||||||
```
|
```
|
||||||
### Сервис systemd {#litellm_systemd}
|
### Сервис systemd {#litellm_systemd}
|
||||||
Затем я сделал **systemd** сервис, чтобы не запускать это дело ручками, он должен располагаться в
|
Затем я сделал **systemd** сервис, чтобы не запускать это дело ручками, он должен располагаться в
|
||||||
|
|
Loading…
Reference in a new issue