Revert "Забыл поменять название модели"
This reverts commit 0e849085c5
.
This commit is contained in:
parent
0e849085c5
commit
f4eeae753e
1 changed files with 6 additions and 4 deletions
|
@ -93,12 +93,14 @@ pipx install 'litellm[proxy]'
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
model_list:
|
model_list:
|
||||||
- model_name: saiga-llama3
|
- model_name: llama3
|
||||||
litellm_params:
|
litellm_params:
|
||||||
model: ollama/saiga-llama3
|
model: ollama/llama3
|
||||||
- model_name: название_модели
|
- model_name: qwen2
|
||||||
litellm_params:
|
litellm_params:
|
||||||
model: ollama/название_модели
|
model: ollama/qwen2
|
||||||
|
|
||||||
|
# ну далее по шаблону, если есть другие модели
|
||||||
```
|
```
|
||||||
### Сервис systemd {#litellm_systemd}
|
### Сервис systemd {#litellm_systemd}
|
||||||
Затем я сделал **systemd** сервис, чтобы не запускать это дело ручками, он должен располагаться в
|
Затем я сделал **systemd** сервис, чтобы не запускать это дело ручками, он должен располагаться в
|
||||||
|
|
Loading…
Reference in a new issue