start llm
The start llm
command starts an LLM serving job.
Syntax
start llm <llm name>
Parameters
Parameter
Description
<llm name>
The name of the LLM job
Example
start llm chat_llm
The start llm
command starts an LLM serving job.
start llm <llm name>
<llm name>
The name of the LLM job
start llm chat_llm