ssh your_username@your_server_ip

modelscope download --model="deepseek-ai/DeepSeek-V3" --local_dir PATH_TO_MODEL

python -m vllm.entrypoints.openai.api_server \
--model PATH_TO_MODEL \
--served-model-name DeepSeek-V3 \
--port $API_PORT
--tensor-parallel-size 1 
--max-num-seqs 64 
--max_model_len=4096

curl http://192.168.0.46:8000/v1/completions \
    -H "Content-Type: application/json" \
    -d '{
        "model": "DeepSeek-R1-Distill-Llama-70B",
        "prompt": "鸡兔同笼，头共20个，足共62只，求鸡与兔各有多少只？"
    }'

from openai import OpenAI

openai_api_key = "EMPTY"
openai_api_base = "http://192.168.0.46:8000/v1"

client = OpenAI(
    api_key=openai_api_key,
    base_url=openai_api_base,
)

models = client.models.list()
model = models.data[0].id

# Round 1
messages = [{"role": "user", "content": "鸡兔同笼，头共20个，足共62只，求鸡与兔各有多少只？"}]
response = client.chat.completions.create(model=model, messages=messages)

reasoning_content = response.choices[0].message.reasoning_content
content = response.choices[0].message.content

print("reasoning_content:", reasoning_content)
print("content:", content)

reasoning_content: 
首先，设鸡的数量为x，兔的数量为y。根据题意，鸡和兔的总头数为20，只数为62。

建立方程组：
x + y = 20
2x + 4y = 62

通过代数方法消元，求解方程组，得出x和y的值。

content: 

**解答：**

设鸡的数量为 \( x \) 只，兔的数量为 \( y \) 只。

根据题意，可以建立以下方程组：

\[
\begin{cases}
x + y = 20 & \text{（头的总数）} \\
2x + 4y = 62 & \text{（足的总数）}
\end{cases}
\]

**步骤1：简化方程**

将第二个方程两边同时除以2，得到：

\[
x + 2y = 31
\]

**步骤2：消元**

用简化后的方程减去第一个方程：

\[
(x + 2y) - (x + y) = 31 - 20
\]

化简得到：

\[
y = 11
\]

**步骤3：回代求解 \( x \)**

将 \( y = 11 \) 代入第一个方程：

\[
x + 11 = 20
\]

解得：

\[
x = 9
\]

**最终答案：**

\[
\boxed{鸡有9只，兔子有11只}
\]