sgl-router: experimental Rust HTTP router for SGLang worker pools (#25851)
Co-authored-by: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
This commit is contained in:
co-authored by
Claude Opus 4.7
parent
aae04b1241
commit
6e8fe176be
@@ -0,0 +1,232 @@
|
||||
[
|
||||
{
|
||||
"name": "single_full_block",
|
||||
"tokens": [
|
||||
1,
|
||||
2,
|
||||
3,
|
||||
4
|
||||
],
|
||||
"block_size": 4,
|
||||
"expected_i64_hashes": [
|
||||
-3488128144981237669
|
||||
]
|
||||
},
|
||||
{
|
||||
"name": "partial_last_block",
|
||||
"tokens": [
|
||||
1,
|
||||
2,
|
||||
3,
|
||||
4,
|
||||
5
|
||||
],
|
||||
"block_size": 4,
|
||||
"expected_i64_hashes": [
|
||||
-3488128144981237669,
|
||||
-3787494577174227566
|
||||
]
|
||||
},
|
||||
{
|
||||
"name": "multi_block",
|
||||
"tokens": [
|
||||
10,
|
||||
20,
|
||||
30,
|
||||
40,
|
||||
50,
|
||||
60,
|
||||
70,
|
||||
80
|
||||
],
|
||||
"block_size": 2,
|
||||
"expected_i64_hashes": [
|
||||
978178666101069530,
|
||||
-895308556211281782,
|
||||
-8033692805846017938,
|
||||
835415944263129316
|
||||
]
|
||||
},
|
||||
{
|
||||
"name": "empty_tokens",
|
||||
"tokens": [],
|
||||
"block_size": 4,
|
||||
"expected_i64_hashes": []
|
||||
},
|
||||
{
|
||||
"name": "block_size_one",
|
||||
"tokens": [
|
||||
7,
|
||||
8,
|
||||
9
|
||||
],
|
||||
"block_size": 1,
|
||||
"expected_i64_hashes": [
|
||||
-1702009526849766914,
|
||||
903318264012984157,
|
||||
-8265893088400908305
|
||||
]
|
||||
},
|
||||
{
|
||||
"name": "odd_boundary",
|
||||
"tokens": [
|
||||
100,
|
||||
200,
|
||||
300,
|
||||
400,
|
||||
500,
|
||||
600,
|
||||
700
|
||||
],
|
||||
"block_size": 3,
|
||||
"expected_i64_hashes": [
|
||||
-7293070039731858224,
|
||||
-5869816562584529365,
|
||||
7513319606423624955
|
||||
]
|
||||
},
|
||||
{
|
||||
"name": "long_sequence",
|
||||
"tokens": [
|
||||
1,
|
||||
2,
|
||||
3,
|
||||
4,
|
||||
5,
|
||||
6,
|
||||
7,
|
||||
8,
|
||||
9,
|
||||
10,
|
||||
11,
|
||||
12,
|
||||
13,
|
||||
14,
|
||||
15,
|
||||
16,
|
||||
17,
|
||||
18,
|
||||
19,
|
||||
20,
|
||||
21,
|
||||
22,
|
||||
23,
|
||||
24,
|
||||
25,
|
||||
26,
|
||||
27,
|
||||
28,
|
||||
29,
|
||||
30,
|
||||
31,
|
||||
32,
|
||||
33,
|
||||
34,
|
||||
35,
|
||||
36,
|
||||
37,
|
||||
38,
|
||||
39,
|
||||
40,
|
||||
41,
|
||||
42,
|
||||
43,
|
||||
44,
|
||||
45,
|
||||
46,
|
||||
47,
|
||||
48,
|
||||
49,
|
||||
50,
|
||||
51,
|
||||
52,
|
||||
53,
|
||||
54,
|
||||
55,
|
||||
56,
|
||||
57,
|
||||
58,
|
||||
59,
|
||||
60,
|
||||
61,
|
||||
62,
|
||||
63,
|
||||
64,
|
||||
65,
|
||||
66,
|
||||
67,
|
||||
68,
|
||||
69,
|
||||
70,
|
||||
71,
|
||||
72,
|
||||
73,
|
||||
74,
|
||||
75,
|
||||
76,
|
||||
77,
|
||||
78,
|
||||
79,
|
||||
80,
|
||||
81,
|
||||
82,
|
||||
83,
|
||||
84,
|
||||
85,
|
||||
86,
|
||||
87,
|
||||
88,
|
||||
89,
|
||||
90,
|
||||
91,
|
||||
92,
|
||||
93,
|
||||
94,
|
||||
95,
|
||||
96,
|
||||
97,
|
||||
98,
|
||||
99,
|
||||
100,
|
||||
101,
|
||||
102,
|
||||
103,
|
||||
104,
|
||||
105,
|
||||
106,
|
||||
107,
|
||||
108,
|
||||
109,
|
||||
110,
|
||||
111,
|
||||
112,
|
||||
113,
|
||||
114,
|
||||
115,
|
||||
116,
|
||||
117,
|
||||
118,
|
||||
119,
|
||||
120,
|
||||
121,
|
||||
122,
|
||||
123,
|
||||
124,
|
||||
125,
|
||||
126,
|
||||
127,
|
||||
128
|
||||
],
|
||||
"block_size": 16,
|
||||
"expected_i64_hashes": [
|
||||
8635429971592222890,
|
||||
1256577331724852459,
|
||||
5689809685380680247,
|
||||
3927976462491479733,
|
||||
5639345789331840936,
|
||||
-4601255381563393033,
|
||||
3368460852864325515,
|
||||
1233425155141659070
|
||||
]
|
||||
}
|
||||
]
|
||||
Reference in New Issue
Block a user