上游 QingdaoU/JudgeServer 停更在 2024-04(registry 上的 latest 和 1.6.1 是同一份 镜像,编译器停在 gcc-13),没有新版可拉,所以自己重编。docker/judge/ 是只改工具链 的 Dockerfile 分叉,server/ 和 Judger/ 从上游固定 commit b28aa56 拉,一行没动。 镜像 oj2-judge-2(不在任何 registry 上:本机 build.sh --save → scp → docker load) - gcc/g++ 13 → 14.2,Python 3.12 → 3.13.5,都是 trixie 默认 - Go / JDK / Node 整套删掉:前端的题目语言复选框从来只给 C / C++ / Python / SQL, 12 万条提交里 Java 44 条、Golang 15、JavaScript 3,全是很早以前的 - 体积 1.1GB → 433MB;默认走清华源,构建 12 分钟 → 40 秒(--no-mirror 换回官方) - deploy.sh 加一道自检:镜像不在本机就中止,并打印该跑的三条命令 C 的编译参数加三个 -Wno-error(implicit-function-declaration / int-conversion / incompatible-pointer-types):gcc-14 把它们从 warning 提成了 error,而 -w 压不住。 语言值统一成 Python(迁移 0019 / 0020) - 0019:Python3(104527 条提交)与 Python2(3 条)并成 Python,一并改掉 937 道题的 languages、75 个 template 键、15 个 ast_rules 键、257 条 answers、1235 个用户的 成就指标 _languages(languages_used 重算,总和 1928 → 1925,少的 3 个是同时用过 两种 Python 的人) - 0020:把 Java / JavaScript / Golang 从 84 道题的可选语言里摘掉 —— 不摘的话那些题 的语言下拉还能选 Java,提交必 SYSTEM_ERROR - 契约新增 normalizeLanguage() 别名表,判题侧一律走 judgeConfigFor():旧客户端 localStorage 里的 Python3、迁移前排进队列的任务都还能判;协作的语言归一也走它, 否则上线那一刻学生页面里的 Python3 会静默落到 C - 回滚要连数据一起回,只滚代码会让所有 Python 提交变 SYSTEM_ERROR 实跑 - 判题冒烟 docker/judge/smoke.ts 13 条全过:三种语言、六种状态码、gcc 宽松度 - 拿备份里的真实代码逐文件比对新旧镜像的编译结果,0 差异:C 提交 1951 份 (1725 过 / 226 CE)、C++ 882 份、Python 2000 份、20 篇 C 教程的 93 个代码块。 不加那三个 -Wno-error 的话,C 有 26 份会从能过变成 CE - 迁移在灌了 12.4 万行真实数据的一次性库里跑过:0 残留、没有题目被清空; dev 库用真正的执行器跑通 - check:ast 56 个 target 全过,前后端 typecheck 均 0 顺带记下一个升级之前就有的坑(现在随 Go 一起消失,写在 README 里):GOCACHE 指向 容器的 tmpfs,判题机重启后第一次 Go 提交是冷构建,Go 1.22 要 5.6 秒 CPU、超过 3 秒 的编译预算,于是重启后第一个交 Go 的学生必吃一次 CE,后面的人缓存热了又都正常。 Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
7.2 KiB
部署
现行部署形态与操作。具体变量怎么填看 docker/.env.example,那份注释是权威;
这里只写它装不下的东西:两个站点的拓扑、上线的两条路、出事时的退路。
拓扑
服务器(oj.xuyue.cc) |
机房 | |
|---|---|---|
| compose | docker/compose.debian.yml |
docker/compose.school.yml |
| env | docker/.env |
docker/.env.school |
| 库 | 本机 postgres(旧栈起的,原地没动) | 没有,连服务器那台的 5445 |
| Redis / 判题沙箱 | 各自一套 | 各自一套 |
| 对外 | NPM 反代 → WEB_PORT |
http 直连 IP,端口 81 |
两个站点共用一个数据库,所以结构变更对两边同时生效;但判题队列(BullMQ 在本地 Redis)和 WebSocket 推送(本地 pub/sub)是每站独立的 —— 学生在哪边提交就在哪边判、 推送也只推得到连在本站的人。这和旧栈 Dramatiq + Channels 的拓扑一致,不是回归。
机房那套 COOKIE_SECURE=false:走 http 直连 IP,带 Secure 的 Cookie 浏览器不回传,
表现是「登录成功又立刻变未登录」。
三种数据形态
compose.debian.yml 靠 env 切换,判据是 DB_HOST:
- 外接数据(线上就是这个):设
DATA_DIR/DB_HOST/REDIS_HOST, 沿用已经在跑的 postgres 和 redis,本栈只起 api / worker / web / judge。 - 自带数据(本机、演练):那几个变量留空,起栈时加
--profile local-data。 - 试跑形态额外要
WEB_PORT和JUDGE_STATE_DIR(两个判题机不能共用运行目录)。
⚠️ DATA_DIR 默认值 ../data 是 OJ2/data,不是部署目录的 data/。
沿用旧数据却忘了设它,会静默挂上一堆空目录:空库、没测试点、题面图片 404,
而且不报错。这是整个部署里唯一会静默走歪的地方,deploy.sh 专门为它设了一道自检。
上线
服务器:push 就部署
.github/workflows/deploy.yml —— 在 runner 上编好产物、rsync 到服务器、在服务器上
跑 docker/deploy.sh --prebuilt。触发的是 push 到 github 这个 remote
(origin 是 git.xuyue.cc,平时那次 push 不触发):
git push github main
产物在 runner 上编是因为服务器性能差(首次构建约 5 分钟,光前端就 160s)。
服务器自己编的能力没有砍掉:不带 --prebuilt 就是原来的行为,只要有 docker
就能手动部署,不依赖 CI。
手工部署(机房、或 CI 不可用时)
cd /root/OJDeploy/OJ2
docker/deploy.sh # 自检 → 构建 → 迁移 → 起栈 → 冒烟
docker/deploy.sh --check # 只自检,只读,不动任何容器
docker/deploy.sh --no-build # 只改了 env / compose 时跳过构建
代码怎么上到服务器不归它管(rsync 命令在脚本头部注释里)。
脚本起栈前有一串自检,每一条都是真撞到过的:compose 版本 ≥ 2.20、DATA_DIR
有没有生效、库指向和形态是否自洽、判题机运行目录有没有和旧栈分开、外接的
postgres / redis 是否活着。起完再跑四条冒烟,题目数是 0 也中止 —— 那意味着连错库了。
判题镜像是自建的,不在 registry 上
compose.*.yml 里的 oj2-judge-2 是本机构建的(上游 JudgeServer 停更在
2024-04,官方镜像的编译器停在 gcc-13)。新机器或换镜像之后,先把镜像 load 进去
再部署:
# 本机
docker/judge/build.sh --save
scp dist/oj2-judge-2.tar root@服务器:/root/OJDeploy/
# 服务器 / 机房各来一次(两个站点各有各的判题沙箱)
docker load -i /root/OJDeploy/oj2-judge-2.tar
忘了这一步,deploy.sh 起栈时会去 pull 一个不存在的镜像并失败(响亮地失败,
不会静默降级)。构建、回滚和工具链版本表见 docker/judge/README.md。
迁移在起栈之前跑
deploy.sh 在「构建镜像」之后、「起栈」之前跑 oj2-api migrate,失败就中止部署
(旧容器原样还在跑)。所以不需要给 GitHub 配数据库凭据,也不用把生产库对外开放。
破坏性迁移(DROP TABLE / DROP COLUMN / ALTER COLUMN ... TYPE / TRUNCATE)
会让部署停在这一步并退出 4,放行的三条路见 docs/database.md。
部署后验证
命令能测的(服务器 WEB_PORT,机房 81):
BASE=http://localhost:8080
curl -s -o /dev/null -w '首页 %{http_code}\n' $BASE/
curl -s -o /dev/null -w '站点配置 %{http_code}\n' $BASE/api/site
curl -s -o /dev/null -w '题目列表 %{http_code}\n' $BASE/api/problems
curl -s -o /dev/null -w '未登录进后台 %{http_code}\n' $BASE/api/admin/dashboard # 期望 401
两个失败模式的症状别搞混:
- 题目列表
"total":0→ 连错库了(DB_HOST没设,或误加了--profile local-data起了个自带的空 postgres)。立刻停下来查。 - 库是对的,但判题全错、题面图片 404 →
DATA_DIR指错了。
命令测不到、必须手点的:登录 → 提交一道题看结果实时刷出来(这一步同时验证 WebSocket)→ 后台判题机列表在线 → 后台题目列表翻页 → 带图片的题面能显示。 机房额外确认一条:登录之后刷新还是登录态。
NPM 反代
一次性配好的,只有改了 WEB_PORT 才要回去动端口。另外两项别关:
| 项 | 值 | 关了会怎样 |
|---|---|---|
| Websockets Support | 开 | 页面一切正常,唯独学生盯着的「判题中…」永远不动 |
client_max_body_size |
200M |
后台上传测试用例压缩包失败(和 Caddyfile 的 200MiB 对齐) |
| SSL | 签证书 | COOKIE_SECURE=true 依赖 https |
备份与灾难恢复
docker/backup-db.sh 走 pg_dumpall 全量(所有库 + 所有角色),带校验和保留策略。
恢复时有两条只在现场才暴露的坑:
pg_dumpall的备份会覆盖数据库口令。 里面带ALTER ROLE onlinejudge ... PASSWORD, 恢复完 compose 里的POSTGRES_PASSWORD就对不上了,报的是password authentication failed,看起来和恢复毫不相干。恢复后要么把POSTGRES_PASSWORD改成备份当时的口令,要么手动ALTER ROLE。- 恢复前必须先停应用。 应用连着库时 dump 里的
DROP DATABASE会失败 (database "onlinejudge" is being accessed by other users),接下来就是满屏主键冲突。 先停 oj-api / oj-worker,再恢复。
旧栈已经不可逆地下线(
0002_drop_django_leftovers删掉了 Django 的框架表并已在 生产库执行完毕),所以「停新栈起旧栈」不再是退路,唯一退路是从数据库备份恢复。
镜像体积
| 镜像 | 体积 | |
|---|---|---|
oj2-api |
487MB | 其中 clang-format(apt)269MB、二进制 112MB、基底 79MB、ruff 28MB |
oj2-web |
75MB |
一半以上是 clang-format 拖进来的 LLVM(libLLVM.so 一个就 124MB)。设计文档当初写的
「降至数十 MB」没做到,就是漏算了它。想再瘦只有一条路:换成 PyPI 那个静态链接的
clang-format 独立二进制,能砍掉约 265MB。没做 —— 镜像是各站点本地构建的、不走镜像仓库,
磁盘不是瓶颈。