多谢各位朋友。cf 恶毒的人机验证，好像 header 里的验证信息每隔一段时间就会过期，导致文件还没下完就中断了。它的服务器既不支持断点续存也不支持多线程，好像无解了。

有点远了🥲

开个 CDN 还要加客户经理微信才给开权限

还是教育网好，虽然最后大多也是跳到运营商国际出口，但基本没丢包

@0x3933030 #7 再加载另一个模型的话，ollam 会优先放在空闲的卡上。但是单模型不知道为什么就是推理速度起不来

vLLM 现在有 json mode 了吗

@1119745302 #1 这个跟后端没太大关系吧，直接用的 python 调的 ollama 的库

@nuhou 可以的，也有通关小票 #15

@MrOops 我这里就没封……移动

有没有可能，下雨天大家都在家，网络负载高🤔

清缓存。

当主路由都没问题

现在在用 qwen110b 做实体抽取+推理，感觉跟 gpt4o 还是差很多

方案一，套了个 CDN

还以为是 ai 直接猜到我要导航去那里（

我这儿上下对等 1000M ，可惜 NAT4

走 CERNET ，什么 CN2 都是弟弟

3.5 还没降，还是 120k

@Clv 可以了。现在注册都放的很宽，不需要手机号验证了都。