Python 使用 fastapi 框架阻塞问题

12 小时 41 分钟前
 Suger828

fastapi 部署的 web 后端,很多时候会阻塞,前端发请求他一点响应没有 ctrl+ c 一下就动了, gpt 说是同步的一些任务导致的阻塞,但是不可能一直阻塞无论多长时间都不释放吧

623 次点击
所在节点    程序员
11 条回复
hmxxmh
12 小时 32 分钟前
代码贴出来看看
nagisaushio
12 小时 24 分钟前
windows ?
Suger828
12 小时 19 分钟前
Suger828
12 小时 18 分钟前
@hmxxmh 公司代码 不太方便
Suger828
12 小时 9 分钟前
网络连接或 Socket 问题详解
在 Web 服务器中,特别是像 FastAPI/Uvicorn 这样的异步服务器,网络连接和 socket 配置可能会导致您遇到的症状。具体来说:
1. Socket 状态管理问题
当客户端连接到服务器时,会创建一个 socket 连接。这个连接在以下情况可能会出问题:

半开连接(Half-open connections): 当客户端断开连接但服务器没有正确检测到这种情况时,socket 可能处于"半开"状态,占用资源但不再有效。
TIME_WAIT 状态: 当连接关闭后,socket 可能会进入 TIME_WAIT 状态,在一段时间内仍然占用端口。

在 Windows 上,这种 socket 状态管理问题可能更为严重,因为 Windows 的网络堆栈实现与 Unix 系统有所不同。
2. 连接池耗尽
您的服务器可能有一个连接池限制,当所有连接都被占用时,新的请求无法被处理:

默认情况下,许多服务器有最大连接数限制
如果连接没有正确关闭,可能会导致连接池逐渐耗尽

3. SO_REUSEADDR 设置问题
在 Windows 上,socket 选项 SO_REUSEADDR 的行为与 Unix 系统不同:

在 Unix 系统上,它允许绑定到处于 TIME_WAIT 状态的地址
在 Windows 上,它的行为更宽松,允许多个进程绑定到同一地址,可能导致意外行为

4. Windows 特有的阻塞行为
Windows 上的网络 API 在某些情况下可能会表现出异步不友好的阻塞行为:

某些网络操作可能会阻塞事件循环,尽管它们声明是非阻塞的
Windows 的 WSA(Windows Socket API)与标准 BSD sockets 有细微但重要的差异

为什么 Ctrl+C 会"修复"这个问题?
当您按下 Ctrl+C 时,以下事情会发生:

强制关闭活动连接: 所有活动的 socket 连接会被强制关闭
释放端口绑定: 服务器会释放之前绑定的端口
清理半开连接: 半开连接和处于异常状态的 socket 会被清理
重置内部状态: 服务器内部状态会被部分重置,但由于您的服务器没有完全退出,一些组件会继续运行
事件循环重新调度: 事件循环通常会响应中断信号,重新调度任务

这些操作相当于"重置"了服务器的网络状态,允许它重新开始接受新连接。



上面是 ai 回答的不确定对不对
72
8 小时 59 分钟前
多开几个 works 就好了
dcsuibian
8 小时 56 分钟前
不会是 windows 命令行的编辑模式吧
thevita
8 小时 50 分钟前
火焰图照一下,缩小范围,看看有不有没注意到的同步调用.
neoblackcap
8 小时 42 分钟前
是不是有接口是长连接的?然后直接在业务处理的地方进行了 busy loop 的处理?
Suger828
8 小时 4 分钟前
@neoblackcap 有可能
Suger828
8 小时 3 分钟前
@dcsuibian win 命令行哪有编辑模式

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://yangjunhui.monster/t/1132050

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX