c# YARP 反向代理的并发模型和性能调优

YARP并发性能取决于Kestrel入站处理与HttpClient出站代理的协同,需复用HttpClient、合理配置MaxConnectionsPerServer(100~500)、缩短Timeout、选用PowerOfTwoChoices负载策略,并监控连接数与文件句柄限制。

c# yarp 反向代理的并发模型和性能调优

YARP 的并发模型基于 ASP.NET Core 的 Kestrel + HttpClient 组合

YARP 本身不维护独立的线程池或连接池,它复用 ASP.NET Core 底层的 Kestrel 服务器处理入站请求,并通过 HttpClient(默认是 HttpMessageInvoker)发起出站代理请求。这意味着它的并发能力直接受限于:Kestrel 的连接队列、ThreadPool 的工作线程调度、以及后端 HttpClient 实例的连接复用与超时策略。

常见错误现象包括:高并发下大量 503 Service Unavailable、后端服务日志显示连接被拒绝、HttpClientSocketException: Too many open files(Linux)或 WinHttpSendRequest failed: 12029(Windows)。

  • HttpClient 必须复用——每个路由不应 new 新实例;推荐使用 IHttpClientFactory 注册命名客户端
  • 避免在 Transforms 中做同步阻塞操作(如 File.ReadAllText),会卡住 Kestrel 线程
  • YARP 默认启用 ConnectionPool,但池大小由 HttpClientHandler.MaxConnectionsPerServer 控制,默认是 int.MaxValue(.NET 6+),实际受限于 OS 文件句柄数

关键配置项:HttpClientHandler 和 YARP Cluster 设置

性能瓶颈往往出现在出站连接控制不当。YARP 的 Cluster 配置决定了如何将请求分发到多个后端节点,而底层 HttpClientHandler 决定了单个后端能维持多少并发连接。

以下配置需在 appsettings.json 或代码中显式设置:

kgogoprime

kgogoprime

KGOGOMall 是一套采用 Php + MySql 开发的基于 WEB 应用的 B/S 架构的B2C网上商店系统。具有完善的商品管理、订单管理、销售统计、新闻管理、结算系统、税率系统、模板系统、搜索引擎优化,数据备份恢复,会员积分折扣功能,不同的会员有不同的折扣,支持多语言,模板和代码分离等,轻松创建属于自己的个性化用户界面。主要面向企业和大中型网商提供最佳保障,最大化满足客户目前及今后的独立

下载

  • HttpClientHandler.MaxConnectionsPerServer:建议设为 100~500(视后端吞吐能力而定),过高易触发 OS 限制;过低则连接复用率下降,增加 TLS 握手开销
  • HttpClient.Timeout:YARP 默认为 100s,但应按后端 SLA 缩短(如 30s),避免请求堆积
  • Cluster.LoadBalancingPolicy:生产环境慎用 Random,优先选 PowerOfTwoChoices(降低尾延迟)或 LeastRequests(需启用健康检查)
  • HealthCheck.Active.HealthCheckTimeout:若开启主动健康检查,超时值必须小于 HttpClient.Timeout,否则健康检查自身会拖慢故障发现

诊断高并发问题的三个必查点

当压测出现吞吐不升反降、延迟毛刺增多时,不要只看 YARP 日志。真正瓶颈常藏在底层资源上。

  • 检查 dotnet-counters monitor -p --counters Microsoft.AspNetCore.Hosting,Microsoft.Net.Http.Connections,重点关注 ActiveRequestsCurrentConnections 是否持续高位
  • 确认后端服务是否启用了连接复用(如 Nginx 的 keepalive 32)、TLS session resumption 是否开启(减少握手耗时)
  • Linux 下运行 lsof -p | wc -l 查看进程打开文件数,对比 ulimit -n;若接近上限,需调大 MaxConnectionsPerServer 或优化连接生命周期

一个典型的高性能 YARP HttpClient 配置示例

下面是在 Program.cs 中注册带精细控制的 HttpClient 的方式,适用于多数中高流量场景:

builder.Services.AddReverseProxy()
    .ConfigureHttpClient((context, client) =>
    {
        client.Timeout = TimeSpan.FromSeconds(30);
        client.DefaultRequestHeaders.UserAgent.ParseAdd("YARP/2.0");
    })
    .AddTransforms(builder =>
    {
        builder.UseRequestTransform(async transformContext =>
        {
            // 避免在此处 await Task.Delay 或 I/O 操作
            transformContext.ProxyRequest.Headers.Host = transformContext.Destination.ParsedUri.Authority;
        });
    });

// 显式配置 handler,避免依赖默认值
builder.Services.AddSingleton(sp =>
{
    var handler = new SocketsHttpHandler
    {
        MaxConnectionsPerServer = 200,
        PooledConnectionLifetime = TimeSpan.FromMinutes(5),
        PooledConnectionIdleTimeout = TimeSpan.FromMinutes(2),
        KeepAlivePingDelay = TimeSpan.FromSeconds(30),
        KeepAlivePingTimeout = TimeSpan.FromSeconds(5),
        EnableMultipleHttp2Connections = true
    };
    return new HttpMessageInvoker(handler, disposeHandler: true);
});

注意:HttpMessageInvoker 必须设为 Singleton,且 disposeHandler: true ——YARP 会在应用关闭时统一释放。手动 new HttpClient 或重复注册 handler 是最常被忽略的性能陷阱。

https://www.php.cn/faq/1967929.html

发表回复

Your email address will not be published. Required fields are marked *