如何解决nginx对gzip压缩而出现的弱ETag的问题

我正在尝试在nginx中压缩某些端点的响应体。问题在于nginx将上游应用程序生成的ETag标记为弱(以"W/"为前缀)。上游应用程序尚不支持弱ETag(spring版本<4.3)。当客户端发送弱ETag时,它将无法与应用程序计算的强ETag匹配,我看不到304状态,只有一个带有正文的200。即使应用程序具有弱ETag,管理一层中的压缩要比修改所有应用程序,升级它们并且现在启用弱标签更容易。

我正在尝试两个选项:

1.当上游服务器发送强ETag并且nginx gzip将其修改为弱ETag时,尝试使用nginx lua API将其修改回强。

2.当客户端发送弱ETag返回时,去掉弱ETag标识符("W/")并将请求转发给应用程序。

在nginx配置和lua API使用上,我一定做错了什么,未能实现这一点。这个问题是关于选项1的。

Nginx配置:

  location /test/compression {
  proxy_pass              http://upstream_server:8080/someapi;
  proxy_redirect          default;
  proxy_set_header        X-Real-IP               $remote_addr;
  proxy_set_header        X-Forwarded-For         $proxy_add_x_forwarded_for;

  include compression.conf;

  header_filter_by_lua_block {
          ngx.header["ETag"] = string.substring(ngx.header["ETag"], 2);
      }
  }

compression.conf

gzip on;
gzip_http_version 1.0;
gzip_proxied any;
gzip_types application/json application/octet-stream;
gzip_min_length 10000;
gzip_comp_level 7;

实际结果:nginx日志中的错误:

nginx  | 2019/03/21 14:11:06 [error] 38#38: *8 failed to run header_filter_by_lua*: header_filter_by_lua:2: attempt to call field 'substring' (a nil value)
nginx  | stack traceback:
nginx  |    header_filter_by_lua:2: in function <header_filter_by_lua:1> while reading response header from upstream, client: 127.0.0.1, server: _, request: "GET /test/compression HTTP/1.1", upstream: "http://upstream_server:8080/someapi", host: "localhost:9696"

期望结果:响应客户端的强ETag

也尝试了另一种方法,在经过此步骤后检索ETag头:nginx - read custom header from upstream server

  location /test/compression {
  proxy_pass              http://upstream_server:8080/someapi;
  proxy_redirect          default;
  proxy_set_header        X-Real-IP               $remote_addr;
  proxy_set_header        X-Forwarded-For         $proxy_add_x_forwarded_for;

  include compression.conf;
  set $etag $upstream_http_etag

  header_filter_by_lua_block {
          ngx.header["ETag"] = string.substring(ngx.var.etag, 2);
      }
  }

同样的错误。

点赞
用户11244348
用户11244348

最终,我选择在客户端修改“If-None-Match”请求头。

  1. 如果客户端在“If-None-Match”请求头中发送了一个弱ETag,则使用lua在nginx重写阶段将其修改为强ETag,或者设置nginx指令。
  2. 如果客户端在“If-None-Match”请求头中发送了一个强ETag,则保持不变。
  3. 如果从上游返回304响应,则不会调用nginx gzip模块,并且强ETag将返回到客户端。为了处理这个问题,我保留了header_filter_by_lua_block块,以便将304响应转换为弱ETag。

这个解决方案对我有效。欢迎提出更好的建议。

2019-04-04 21:22:38
用户5676721
用户5676721

每当Nginx修改响应主体时(包括压缩内容),它会“削弱”ETag响应头(参见此代码搜索)。

为了防止这种情况发生,您可以禁用gzip模块( gzip off)或者如果您预先了解特定的内容类型,可以尝试排除它们。

另一个选择是有些hacky- 尝试将 Content-Encoding: identity 添加到响应头中(仅当第一次没有内容编码头时)。

我没有尝试过,但是阅读源代码,它应该可以工作:

ngx_http_gzip_filter_module.c L220

```
如果(!conf->enable
||(r->headers_out.status!=NGX_HTTP_OK
    && r->headers_out.status!=NGX_HTTP_FORBIDDEN
    && r->headers_out.status!=NGX_HTTP_NOT_FOUND)
||(r->headers_out.content_encoding
    && r->headers_out.content_encoding->value.len)
||(r->headers_out.content_length_n!= -1
    && r->headers_out.content_length_n < conf->min_length)
|| ngx_http_test_content_type(r,&conf->types)== NULL
|| r->header_only)
{
    返回ngx_http_next_header_filter(r);
}
```
2020-08-08 02:44:23