网路框架中缓存一般分为内存、硬盘、网络三级缓存。其中网络为服务器缓存,客户端真正的缓存只有内存和硬盘缓存。
为简单起见,下面内存和硬盘缓存统称为缓存。
本节只分析什么时候使用缓存,即下图中的是否走缓存
的内部逻辑,不分析缓存的实现细节与网络实现。
背景与结论
背景
如下简单测试代码
ImageRequest request = new ImageRequest(img, new Response.Listener<Bitmap>() {
@Override
public void onResponse(Bitmap response) {
iv.setImageBitmap(response);
}
}, 600, 600, null, new Response.ErrorListener() {
@Override
public void onErrorResponse(VolleyError error) {
}
});
queue.add(request);
StringRequest stringRequest = new StringRequest(Request.Method.GET, "https://www.baidu.com/", new Response.Listener<String>() {
@Override
public void onResponse(String response) {
tv.setText(response);
}
}, new Response.ErrorListener() {
@Override
public void onErrorResponse(VolleyError error) {
tv.setText(error.getMessage());
}
});
queue.add(stringRequest);
volley使用ImageRequest
和StringRequest
请求数据后,会缓存数据。
断网重启,ImageRequest
会返回缓存的图片,StringRequest
却返回数据失败。
源码可知,Volley默认开启缓存。
那么,StringRequest
是否真的缓存了数据呢?如果缓存了数据,为什么断网情况下获取不到呢?
结论
先上结论:
缓存数据能否在断网情况下正确返回,不取决于是什么类型的Request,而取决于http的Cache-control
。
Cache-control
故名思义,是缓存控制机制。
接口返回的数据是否需要缓存,有如下三种情况:
1.不需要缓存,如baidu.com。它的响应头中Cache-Control
为no-cache
或no-store
。这样它的数据将不会被缓存,每次访问都需要重新获取,即使Volley设置了shouldCache为true。
2.需要缓存,且接口数据长期不变,如图片。故图片请求的响应头中,设置Cache-control
的属性之一max-age
很大。客户端请求时,会优先判断now_time
是否小于max-age
。如果小于,说明缓存仍有效,则取本地缓存数据,不走网络。
3.需要缓存,但接口数据不定时更新,如新闻首页数据(如果新闻首页数据不缓存,不仅浪费流量,还会影响体验;但是缓存,就需要考虑到首页数据的更新时机)。故设置max-age
在本地限制时间就显得不合理。由于数据是否更新只有服务器知道,所以需要依赖返回码。
http提供了俩种方法:
1.响应头返回
ETag
。客户端检测到有ETag
就缓存下来,下次请求该接口时会在请求头里的If-None-Match
带上ETag
。服务端会对比客户端的ETag
和最新的ETag
,不同则说明数据已变更,返回200;否则返回304。
2.响应头返回last-modified
。客户端检测到有last-modified
就缓存下来,下次请求该接口时会在请求头的If-Modified-Since
带上该数据。服务端会对比上次修改的时间和最新修改的时间。如果最新修改的时间要晚于上次修改时间,说明数据已变更,返回200;否则返回304。由于返回304不需要在body里返回数据,只需要对比俩个变量即可,故速度要快很多。
返回码200则从网络获取数据,304则直接从缓存中拿数据。
综上,假设逻辑如下:
有缓存,则走是否用缓存逻辑;
max-age
> 当前时间,从缓存中获取,不需要网络;
max-age
< 当前时间或max-age
为空,则依据返回码200或304(ETag
& last-modified
),来决定取缓存,还是拿网络数据。
这样,就可以解释上述测试代码中,断网重启App,图片可以获取到,而数据获取不到。(从假设逻辑可以看出,对于某些不定时更新数据的接口,即使数据做了缓存,仍然需要联网以确认是否更新。假定无网络,返回码不会为304,故走onErrorResponse,不会取缓存)
那么Volley是否是这样实现的呢?
Volley从源码分析缓存使用时机
为简化逻辑,这里摘录了部分关键代码,不分析Volley的框架结构与执行流程。
首先,Volley从mCacheQueue
中取出Request
,并做如下处理:
1. 判断缓存Cache.Entry
是否为空?
为空:无缓存,跳到第3步
//源码来自CacheDispatcher.run
Cache.Entry entry = mCache.get(request.getCacheKey());
if (entry == null) {
request.addMarker("cache-miss");
mNetworkQueue.put(request);
continue;
}
实际上,Cache.Entry缓存了俩部分内容
一部分是Response.Body,用于返回需要的数据;(有缓存,max-age满足或响应头为304时返回)
一部分是Response.Header,用于再次请求该接口时请求头携带这些数据,如ETag&last-modified;(有缓存,max-age为null或max-age不满足时携带这些数据)
可参考下述逻辑
不为空:有缓存,跳到第2步
2. 判断缓存是否达到max-age?
未达到:从缓存获取数据,流程结束。
//源码来自CacheDispatcher.run
if (entry.isExpired()) {
request.addMarker("cache-hit-expired");
//这里给Request赋值了缓存!
request.setCacheEntry(entry);
mNetworkQueue.put(request);
continue;
}
request.addMarker("cache-hit");
Response<?> response = request.parseNetworkResponse(
new NetworkResponse(entry.data, entry.responseHeaders));
request.addMarker("cache-hit-parsed");
...
mDelivery.postResponse(request, response);
判断是否达到max-age的源码如下:
//源码来自Cache.Entry
public boolean isExpired() {
return this.ttl < System.currentTimeMillis();
}
this.ttl的赋值如下:
//源码来自HttpHeaderParser.parseCacheHeaders
if (hasCacheControl) {
//maxAge单位是s,但是ttl单位是ms,所以需要 * 1000
softExpire = now + maxAge * 1000;
finalExpire = mustRevalidate
? softExpire
: softExpire + staleWhileRevalidate * 1000;
}
...
entry.ttl = finalExpire;
max-age
来自响应头中的Cache-Control
。
Volley
优先判断max-age
,如果当前时间<max-age
,说明数据仍在有效期内,则数据取本地缓存,不走网络。
已达到:max-age已失效,Request赋值缓存,跳到第3步
3. 发起网络请求。
网络请求中,如果有缓存,则请求头携带cache-control
缓存数据;没有则跳过。
请求头携带缓存数据的代码如下:
//源码来自BasicNetwork
addCacheHeaders(headers, request.getCacheEntry());
private void addCacheHeaders(Map<String, String> headers, Cache.Entry entry) {
// If there's no cache entry, we're done.
if (entry == null) {
return;
}
if (entry.etag != null) {
headers.put("If-None-Match", entry.etag);
}
if (entry.lastModified > 0) {
Date refTime = new Date(entry.lastModified);
headers.put("If-Modified-Since", DateUtils.formatDate(refTime));
}
}
请求头携带了俩个数据:
If-None-Match:entry.etag
If-Modified-Since:entry.lastModified
ETag
和lastModified
的用途上面已经说过,服务端会根据这俩个值,来决定返回的响应头为200还是304。
4. 网络请求成功,判断响应头状态码?
304:数据无变更,取缓存,流程结束。
//源码来自BasicNetwork
if (statusCode == HttpStatus.SC_NOT_MODIFIED) {
Entry entry = request.getCacheEntry();
if (entry == null) {
return new NetworkResponse(HttpStatus.SC_NOT_MODIFIED, null,
responseHeaders, true,
SystemClock.elapsedRealtime() - requestStart);
}
entry.responseHeaders.putAll(responseHeaders);
return new NetworkResponse(HttpStatus.SC_NOT_MODIFIED, entry.data,
entry.responseHeaders, true,
SystemClock.elapsedRealtime() - requestStart);
}
200:网络获取数据,流程结束。
结论
缓存的使用机制为:
关于缓存保存时机:
这里浅谈下Cache.Entry
缓存数据的保存时机。
如果重写过Volley的Request
,就会发现有个方法需要重写:
@Override
protected Response<String> parseNetworkResponse(NetworkResponse response) {
}
它会在NetworkDispatcher
调用,用于将Volley内部的NetworkResponse
转为外部可用的Response
:
Response<?> response = request.parseNetworkResponse(networkResponse);
所有重写的parseNetworkResponse
,最后都会如下生成返回的Response
:
return Response.success(parsed, HttpHeaderParser.parseCacheHeaders(response));
其中,HttpHeaderParser.parseCacheHeaders()
把Header和Body转为了Cache.Entry
:
同时也可以看到,Volley对于no-cache
或no-store
,直接返回null,不缓存,遵从http机制。
public static Cache.Entry parseCacheHeaders(NetworkResponse response) {
long now = System.currentTimeMillis();
Map<String, String> headers = response.headers;
long serverDate = 0;
long lastModified = 0;
long serverExpires = 0;
long softExpire = 0;
long finalExpire = 0;
long maxAge = 0;
long staleWhileRevalidate = 0;
boolean hasCacheControl = false;
boolean mustRevalidate = false;
String serverEtag = null;
String headerValue;
headerValue = headers.get("Date");
if (headerValue != null) {
serverDate = parseDateAsEpoch(headerValue);
}
headerValue = headers.get("Cache-Control");
if (headerValue != null) {
hasCacheControl = true;
String[] tokens = headerValue.split(",");
for (int i = 0; i < tokens.length; i++) {
String token = tokens[i].trim();
if (token.equals("no-cache") || token.equals("no-store")) {
return null;
} else if (token.startsWith("max-age=")) {
try {
maxAge = Long.parseLong(token.substring(8));
} catch (Exception e) {
}
} else if (token.startsWith("stale-while-revalidate=")) {
try {
staleWhileRevalidate = Long.parseLong(token.substring(23));
} catch (Exception e) {
}
} else if (token.equals("must-revalidate") || token.equals("proxy-revalidate")) {
mustRevalidate = true;
}
}
}
headerValue = headers.get("Expires");
if (headerValue != null) {
serverExpires = parseDateAsEpoch(headerValue);
}
headerValue = headers.get("Last-Modified");
if (headerValue != null) {
lastModified = parseDateAsEpoch(headerValue);
}
serverEtag = headers.get("ETag");
// Cache-Control takes precedence over an Expires header, even if both exist and Expires
// is more restrictive.
if (hasCacheControl) {
softExpire = now + maxAge * 1000;
finalExpire = mustRevalidate
? softExpire
: softExpire + staleWhileRevalidate * 1000;
} else if (serverDate > 0 && serverExpires >= serverDate) {
// Default semantic for Expire header in HTTP specification is softExpire.
softExpire = now + (serverExpires - serverDate);
finalExpire = softExpire;
}
Cache.Entry entry = new Cache.Entry();
entry.data = response.data;
entry.etag = serverEtag;
entry.softTtl = softExpire;
entry.ttl = finalExpire;
entry.serverDate = serverDate;
entry.lastModified = lastModified;
entry.responseHeaders = headers;
return entry;
}
最后,它会在NetworkDispatcher
中,在分发回调Listener之前被缓存:
if (request.shouldCache() && response.cacheEntry != null) {
mCache.put(request.getCacheKey(), response.cacheEntry);
request.addMarker("network-cache-written");
}
request.markDelivered();
mDelivery.postResponse(request, response);
mChche
,就是缓存使用时机第一步中缓存的获取来源,同时也是Volley构造函数中熟悉的DiskBasedCache
,用于内存和硬盘缓存,其实现机制本节暂不分析。
总结
首先,缓存的使用机制,不是无脑的有缓存就从内存获取、从硬盘获取这么简单。因为不可缓存接口、数据不定时变更接口的存在,需要对缓存的使用有特殊的逻辑判断。
正确的来讲,从内存、硬盘的获取属于缓存的get和set逻辑,而不是使用机制。二级缓存应该属于上图中的
缓存获取数据
的内部实现
即,本节描述是否走缓存的内部逻辑。不涉及网络部分和内存、硬盘缓存。
其次,可以发现,之前假设的逻辑和volley内部的实现无出其右。
响应头max-age
、响应头last-modified
、响应头ETag
、请求头If-None-Match
、请求头If-Modified-Since
都是http规定的Cache-control
机制,Volley内部只是根据这些机制实现了缓存的使用与存储逻辑。
所以,只要熟知http的这些规则,便可以定制自己的网络缓存框架。
下面附加接口的各种场景和Cache-control在该场景下如何使用:
情景 | Respon | 用途 | 举例 |
---|---|---|---|
接口不缓存 | no-cache no-store | 用于普通网页,直接走网络 | baidu.com |
接口缓存且长期不变 | max-age | 用于图片等长久不变的数据,直接取本地缓存 | 图片 |
接口缓存且数据每次都变的 | private 200 | 用于断网、初次启动需要显示缓存数据,但接口获取成功显示最新数据 | 凤凰新闻首页 |
接口缓存且数据不定时更新 | ETag Last-Modified 200 304 | 用于接口数据不变时,取缓存;反之走网络。(断网、初次启动是否先取缓存视情况而定) | 游民首页 |
凤凰新闻首页的数据每次刷新都在变化,这就要求:
本地缓存,用于断网、初次进入展示;但服务器又不必判断ETag,因为服务器已知数据是每次都变的。
- Response使用private,表示本地走缓存;
- Response不使用ETag、last-modified —> 客户端不缓存ETag、last-modified —> 客户端Request不携带ETag、last-modified —> 服务器不判断 —> 304不存在,所以只要接口Response不返回ETag、last-modified即可实现服务器与客户端俩端取消304逻辑。然后200,更新数据。
另外前文说过,即使缓存了数据,也只有在304才会返回而不会立即返回。故对于断网、初次启动获取缓存数据,可以如下提前获取:
Cache.Entry entry = queue.getCache().get(stringRequest.getCacheKey());
。这个代码通过阅读源码即可知道。
后续会依次研究内存和硬盘缓存的实现原理、多线程与网络。