JD-hotkey轻量级热key探测框架 v1.0 bulid20201231

JD-hotkey是京东APP后台热数据探测框架，历经多次高压压测和2020年京东618大促考验。在上线运行的这段时间内，每天探测的key数量数十亿计，精准捕获了大量爬虫、刷子用户，另准确探测大量热门商品并毫秒级推送到各个服务端内存，大幅降低了热数据对数据层的查询压力，提升了应用性能。


对任意突发性的无法预先感知的热点请求，包括并不限于热点数据（如突发大量请求同一个商品）、热用户（如爬虫、刷子）、热接口（突发海量请求同一个接口）等，进行毫秒级精准探测到。 然后对这些热数据、热用户等，推送到该应用部署的所有机器JVM内存中，以大幅减轻对后端数据存储层的冲击，并可以由客户端决定如何使用这些热key（譬如对热商品做本地缓存、对热用户进行拒绝访问、对热接口进行熔断或返回默认值）。 这些热key在整个应用集群内保持一致性。


核心功能：热数据探测并推送至集群各个服务器


JD-hotkey适用场景：
1、mysql热数据本地缓存
2、redis热数据本地缓存
3、黑名单用户本地缓存
4、爬虫用户限流
5、接口、用户维度限流
6、单机接口、用户维度限流限流
7、集群用户维度限流
8、集群接口维度限流