Cache中间件和缓存降级
阅读原文时间:2023年07月11日阅读:1

Cache中间件和缓存降级

1、前言

surging受到不少.net同学的青睐,也提了不少问题,提的最多的是什么时候集成API 网关,在这里回答大家最近已经开始着手研发,应该在1,2个月内会有个初版API网关,其它像Token身份验证,限流降级等功能完成时间会往后推

最近也更新了surging新的版本

更新内容:

1. Cache中间件基于Redis 所依赖的第三方库已将servicestack.redis转成stackexchange 
2. 增加缓存降级
3. 增加拦截缓存降级的例子

开源地址:https://github.com/dotnetcore/surging

2.软件环境

IDE:Visual Studio 2017 15.3 Preview ,vscode
框架:.NET core 2.0

vscode 技术支持:

周松柏(zsbfre)

3、Cache中间件的使用

剥析surging的架构思想这篇文章中大致提了下Cache中间件,大家也对Cache中间件有了初步印象,这一节我们将谈谈怎么使用Cache中间件

1.创建配置文件

cacheSettings.json

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

{

"CachingSettings"``: [

{

"Id"``: "ddlCache"``,

"Class"``: "Surging.Core.Caching.RedisCache.RedisContext,Surging.Core.Caching"``,

"Properties"``: [

{

"Name"``: "appRuleFile"``,

"Ref"``: "rule"

},

{

"Name"``: "dataContextPool"``,

"Ref"``: "ddls_sample"``,

"Maps"``: [

{

"Name"``: "Redis"``,

"Properties"``: [

{

"value"``: "127.0.0.1:6379::1"

}

]

},

{

"Name"``: "MemoryCache"

}

]

},

{

"Name"``: "defaultExpireTime"``,

"value"``: "120"

},

{

"Name"``: "connectTimeout"``,

"Value"``: "120"

},

{

"Name"``: "minSize"``,

"Value"``: "1"

},

{

"Name"``: "maxSize"``,

"Value"``: "10"

}

]

}

]

}

可以支持多个实例配置通过配置id来标识唯一,并且通过配置Maps,来初始化服务节点列表,通过哈希一致性来选择服务节点

配置参数列表

参数

作用

CachingSettings

包含多个实例的父级配置节

Id

唯一标识

Class

对于Context的适配

Properties

Cache 相关配置节

Maps

配置服务节列表

minSize

对象池最小数

maxSize

objectpool最大数

2.代码配置

    /// <summary>  
    /// 配置缓存服务  
    /// </summary>  
    public static void ConfigureCache(IConfigurationBuilder build)  
    {  
        build  
          .AddCacheFile("cacheSettings.json", optional: false);  
    }   

以上我们就完成了缓存中间件配置,接下来就可以通过以下代码进行调用

基于redis的缓存调用

1

cacheProvider = CacheContainer.GetInstances<ICacheProvider>(“ddlCache.Redis”);

基于MemoryCache的缓存调用

CacheContainer.GetInstances("MemoryCache")

4、缓存降级

对于服务所返回的数据,有些是不需要经常修改,可以通过缓存返回数据,比如商品应用,商品分类,商品列表、用户信息,订单信息,购物车等,通过以上需求我们就要对于proxy进行拦截,返回缓存或者删除缓存。

对于缓存会有以下疑问

  1. 数据一致性:对于服务是分布式部署在各台服务器上, 缓存存储读取也应该支持分布式,所以应该选择支持分布式的缓存框架,如:redis,couchbase,membercache
  2. 缓存命中率:在无命中的情况下,无法直接通过缓存获取到想要的数据,而直接通过调用远程服务获取数据,这样就会增加响应时间和影响吞吐量,所以我们必须引用工具进行监控

缓存降级

surging的缓存降级就是针对于proxy进行拦截,如果有缓存数据,则返回缓存数据,否则调用Proceed方法调用远程服务。

在数据进行update,delete的时候就需要针对于依赖的缓存进行删除,可以通过proxy进行拦截的方式把缓存进行删除

缓存降级有以下优点

1.高性能:可以减少响应时间和提高吞吐量

2.高效:针对于业务逻辑的设计,无需考虑缓存,做到了无缝集成

以下通过示例来介绍如何使用

在业务接口方法上添加如下特性

[Command(Strategy= StrategyType.Failover,FailoverCluster =3,RequestCacheEnabled =true)] //RequestCacheEnabled =true 就是启用缓存

拦截获取缓存

[InterceptMethod(CachingMethod.Get, Key = "GetUser_id_{0}", Mode = CacheTargetType.Redis, Time = 480)]

拦截删除缓存

[InterceptMethod(CachingMethod.Remove, "GetUser_id_{0}", "GetUserName_name_{0}", Mode = CacheTargetType.Redis)]

应用[CacheKey]来标识缓存Key,如

public class UserModel  
{

    \[CacheKey(1)\]  
    public int UserId { get; set; }

    public string Name { get; set; }

    public int Age { get; set; }  
}

配置拦截器

.AddClientIntercepted(typeof(CacheProviderInterceptor))

5.测试

测试环境

CPU:Intel Core i7-4710MQ

内存:16G

硬盘:1T SSD+512G HDD

网络:局域网

开启redis测试结果如下:

停用Redis测试结果如下:

已经开始研发API网关,近期更新只会修复BUG和提交单元测试。如感兴趣请多关注或者加入QQ群:615562965