.Net 怎么样模拟会话级此外信号量,对http接口调用频率举办限制(有demo)

以第一个API接口需求为例,先说下单机环境下的落实。
按部就班惯性思维,我们当然会想到缓存的晚点策略这种方法,但是严酷来讲就HttpRuntime.Cache而言,通过缓存的过期策略来对请求举办频率的产出控制是不合适的。
  HttpRuntime.Cache
是应用程序级另外Asp.Net的缓存技术,通过那些技能可以发明多少个缓存对象,可以为各类对象设置过期时间,当过期时光到达后该缓存对象就会破灭(也就是当您拜访该目的的时候为Null)

3、root用户编辑/etc/udev/rules.d/70-persistent-net.rules文件,找到mac地址重复的老大网卡并剔除(这里是eth0),记住新生成的网卡eth1的mac地址,前面会用到,保存并退出

 

管理 1

按照这种简易缓存过期策略的模子,在这2分钟内,我们虽然平均每分钟都访问了10次,满意这一个确定,不过一旦大家从中取一个期间段,0.5秒~1.5秒之内,也是1分钟,然则却的确的走访了14次!远远超过了大家设置的
1分钟最多访问10次的 限制。

参考:http://www.cnblogs.com/heruiguo/p/7943006.html


1、在vmware上创制一台完整的虚拟机,具体过程虐。

这么的思辨及贯彻相对来说万分简单,但是按照这样的一个模子设定,那么就会并发这种场馆:

     
 我们在念书的时候使用vmware创立和谐的虚拟机,可是我们偶尔学习条件需要多台统计机举行操作演示,如果设置创立虚拟机、再在虚拟机上设置操作系统、这样很花费我们的年华,而且还步能保证服务的一直性,这就用到vmware的兵不血刃功效——克隆,废话不多说,操作如下:

4容器4线程模型

当今,在促成代码的先头大家先规划一个模型。

管理 2

  假如我们有一个用户A的管道,这一个管道里装着用户A的伸手,比如用户A在一分钟发出了10次呼吁,那么每一个请求过来,管道里的因素都会多一个。但是我们设定这一个管道最七只好容纳10个元素,而且每个元素的存活期为1秒,1秒后则该因素消失。那么这么设计的话,无论是速率如故多少的突进,都会有管道长度的限定。这样一来,无论从哪一个时刻节点依旧时间间隔出发,这些管道都能满意我们的频率限制需求。

而这里的管道,就必须和会话Id来对号入座了。每当有新会话进来的时候就生成一个新管道。这几个会话id遵照自己场景所定,能够是sessionId,能够是ip,也足以是token。

这就是说既然这多少个管道是会话级此外,我们终将得需要一个容器,来装这么些管道。现在,我们以IP来命名会话管道,并把所有的管道都装载在一个容器中,如图

管理 3

而按照刚才的设定,大家还亟需对容器内的每条管道的元素举办处理,把过期的给删除掉,为此,还索要独自为该容器开辟出一个线程来为每条管道展开元素的清理。而当管道的因素为0时,我们就清掉该管道,以便节省容器空间。

 管理 4

本来,由于用户量多,一个容器内可能存在上万个管道,这一个时候偏偏用一个容器来装载来清理,在效用上明明是不够的。这些时候,大家就得对容器举办横向扩充了。

  比如,我们得以遵照Cpu主题数自动生成对应的多少的器皿,然后按照一个算法,对IP来拓展导流。我当下cpu是4个逻辑主旨,就生成了4个容器,每当用户访问的时候,都会起先经过一个算法,这多少个算法会对IP举办拍卖,如192.168.1.11~192.168.1.13那一个Ip段进第一个容器,xxx~xxx进第二个容器,依次类推,相应的,也就有了4个线程去分别处理4个容器中的管道。

管理 5

 

那么,最终就形成了咱们的4容器4线程模型了。

当今,着眼于编码实现:

  首先大家需要一个能承载这个器皿的载体,这么些载体类似于连接池的定义,可以依照一些急需自动生成适应数量的容器,假如有特殊要求的话,仍是可以够在容器上切出一个器皿管理的面,在线程上切出一个线程管理的面以便于实时监察和调度。倘诺真要做这样一个序列,那么
容器的调度 和 线程的调度功能是少不了的,而本Demo则是做到了根本效率,像容器和线程在代码中我也没剥离开来,算法也是直接写死的,实际设计中,对算法的规划依旧很重大的,还有多线程模型中,咋样上锁才能让效用最大化也是任重而道远的。

而这里为了案例的直观就一直写死成4个容器。

public static List<Container> ContainerList = new List<Container>(); //容器载体
static Factory()
{
     for (int i = 0; i < 4; i++)
     {
        ContainerList.Add(new Container(i));  //遍历4次  生成4个容器
     }
     foreach (var item in ContainerList)
     {
        item.Run();    //开启线程
     }
}

当今,我们假如 有编号为 0 到 40 这样的 41个用户。那么这些导流算法
我也就径直写死,编号0至9的用户
将他们的呼吁给抛转到第一个容器,编号10~19的用户
放到第二个容器,编号20~29放到第多少个容器,编号30~40的用户放到第多少个容器。

那么这多少个代码就是这么的:

 static Container GetContainer(int userId, out int i) //获取容器的算法
 {
     if (0 <= userId && userId < 10)    //编号0至9的用户  返回第一个容器  依次类推
     {
          i = 0;
          return ContainerList[0];
     }
     if (10 <= userId && userId < 20)
     {
          i = 1;
          return ContainerList[1];
     }
     if (20 <= userId && userId < 30)
     {
          i = 2;
          return ContainerList[2];
      }
      i = 3;
      return ContainerList[3];
  }

当我们的对话请求经过算法的导流之后,都不能不调用一个情势,用于辨别管道数量。假若管道数量已经超出10,则请求失败,否则成功

  public static void Add(int userId)
  {
       if (GetContainer(userId, out int i).Add(userId))
            Console.WriteLine("容器" + i + " 用户" + userId + "  发起请求");
       else
            Console.WriteLine("容器" + i + " 用户" + userId + "  被拦截");
  }

接下去就是容器Container的代码了。

这里,对容器的选型用线程安全的ConcurrentDictionary类。
  线程安全:当四个线程同时读写同一个共享元素的时候,就会出现数量错乱,迭代报错等安全问提
  ConcurrentDictionary:除了GetOrAdd方法要慎用外,是.Net4.0专为解决Dictionary线程安全而出的新品类
  里德rWriterLockSlim:较ReaderWriterLock优化的读写锁,两个线程同时做客读锁
或  一个线程访问写锁

private ReaderWriterLockSlim obj = new ReaderWriterLockSlim();  //在每个容器中申明一个读写锁
public ConcurrentDictionary<string, ConcurrentList<DateTime>> dic = new ConcurrentDictionary<string, ConcurrentList<DateTime>>(); //创建该容器 dic

下一场当你向容器添加一条管道中的数据是经过这么些法子:

 public bool Add(int userId)
 {
     obj.EnterReadLock();//挂读锁,允许多个线程同时写入该方法
     try
     {
         ConcurrentList<DateTime> dtList = dic.GetOrAdd(userId.ToString(),t=>{ new ConcurrentList<DateTime>()}); //如果不存在就新建 ConcurrentList
         return dtList.CounterAdd(10, DateTime.Now); //管道容量10,当临界管道容量后 返回false
     }
     finally
     {
         obj.ExitReadLock();
     }
 }

 这里,为了在背后的线程遍历删除ConcurrentList的管道的时候保证ConcurrentList的安全性,所以这边要加读锁。

 而ConcurrentList,因为.Net没有推出List集合类的线程安全(此处自己表达下:之所以不用ConcurrentBag是因为要力保count和add的一致性,这里补充一下),所以自己新建了一个后续于List<T>的平安项目,在这里
封装了3个需要选取的艺术。

public class ConcurrentList<T> : List<T>
{
    private object obj = new object();

    public bool CounterAdd(int num, T value)
    {
        lock (obj)
        {
            if (base.Count >= num)
                return false;
            else
                base.Add(value);
            return true;
        }
    }
    public new bool Remove(T value)
    {
        lock (obj)
        {
            base.Remove(value);
            return true;
        }
    }
    public new T[] ToArray() 
    {
        lock (obj)
        {
            return base.ToArray();
        }
    }
}

最终就是线程的周转格局:

 public void Run()
 {
     ThreadPool.QueueUserWorkItem(c =>
     {
         while (true)
         {
             if (dic.Count > 0)
             {
                 foreach (var item in dic.ToArray())
                 {
                     ConcurrentList<DateTime> list = item.Value;
                     foreach (DateTime dt in list.ToArray())   
                     {
                         if (DateTime.Now.AddSeconds(-3) > dt)
                         {
                             list.Remove(dt);
                             Console.WriteLine("容器" + seat + " 已删除用户" + item.Key + "管道中的一条数据");
                         }
                     }
                     if (list.Count == 0)
                     {
                         obj.EnterWriteLock();
                         try
                         {
                             if (list.Count == 0)
                             {
                                 if (dic.TryRemove(item.Key, out ConcurrentList<DateTime> i))
                                 { Console.WriteLine("容器" + seat + " 已清除用户" + item.Key + "的List管道"); }
                             }
                         }
                         finally
                         {
                             obj.ExitWriteLock();
                         }
                     }
                 }

             }
             else
             {
                 Thread.Sleep(100);
             }
         }
     }
   );
 }

最终,是功力图,一个是按照控制台的,还一个是依照Signalr的。

 管理 6管理 7

一、虚拟机克隆

 管理 8

1、选中新克隆的虚拟机-右击-设置-高级-网络适配器-生成(记住mac前面要运用)

分布式下Redis

地点介绍了一种频率限制的模型,分布式与单机相比较,无非就是载体不同,我们假若把这么些容器的载体从程序上移植出来,来弄成一个独门的劳务依旧直接借用Redis也是立竿见影的。

此地就介绍分布式情形下,Redis的落实。

不同于Asp.Net的多线程模型,大概因为Redis的各类类型的元素相当粒度的操作造成各种加锁的错综复杂,所以在网络请求处理这块Redis是单线程的,基于Redis的贯彻则因为单线程的缘由在编码角度不用太多着想到与逻辑无关的题材。

  简单介绍下,Redis是一个内存数据库,这一个数据库属于非关系型数据库,它的定义不同于一般的大家体会的Mysql
Oracle
SqlServer关系型数据库,它并未Sql没有字段名从未表名这一个概念,它和HttpRun提姆(Tim)e.Cache的定义差不多一样,首先从操作上属于键值对形式,就如
Cache[“键名”]
这样就能博取到值类似,而且可以对各种Key设置过期策略,而Redis中的Key所对应的值并不是想存啥就存啥的,它补助五种数据类型:string(字符串),hash(哈希),list(列表),set(集合)及sorted
set(有序聚集)。

前几天要说的是Sorted
set有序聚集,有序聚集相比其他的聚众类型的特殊点在于,使用有序聚集的时候仍是可以给插入的要素指定一个
积分score,大家把这些积分score明白为排系列,它里面会对积分举行排序,积分允许再次,而一成不变聚集中的元素则是绝无仅有。

  仍旧一如既往的思绪,每当有用户访问的时候,都对该用户的
管道(有序聚集)中添加一个因素,然后设置该因素的积分为眼前时刻。接着在先后中开个线程,来对管道中积分小于约定时辰的因素举行清理。因为规定有序聚集中的元素只可以是唯一值,所以在赋值方面只假若满足uuid即可。

 管理 9

这就是说用Redis来兑现的代码这就是相仿这种:

管理 10

透过using语法糖实现IDisposable而卷入的Redis分布式锁,然后中间正常的逻辑判断。

这样的代码即便也能到位效率,但不够自己。Redis是个基于内存的数据库,于性能而言,瓶颈在于网络
IO 上,与Get几回暴发三遍呼吁相比较,能无法经过一段脚本来实现多数逻辑吗?

有的,Redis支持 Lua脚本:
  Lua
是一种轻量小巧的脚本语言,用规范C语言编写并以源代码形式开放,
其设计目标是为着放置应用程序中,从而为应用程序提供灵活的恢宏和定制效用。
  大致意思就是,直接向Redis发送一段脚本或者让它直接本地读取一段脚本从而一直促成所有的逻辑。

/// <summary>
/// 如果 大于10(AccountNum) 就返回1   否则就增加一条集合中的元素 并返回 空
/// </summary>
/// <param name="zcardKey"></param>
/// <param name="score"></param>
/// <param name="zcardValue"></param>
/// <param name="AccountNum"></param>
/// <returns></returns>
public string LuaAddAccoundSorted(string zcardKey, double score, string zcardValue, int AccountNum)
{
    string str = "local uu = redis.call('zcard',@zcardKey) if (uu >=tonumber(@AccountNum)) then return 1 else redis.call('zadd',@zcardKey,@score,@zcardValue)  end";
    var re = _instance.GetDatabase(_num).ScriptEvaluate(LuaScript.Prepare(str), new { zcardKey = zcardKey, score = score, zcardValue = zcardValue, AccountNum=AccountNum });
    return re.ToString();
}

local
uu就是表明一个为名uu的变量的情趣,redis.call就是redis命令,这段脚本意思就是一旦
大于10(AccountNum) 就回到1   否则就充实一条集合中的元素 并赶回 空。

管道内元素处理的艺术就是:

 /// <summary>
 /// 遍历当前所有前缀的有序集合,如果数量为0,那么就返回1 否则 就删除 满足最大分值条件区间的元素,如果该集合个数为0则消失
 /// </summary>
 /// <param name="zcardPrefix"></param>
 /// <param name="score"></param>
 /// <returns></returns>
public string LuaForeachRemove(string zcardPrefix, double score)
 {
     StringBuilder str = new StringBuilder();
     str.Append("local uu = redis.call('keys',@zcardPrefix) "); //声明一个变量 去获取 模糊查询的结果集合
     str.Append("if(#uu==0) then");    //如果集合长度=0
     str.Append("   return 1 ");
     str.Append("else ");
     str.Append("   for i=1,#uu do ");   //遍历
     str.Append("       redis.call('ZREMRANGEBYSCORE',uu[i],0,@score) ");  //删除从0 到 该score 积分区间的元素
     str.Append("       if(redis.call('zcard',uu[i])==0) then ");  //如果管道长度=0
     str.Append("           redis.call('del',uu[i]) ");   //删除
     str.Append("       end ");
     str.Append("   end ");
     str.Append("end ");
     var re = _instance.GetDatabase(_num).ScriptEvaluate(LuaScript.Prepare(str.ToString()), new { zcardPrefix = zcardPrefix + "*", score = score });
     return re.ToString();

这2段代码通过发送Lua脚本的花样来形成了一切经过,因为Redis的网络模型原因,所以把LuaForeachRemove方法给指出来做个劳务来单独处理即可。至于那种多容器多线程的落实,则完全可以开两个Redis的实例来贯彻。最终放上效果图。

管理 11

最后,我把那个都给做成了个Demo。可是尚未找到确切的上传网盘,所以大家可以留邮箱(留了就发),或者直接加QQ群文件自取,研究互换:166843154

 

自我喜欢和自我同一的人交朋友,不被环境影响,自己是祥和的助教,欢迎加群
.Net web互换群, QQ群:166843154 欲望与挣扎

 

作者:小曾
出处:http://www.cnblogs.com/1996V/p/8127576.html 欢迎转载,但任何转载必须保留完整文章及博客园出处,在显要地方显示署名以及原文链接。
.Net交流群, QQ群:166843154 欲望与挣扎 

管理 12

如上图,每个点代表一回访问请求,我在0秒的时候
新建了一个名字为GetUserListNum的缓存对象。
在0~0.5秒之内
我访问了3次,在0.5~1秒之内,大家走访了7次。此时,该对象消失,然后大家随后访问,该目的重置为0.
              
 在第1~1.5秒之内,依然访问了7次,在第1.5秒管理,~2秒之内走访了3次。

6、重启服务器

  为啥如此说吧?比如对某个方法(方法名:GetUserList)我们要进行1秒钟最多10次的限制,现在大家就新建一个int型的Cache对象,然后设置1秒钟后过期消失。那么每当访问GetUserList方法前,大家就先判断这些Cache对象的值是否超出10,假若超出10就不执行GetUserList方法,假使低于10则允许实施。每当访问该对象的时候假诺不设有或者逾期就新建,这样循环,则该目标永远不容许跨越10。

修改后如下:

正文给出六个示范,一个是按照单机环境的兑现,第二个则是依照分布式的Redis实现

 9、完成克隆

1   if ((int)HttpRuntime.Cache["GetUserListNum"] > 10) //大于10请求失败
2   {
3      Console.WriteLine("禁止请求");
4   }
5   else
6   {
7      HttpRuntime.Cache["GetUserListNum"] = (int)HttpRuntime.Cache["GetUserListNum"] + 1; //否则该缓存对象的值+1
8      Console.WriteLine("允许请求");
9   }

管理 13

今昔,因为各种因素,你不可能不对一个请求或者措施举行频率上的访问限制。
比如,
你对外提供了一个API接口,注册用户每分钟最多能够调用100次,非注册用户每分钟最多可以调用10次。
例如,
有一个异常吃服务器资源的法门,在同样时刻不可能跨越10私家调用这一个主意,否则服务器满载。
比如说, 有一部分破例的页面,访客并无法反复的造访或发言。
比如, 秒杀活动等展开。
诸如
,防范DDOS,当达到自然频率后调用脚本iis服务器ip黑名单,防火墙黑名单。
如上各类的比喻,也就是说,如何从一个断面的角度对调用的情势举行频率上的限制。而对效能限制,服务器层面都有最直接的解决方法,现在自家说的则是代码层面上的效用管控。

管理 14

这就是说什么样正确的来化解地点的题目吗?我们得以经过模拟对话级其余信号量这一手法,这也就是我们明天的要旨了。
   什么是信号量?仅就以代码而言,  static
SemaphoreSlim semaphoreSlim = new SemaphoreSlim(5); 
它的情趣就代表在多线程状况下,在其他一时刻,只可以同时5个线程去做客。

管理 15

 

4、右击-管理-克隆

 

5、修改主机名

5、下一步:

因为大家是仿制的虚拟机,所有新的电话和旧的完全一样,包括ip,主机名等音讯等,我们要举行改动

管理 16

管理 17

管理 18

2、启动新克隆的虚拟机**

 

 

管理 19

 

6、选用完整克隆

3、选中你要克隆的虚拟机

2、在首先步创造的虚构机上举行克隆,先关闭创立的虚拟机

 二、虚拟机配置

8、等待克隆成功

管理 20

4、vi /etc/sysconfig/network-scripts/ifcfg-eth0

 7、设置虚拟机名称及克隆后的地点

Post Author: admin

发表评论

电子邮件地址不会被公开。 必填项已用*标注