在web开拓中,我们常常会碰着须要处理批量任务的时候,这些批量任务可能是用户提交的,也可能是当系统被某个事宜触发时须要进行批量处理的,面对这样的 任务,如果是用户提交的批量任务,低级程序员只能让用户触发提交动作后,等待做事器处理完毕,并且将结果返回到浏览器,期间用户不能关掉浏览器窗口,如果 数据比较大,或者处理速率比较慢,那用户体验将会因此受到直接影响。但是当我们利用某讯或者某浪的邮箱时,点击群发邮件之后,只需等待很短的韶光,浏览器 提示提交成功,正在发送之类的信息时,用户就可以关掉浏览器,稍后,收件地址栏里的邮箱将陆续收到该群发邮件,再比如群发定时邮件,以及当商城系统中有客 户下单,客户,客服,仓库等干系职员收到订单邮件信息。诸如此类,行列步队的运用范围是如此之广。
二 :普通工程师的办理方案和架构师的办理方案
方案1:建表存邮件,等,用定时程序取出发送。
方案2:抽象到更高一层,开拓一套通用异步处理行列步队适用于任何繁芜的业务逻辑
那么,作为架构师,利用行列步队的做法,将抽象层和业务层分离,可具有良好的扩展性和可掩护性。比较较而言就高明了许多,
下面就我们先容一下自定义行列步队的实现思路和方法。
三 :行列步队总体设计
1:须要行列步队程序,供应加入行列步队接口和取行列步队接口等
2:须要存储行列步队,文件或者数据库
3:须要定时程序取出行列步队并实行
4:其它扩展功能:优先级,日志,定时等
代码的目录构造如下,每个文件的浸染用//注释来标明
|–addTask.php //添加任务到行列步队的例子
|–cronMission.php //定时任务调度程序,例如linux中受crontab
直接调用的文件,业务逻辑工程师可以在这个文件中灵巧定义自己的行列步队任务,从而不用每个行列步队任务 都须要上做事器修正crontab,从而在安全性,便捷性方面有很大提高
|–db.php //数据库操作
|–db.sql //建立行列步队须要用到的基本表构造
|–doQueue.php //实行行列步队任务
|–Queue.class.php //行列步队核心业务在这里定义,包括将任务加入行列步队,读行列步队,变动行列步队任务状态
|–sendMsg.php //行列步队要实现详细任务的业务接口,比如现有系统的发送的接口,这里例子中由于将此行列步队程序和现有系统系统集成,用写入日志来演示
四 :行列步队详细实现一:建任务存储表
1:先来个最基本的:
CREATE TABLE`queue` ( id int(11) NOT NULL auto_increment primarykey, taskphp varchar(128) NOT NULL default '', param text not null default '', status tinyint not null default 0, ctime timestamp NOT NULL default CURRENT_TIMESTAMP, KEY (ctime) ) ENGINE=InnoDBDEFAULT CHARSET=utf8;
字段阐明:
taskphp:处理业务的接口文件
param:处理业务的接口文件须要吸收的参数
status:任务处理状态,0为未处理,处理完毕变动为1
五 、行列步队详细实现二:定义调用接口
<?php / @author:cyw0413 任务行列步队实现 date:2018-11-01 /include_once('db.php');class Queue{ / 把任务扔到行列步队 @param string $taskphp 实行任务的程序 @param string $param 实行任务程序所用的参数 例如,群发加入行列步队: $arr = array( \"大众uid\"大众 => 4,//发信息的人的UID \"大众uids\"大众 => array(6,234,34,67,7888,2355), //吸收信息的人的UID \公众content\"大众 => 'xxxxx',//信息内容 ); $cqueue = new Queue(); $cqueue->add(\"大众/app/send_msg.php\"大众, serialize($arr));/ public function add($taskphp,$param) { $taskphp = mysql_real_escape_string($taskphp); //$param = mysql_real_escape_string($param); $param = $param; $sql = \公众insert into queue (taskphp, param) values('\公众.$taskphp.\"大众', '\公众.$param.\"大众')\"大众; $re = execute($sql); if ($re){ $pid = mysql_insert_id(); return $pid; }else{ return false; } } / 读取任务行列步队 @param string $limit 一次取多少条 / public function getQueueTask($limit = 1000) { $limit = (int)$limit; $sql = \"大众select id, taskphp, param from queue where status = 0 order by id asc\"大众; $re = query($sql); return $re; } / 更新任务状态 @param string $limit 一次取多少条 / public function updateTaskByID($id) { $id = (int)$id; $mtime = time(); $sql = \"大众update queue set status =1, mtime = \"大众.$mtime.\"大众 where id = \"大众.$id; $re = execute($sql); return $re; } public static function a2s($arr) { $str = \"大众\"大众; foreach ($arr as $key => $value){ if (is_array($value)){ foreach ($value as $value2){ $str .= urlencode($key) . \公众[]=\"大众 . urlencode($value2) . \公众&\"大众; } }else{ $str .= urlencode($key) . \公众=\公众 . urlencode($value) . \"大众&\"大众; } } return $str; } public static function s2a($str){ $arr = array(); parse_str($str, $arr); return $arr; }}?>
1:加入行列步队接口
l //$param1 为实行任务的程序,$param2 为程序参数,可以为序列化的数据
l $cqueue->add($param1,$param2);
2: 读取行列步队接口
l $tasks = $cqueue->getQueueTask($limit = 1000);
3:更新任务状态
l $cqueue->updateTaskStatus($id);
4:a2s是自定义的一个数组转换字符串方法,这里不要利用json_encode,随意马虎涌现问题,同样,从数据库中取出转换为数组的时候,利用s2a方法
l $re = $cqueue->add(\"大众sendMsg.php\公众, Queue::a2s($arr));
六、行列步队详细实现三:写实行行列步队的程序
根据设计,实行行列步队的程序文件是 do_queue.php , 它的紧张功能是把任务从行列步队表里取出来,并且在后台实行。
do_queue.php部分代码:
<?php$phpcmd = exec(\"大众which php\"大众); //查找到php安装位置$cqueue = new Queue();$tasks = $cqueue->getQueueTask(200);foreach ($tasks as $t){ $taskphp = $t['taskphp']; $param = $t['param']; $job = $phpcmd . \"大众 \"大众 . escapeshellarg($taskphp) . \"大众 \"大众 . escapeshellarg($param); system($job);
七、详细任务的业务实现
还是拿群发来做例子,我们须要写好一个群发的程序,这个程序吸收事先定义好的参数,然后根据参数调用发的接口把发送出去。
这个一样平常由做业务功能的工程师实现。但是架构师事先得写文档例子,教会别人利用。
send_msg.php:
<?php$para = $argv[1];$arr = unserialize($para);$cmessage = new Message();foreach($arr['uids'] as $touid){ $cmessage->send($arr['uid'], $touid, $arr['content']);}
八、做事器支配一:配置crontab
咱们实行行列步队的程序都写好了, 这个程序怎么触发呢,当然就要用到linux的定时任务,每隔一定的韶光,实行do_queue.php一次。但是呢,这里不是直接调用 do_queue.php,咱们再提高一层,加个调度程序cron_mission.php, 在cron_mission.php里面调用do_queue.php
配置定时任务 crontab:
l crontab –e
l cd /ucai/schedule;php cron_mission.php >> cron_mission.log
#可以先利用crontab -l查看本机已经利用的定时任务
九、做事器支配二:写定时任务调度程序
思路:将定时任务写入到任务调度程序cron_mission.php中,这样可以在cron_mission.php中灵巧掌握行列步队任务。比较较直接通 过crontab掌握doQueue.php而言,避免了频繁修正做事器上的crontab,从安全,便于掩护等角度来说,都是上策。
cron_mission.php 示例:
<?phpif ($minute % 5 == 0){ if(chdir($site_dir.\公众app/\"大众)) { $cmd = \"大众$phpcmd do_queue.php > do_queue.log &\公众; echo '[' , $ymd , ' ' , $hour , ':' , $minute , '] ' , $cmd , \"大众n\"大众; system($cmd); }}
十、开启多进程并发实行行列步队
思路:对任务序列进行编号,数据库中实行的时候
where条件加上id%每个行列步队要实行任务总数=行列步队编号
这样可以避免重复处理
例如:每个进程实行10条任务,修正如下
1:定时任务的修正
修正前:
<?phpif ($minute % 5 == 0){ if(chdir($site_dir.\公众app/\"大众)) { $cmd = \公众$phpcmd do_queue.php > do_queue.log &\公众; echo '[' , $ymd , ' ' , $hour , ':' , $minute , '] ' , $cmd , \"大众n\"大众; system($cmd); }}
修正后:
<?phpif ($minute % 5 == 0){ for ($i=0; $i < 10; $i++) { $cmd = \"大众$phpcmd doQueue.php 10 $i>> doQueueMission\"大众.date('Y-m-d').\"大众.log \"大众; echo date(\"大众Y-m-d H:i:s\公众) . \"大众t : \"大众 .$cmd.\"大众n\"大众; system($cmd); }}
//每次进行10个进程,$i来区分是当前的进程标示
2:行列步队实行程序的修正
修正前:
<?php$phpcmd = 'D:workwampbinphpphp5.3.10php ';$cqueue = new Queue();$tasks = $cqueue->getQueueTask(200);
修正后:
<?php $phpcmd = 'D:workwampbinphpphp5.3.10php '; $total=$argv[1]; $i=$argb[2]; $cqueue = new Queue(); $tasks = $cqueue->getQueueTask($total,$i,200);
3:取行列步队接口的修正
修正前:
<?phppublic function getQueueTask($limit = 1000){ $limit = (int)$limit; $sql = \"大众select id, taskphp, param from queue where status = 0 order by id asc\"大众; $re = query($sql); return $re;}
修正后:
<?phppublic function getQueueTask($total,$i,$limit = 1000){ $limit = (int)$limit; $sql = \公众select id, taskphp, param from queue where status = 0 and id%$total=$i order by id asc\"大众; $re = query($sql); return $re;}
4:须要关注做事器压力
进程数定为多少,取决于做事器压力
十一、实现任务优先级
1:任务存储表加优先级字段
在数据表里,加一个优先级字段,按字段值的数值大小来区分优先级
2:修正取行列步队任务接口,按优先级取
同样是在sql语句中增加order by
十二、记录行列步队日志
1:关键地方加echo
2:shell脚本的>>和>的各自浸染
总结:
我们这里的行列步队实现借助了做事器的操持任务来实现,例如linux中的crontab,这本身是linux系统中的一个程序,平时我们还可以利用他来进行 定时实行.sh脚本,例如将数据库备份打包并ftp传送到指定做事器上,这个功能不须要借助php脚本,直接用.sh脚本就可以实现。在这里我们奥妙的将 crontab和php脚本结合,并且利用crontab来不断调用一个行列步队调度接口cronMission.php,再通过 cronMission.php直接来掌握详细什么时候或者是知足什么条件来实行什么行列步队任务。
这里面几个须要把稳的地方
1:往数据库中存取数据时,不要直策应用json_encode或者json_decode,随意马虎造成一些意外问题,在代码中,我们定义了a2s和s2a两个方法,分别是处理数组转为字符串,和从数据库中读取字符串后转为数组。
2:当任务量比较大,同时做事器负载又没有充分利用的时候,可以利用多进程并发处理,在并发处理的时候须要考虑一个问题,便是如何避免重复,在这里我们使 用了,对行列步队任务进行标记,每次从数据库中读取一个进程须要处理的一批任务,利用数据库中id与批次标示取余即是0的方法来区分,避免不同批次的行列步队,重 复处理相同任务。(上面步骤10中有详细实现)
举两个例子,怎么样写好代码
最经典的算法,献给正在口试道路上的你
如果你现在在口试PHP的道路上,看看口试根本题吧