Swoole Coroutine協(xié)程支持

方法列表

getDefer()

bool getDefer();

• 返回值：返回當前設置的defer

setDefer()

bool setDefer([bool $is_defer = true]);

• $is_defer：bool值，為true時，表明該Client要延遲收包，為false時，表明該Client非延遲收包，默認值為true
• 返回值：設置成功返回true，否則返回false。只有一種情況會返回false，當設置defer(true)并發(fā)包后，尚未recv()收包，就設置defer(false)，此時返回false。
• 如果需要進行延遲收包，需要在發(fā)包之前調(diào)用

recv()

mixed recv();

• 返回值：獲取延遲收包的結(jié)果，當沒有進行延遲收包或者收包超時，返回false。

并發(fā)調(diào)用

Client并發(fā)請求

在協(xié)程版本的Client中，實現(xiàn)了多個客戶端并發(fā)的發(fā)包功能。

通常，如果一個業(yè)務請求中需要做一次redis請求和一次mysql請求，那么網(wǎng)絡IO會是這樣子：

redis發(fā)包->redis收包->mysql發(fā)包->mysql收包

以上流程網(wǎng)絡IO的時間就等于 redis網(wǎng)絡IO時間 + mysql網(wǎng)絡IO時間。

而對于協(xié)程版本的Client，網(wǎng)絡IO可以是這樣子：

redis發(fā)包->mysql發(fā)包->redis收包->mysql收包

以上流程網(wǎng)絡IO的時間就接近于 MAX(redis網(wǎng)絡IO時間, mysql網(wǎng)絡IO時間)。

現(xiàn)在支持并發(fā)請求的Client有：

• Swoole\Coroutine\Client
• Swoole\Coroutine\Redis
• Swoole\Coroutine\MySQL
• Swoole\Coroutine\Http\Client

除了Swoole\Coroutine\Client，其他Client都實現(xiàn)了defer特性，用于聲明延遲收包。

因為Swoole\Coroutine\Client的發(fā)包和收包方法是分開的，所以就不需要實現(xiàn)defer特性了，而其他Client的發(fā)包和收包都是在一個方法中，所以需要一個setDefer()方法聲明延遲收包，然后通過recv()方法收包。

協(xié)程版本Client并發(fā)請求示例代碼：

<?php
$server = new Swoole\Http\Server("127.0.0.1", 9502, SWOOLE_BASE);

$server->set([
    'worker_num' => 1,
]);

$server->on('Request', function ($request, $response) {

    $tcpclient = new Swoole\Coroutine\Client(SWOOLE_SOCK_TCP);
    $tcpclient->connect('127.0.0.1', 9501，0.5)
    $tcpclient->send("hello world\n");

    $redis = new Swoole\Coroutine\Redis();
    $redis->connect('127.0.0.1', 6379);
    $redis->setDefer();
    $redis->get('key');

    $mysql = new Swoole\Coroutine\MySQL();
    $mysql->connect([
        'host' => '127.0.0.1',
        'user' => 'user',
        'password' => 'pass',
        'database' => 'test',
    ]);
    $mysql->setDefer();
    $mysql->query('select sleep(1)');

    $httpclient = new Swoole\Coroutine\Http\Client('0.0.0.0', 9599);
    $httpclient->setHeaders(['Host' => "api.mp.qq.com"]);
    $httpclient->set([ 'timeout' => 1]);
    $httpclient->setDefer();
    $httpclient->get('/');

    $tcp_res  = $tcpclient->recv();
    $redis_res = $redis->recv();
    $mysql_res = $mysql->recv();
    $http_res  = $httpclient->recv();

    $response->end('Test End');
});
$server->start();

實現(xiàn)原理

Swoole2.0基于setjmp、longjmp實現(xiàn)，在進行協(xié)程切換時會自動保存Zend VM的內(nèi)存狀態(tài)（主要是EG全局內(nèi)存和vm stack）。

示例代碼

$server = new Swoole\Http\Server('127.0.0.1', 9501, SWOOLE_BASE);

#1
$server->on('Request', function($request, $response) {
    $mysql = new Swoole\Coroutine\MySQL();
    #2
    $res = $mysql->connect([
        'host' => '127.0.0.1',
        'user' => 'root',
        'password' => 'root',
        'database' => 'test',
    ]);
    #3
    if ($res == false) {
        $response->end("MySQL connect fail!");
        return;
    }
    $ret = $mysql->query('show tables', 2);
    $response->end("swoole response is ok, result=".var_export($ret, true));
});

$server->start();

• 此程序僅啟動了一個1個進程，就可以并發(fā)處理大量請求。
• 程序的性能基本上與異步回調(diào)方式相同，但是代碼完全是同步編寫的

運行過程

• 調(diào)用onRequest事件回調(diào)函數(shù)時，底層會調(diào)用C函數(shù)coro_create創(chuàng)建一個協(xié)程（#1位置），同時保存這個時間點的CPU寄存器狀態(tài)和ZendVM stack信息。
• 調(diào)用mysql->connect時發(fā)生IO操作，底層會調(diào)用C函數(shù)coro_save保存當前協(xié)程的狀態(tài)，包括Zend VM上下文以及協(xié)程描述信息，并調(diào)用coro_yield讓出程序控制權(quán)，當前的請求會掛起（#2位置）
• 協(xié)程讓出程序控制權(quán)后，會繼續(xù)進入EventLoop處理其他事件，這時Swoole會繼續(xù)去處理其他客戶端發(fā)來的Request
• IO事件完成后，MySQL連接成功或失敗，底層調(diào)用C函數(shù)core_resume恢復對應的協(xié)程，恢復ZendVM上下文，繼續(xù)向下執(zhí)行PHP代碼（#3位置）
• mysql->query的執(zhí)行過程與mysql->connect一致，也會進行一次協(xié)程切換調(diào)度
• 所有操作完成后，調(diào)用end方法返回結(jié)果，并銷毀此協(xié)程

協(xié)程開銷

相比普通的異步回調(diào)程序，協(xié)程多增加額外的內(nèi)存占用。

• Swoole2.0協(xié)程需要為每個并發(fā)保存zend stack棧內(nèi)存并維護對應的虛擬機狀態(tài)。如果程序并發(fā)很大可能會占用大量內(nèi)存，取決于C函數(shù)、ZendVM 調(diào)用棧深度
• 協(xié)程調(diào)度會增加額外的一些CPU開銷

壓力測試

• 環(huán)境：Ubuntu16.04 + Core I5 4核 + 8G內(nèi)存 PHP7.0.10
• 腳本：ab -c 100 -n 10000 http://127.0.0.1:9501/

測試結(jié)果：

Server Software:        swoole-http-server
Server Hostname:        127.0.0.1
Server Port:            9501

Document Path:          /
Document Length:        348 bytes

Concurrency Level:      100
Time taken for tests:   0.883 seconds
Complete requests:      10000
Failed requests:        168
   (Connect: 0, Receive: 0, Length: 168, Exceptions: 0)
Total transferred:      4914560 bytes
HTML transferred:       3424728 bytes
Requests per second:    11323.69 [#/sec] (mean)
Time per request:       8.831 [ms] (mean)
Time per request:       0.088 [ms] (mean, across all concurrent requests)
Transfer rate:          5434.67 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.2      0       2
Processing:     0    9   9.6      6      96
Waiting:        0    9   9.6      6      96
Total:          0    9   9.6      6      96

Percentage of the requests served within a certain time (ms)
  50%      6
  66%      9
  75%     11
  80%     12
  90%     19
  95%     27
  98%     43
  99%     51
 100%     96 (longest request)