2011/12/25
バックグラウンドジョブを使った並列処理 [PS Advent Calendar '11]
はじめに
PowerShell Advent Calendar 2011の25日目最終日の記事、そしてこれが私の記事では4回目となります。今回もバックグラウンドジョブについての話題です。今回はバックグラウンドジョブを使って並列処理をやってみようという試みです。
これまでの記事は以下になります。
13日目:バックグラウンドジョブとの通信
19日目:PowerShell 3.0で追加されるバックグラウンドジョブ関係の新機能
ところでつい2日前、WMF3 CTP2 Windows PowerShell Workflow.pdfというpdfファイルが公開されました。これは19日目に書いたPS workflowについての詳しい説明(英語)です。構文だけでなくPSスクリプトとの違いやWFとの関係などが詳しく書かれています。ぜひ目を通しておくことをお勧めします。23日目のAhfさんの記事と併せて読むと理解が深まると思いますよ!
並列処理スクリプト
C#をご存知の方なら、PowerShellのバックグラウンドジョブ機能はC#4.0から使えるTaskオブジェクトとちょっと似てるかなーと思われるかもしれません。ではC#4.0でコレクションに対して並列処理でループを回すParallel.For()やParallel.Invoke()みたいなことはPowerShellでできないのか、という疑問が出てくるかと思います。
前回述べたようにPowerShell 3.0ならworkflowを使えば並列処理が可能で、for -parallelステートメントやparallelブロックでParallel.For()やParallel.Invoke()みたいなことが可能になります。しかしPowerShell 3.0がリリースされるのはまだ先ですし制限事項も多いので、なんとかPowerShell 2.0で、しかもworkflowのような制限なしで、並列処理のスクリプトは書けないものかと考えてみました。
function ParallelForEach-Object { [CmdletBinding()] param( [Parameter(Mandatory=$true,Position=1)][scriptblock]$process, [scriptblock]$begin={}, [scriptblock]$end={}, [Parameter(ValueFromPipeline=$true)][psobject]$inputObject ) begin { &$begin $jobs=@() } process { $jobs|Receive-Job while(@($jobs|?{$_.State -eq "Running"}).Length -ge 5) { $jobs|Receive-Job start-sleep -Milliseconds 100 } $jobs += Start-Job $process -argumentList $inputObject } end { while(@($jobs |?{$_.State -eq "Running"}).Length -gt 0) { $jobs|Receive-Job start-sleep -Milliseconds 100 } $jobs|Receive-Job $jobs|remove-job &$end } } $watch=new-object System.Diagnostics.Stopwatch "ForEach-Object 開始" $watch.Start() 1..10|ForEach-Object { "start: " + $_ Start-Sleep -sec 5 "end: " + $_ } $watch.Stop() "ForEach-Objectの場合:" + $watch.Elapsed.TotalSeconds + " sec" $watch.Reset() "ParallelForEach-Object 開始" $watch.Start() 1..10|ParallelForEach-Object { "start: " + $args[0] Start-Sleep -sec 5 "end: " + $args[0] } $watch.Stop() "ParallelForEach-Objectの場合:" + $watch.Elapsed.TotalSeconds + " sec"
ParallelForEach-Object関数はパイプラインから渡されたコレクションの各要素について、並列にスクリプトブロックを実行させるものです。同等の処理をForEach-Objectを使って同期的に逐次処理した場合とかかる時間を比較しています。10個の要素があり、各要素につき5秒かかる処理なので、逐次的に処理すると当然50秒以上かかりますが、ParallelForEach-Object関数を使って並列処理させると環境にもよりますが20秒以内に完了します。
この関数では渡されたコレクション1要素に対し1つのジョブを割り当て、同時に5ジョブまで(呼び出し元を含めて同時稼働が6プロセスまで)を並列実行するようにしています。
ただこれはあくまでなんちゃって並列処理なので、並列化することで本当に処理が高速になるかどうかは環境次第かと思います。一応、うちのCore2Duo (2コアCPU)な環境だと、足し算を3万回ほどする処理を10回行う場合、逐次処理とこの関数を使った並列処理では54秒が39秒に短縮され、有意な実行時間差が出ました。
またジョブを開始するのに新しくプロセスを起動させるので、1ループあたりの実行時間がプロセス起動にかかる時間より短ければ、この関数による並列化で処理時間の短縮は見込めません。
処理の対象が複数のリモートPCである場合などは割と有効なのかなと思います。たとえば複数サーバーから別々のファイルを同時にダウンロードするときなど。
ここではParallel.For()やParallel.ForEach()相当の関数を書きましたが、Parallel.Invoke()のような関数も書けるかと思います。スクリプトブロックの配列をStart-Jobで順に走らせ、Wait-Job, Receive-Jobする感じですね。
あとここではやりませんでしたが、Start-Jobの代わりにInvoke-Commandを使い複数のリモートPCに処理を振り分ければ、なんちゃって分散処理もできるのかなあと思いました。
おわりに
実はこのスクリプトを書いたのはPS Workflowの調査前のことで、Workflowで同様のことが可能になることを知って少々愕然としたのですが、それなりに面白いスクリプトかと思ったので公開することにしました。ともあれ、これからのマルチコア、メニーコアの時代、非同期処理や並列処理はますます重要になるかと思います。管理スクリプトにおいてもこれらの概念を意識しないわけにはいかなくなるでしょう。全4回にわたってPowerShellのバックグラウンド機能を解説してきましたが、これらがあなたの非同期&並列スクリプトライフ(?)の一助になれば幸いです。
さてさて、これでPSアドベントカレンダー2011もおしまいです。楽しんでいただけたでしょうか? 私自身も自分で記事を書いていて楽しかったですし、他の方の記事を読むのも色々な発見があり、とても有意義な25日間でした。記事を書いて参加していただいた方々、そして読者の方々に厚く御礼申し上げます。これからもぜひ、PowerShellを活用し、楽しんでくださいませ。
それでは皆様、良いクリスマスをお過ごしください!
プライバシーポリシー