まずは確認から。


プロセスは、１つ以上のスレッドとその実行に必要なリソース群　(CPU cores, network, file pointers etc...)、をひとまとめにしているものです。


Python ではこのリソース群のことを GIL (Global Interpreter Lock) と呼びます。


１つのプロセスは複数のスレッドを保持することができますが、GIL はたった１つしか持つことができません。


Python ではスレッドが実行される際、そのスレッドが GIL を所有しているかがチェックされます。


よって、１つのプロセスで１度に実行できるスレッドは常に１つだけです
（たとえそのプロセスが２つのスレッドを持ち、２つのコアにそれぞれのスレッドを配置していたとしても、です）。


また CPU の１つのコアで１度に実行できるスレッドも１つだけです。


ですから、どんなにコア数が多い CPU を使用していても、プロセスが１つだけしか動いていない状況下では、動作しているコアは１つだけ、ということになります（あくまでも Python のプログラムに関してです）。


すなわち、Python におけるマルチスレッドというのは、GIL を保有しているスレッドが GIL を手放し、それを受け取った他のスレッドが実行され、そのスレッドがまた GIL を手放して...


といったように、GIL の受け渡しによって制御、実現されているものなんです
（これによって、よく言われる Dining philosophers problem - 食事する哲学者の問題 - を解決しています）。


じゃあ、マルチスレッドなんて意味ないじゃん。


そうなんです、意味を持つときもありますが、意味がないどころか逆効果になることさえあるんです。


では、Python においてマルチスレッドが意味を成すのはどんな時なのでしょうか？


それはずばり、ある１つのスレッドにおいて (CPU の動作速度からすれば) 莫大な待ち時間が発生する場合です。


例えば、ユーザーからの入力を受け付ける、ファイルにアクセスする、等を含む処理を実行する場合です。


このような場合、その時間のかかる操作を待つ間に GIL を一旦開放し、他のスレッドを動作させ、時間がかかる操作が終了した時点で GIL を返して処理を続けることで、シングルスレッド実行では延々と待っていなければならない時間を有効活用できます。


はっきり言って、Python におけるスレッド活用法は、「待ち時間を減らす」、これに尽きます。


逆に言えば、待ち時間がほぼ発生しないような複雑な計算処理を実行するだけの場合、いくら複数のスレッドに分割しても GIL の受け渡し等に関わるオーバーヘッドが生じる分、かえって全体の処理速度が落ちてしまうんです。


と、文字ばかり羅列してもなかなか伝わりづらいと思いますから、実際に動かして確認してみましょう。





上の２つの処理をまずシングルスレッドで実行してみましょう。





続けて複数のスレッドで動作させます。





total time と complex_calculation の実行時間がほぼ変わらないことに注目です。
すなわち、ask_user の実行時間のほとんど全てはユーザーからの入力待ち時間で、
このような状況の場合は複数スレッドにおける実行は非常に有効であることが分かると思います。


では、２つのスレッドとも複雑な計算をしなければいけない場合を見てみましょう。


まずはシングルスレッドで。





つづいて複数のスレッドで。





複数スレッドでの実行の方が合計処理時間が増加しています。
これは GIL の受け渡し等によるオーバーヘッドが生じている反面、待ち時間がほぼないため逆効果になってしまっているからです。


このように Python におけるマルチスレッドの利用は、待ち時間を有効活用するためのもの、と考えて間違いないと思います。