> そもそも点線の点が1として間隔が1、画面縮小すると間隔が5とか10とか・・・
>
> 他の線は問題ないのですが、点線だけです。

Windowsには細線以外は実線しか描く機能が無いのです。
そのため、実線以外は直線にて近似して描いています。
何十年も調整して行き着いた結果なので、残念ながら出来ません。
とりあえずは、拡大しましょう。