> CAMでΦ5.2の掘り込みの輪郭加工で、Φ5のエンドミルを指定すると「アプローチ位置が近すぎます」と出ます
>
> Φ3のエンドミルでなら出来ますが、Φ5で出来る方法はあるのでしょうか

アプローチ距離が工具半径以上無いと経路が計算できないからです。
この場合は、工具中心経路を作図してから「線加工」にて加工して下さい。