分周設定のNDIVは、"VDIV/V+"の電圧比で決まり、許容されている電圧比は±1.5%となります。この電圧比が異なっていることによるり、所望の周波数を得られないことがあります。 

例えば、分圧している抵抗値が小さい事により電圧降下が発生したとします。この電圧降下が原因で、VDIV/V+の許容電圧比を満たしていない可能性が考えられます。分圧抵抗を大きくする見直しなどを行ってください。