Если мега молотит на 16 мегагерцах,
то 10-битный шим получится на 16М/1024 = 16Килогерцах несущей.

Соответственно, вам нужно подавить частоту 16 килогерц и оставить 5 герц. Это несложно сделать RC-фильтром. Про фильтры высоких порядков в
данном случае, по-моему, бред. У вас частоты различаются считайте на десять-двенадцать октав. Тут ЛЮБОЙ фильр справится нормально и точность обеспечит вполне приемлемую (по крайней мере, не хуже дискрета).

Другой вопрос - с дискретизацией по времени. При частоте ШИМ 16 килогерц у вас получается около 3000 точек на период - это примерно в два раза больше, чем нужно для ПОЛНОГО использования 10-битной разрядной сетки.