материалов книги Сергиенко синтезировать требуемый вам фильтр с помощью функций MatLab, а потом реализовать его в железе. Но все равно без теории не обойдетесь. И результат такого синтеза будет целиком зависеть от того, насколько хорошо вы представляете требования к фильтру. По поводу БПФ. совсем для старта почитайте Юкио Сато "Цифровая обработка сигналов". Про фильтры там не написано, а жаль. В Рабинере-Голде вполне можно разобраться, я в свое время по нему БПФ разбирал. И разобрал-таки. Удачи ...