1) Я не использовал встроенных FEC, пакетизаторов, и прочих умностей, принимал "raw data" прямо с демодулатора, пустив их на GDO1. И там дальше делал программно ФАП и битовую синхронизацию. Таймауты - конечно использовались. Но ничего встроенного. Так было, что все встроенное не подходило под ТЗ никаким боком.

2) ну это сильно задано :) Фильтр определяется исходя из вида модуляции и скорости. Скорость из ТЗ. А с антеннами и топологией - лучше всего сделать по референс-дизайну и не париться, если не спец по СВЧ. Модуляцию - если не определено отдельно в ТЗ - FSK/MSK ставьте.