...напутали c burst/block/repeat mode и DMA тупо выдает несколько раз буфер при каждом переполнении таймера. наверное, лучше для отладки в буфер записать более узнаваемые данные, например, половина-высокочастотный меандр, половина- низкочастотный или другие варианты. Я AVI синусом отлаживал - сразу все косяки видно.