В общем вроде разобрались, проблема заключалась в следующем в момент начала сбора или передачи(я не понял точно) на Vref подсаживалось напряжение на 150мВ(где-то на 200нс) и это почему-то сильно влияло на передачу. Пришлось на Vref поставить ДОПОЛНИТЕЛЬНЫЙ фильтрующий конденсатор - сразу все заработало.