Функция Хевисайда - это ведь просто ступенька. То есть обычная недифференцируемая функция. Дельта-функция является производной функции Хевисайда только в смысле дифференцирования обобщенных функций. В частности потому, что Функция Хевисайда так называется, я думаю что он ввел в анализ ступеньку, но не дельта-функцию.