На альтере сделый. На каком-нибудь epm1270, умножитель с делителем должны влезть, остальное - мелочи:-)) Только смысла нет такой херней заниматься.И из-за обменов и вообще. Как вариант - отойди немножко от ieee754. В нем достаточно много ресуросов занимает распаковка-упаковка. Можно так - 3-х байтовая нормализованная мантисса со знаком и без скрывания старшей 1. Один байт на порядок. Ну и свои ф-ии сложения-умножения-деления. А еще проще выбросить avr и поставить что-нибудь приличное, раз уж дело дошло до быстрого обращения матриц.