1. Замена по таблице - надо 32-битное число разрезать на тетрады (8 штук), каждую из которых заменить по своей таблице. Соответственно нужны команды доступа к таблицам, маскирования бит и т.д.
2. Циклический сдвиг на 11. Двигается результат предыдущей операции (замены), поэтому оптимизация идет заменой (11=8+3). Сдвиг на 8 делается просто заменой регистров. Сдвиг на 3 - по разному, можно в лоб, можно предварительной обработкой узла замены.
Если скорость не важна - можно просто все написать на Си, тупо в лоб. Для АРМа кстати на Си получается достаточно оптимальный вариант.