Если включить igmp snooping (должен поддерживаться управляемыми свитчами второго уровня) и выставить опции фильтрации мультикаст страфика "filter unregistered", то пакеты будут форвардиться только в те порты, которые подписывались на твою группу.

При взаимодействии с другими свитчами появляется много вариантов.
Вообще тема не столько сложная, соклько пакостная.