Oi!
Tente executar este comando:
sudo iptables -nvL | grep -i youtube
Se a regra de firewall foi criada corretamente, você deverá ver algo assim. 0 0 REJECT tcp -- * * 0.0.0.0/0 0.0.0.0/0 tcp dpt:443 STRING match "youtube.com" ALGO name bm TO 65535 reject-with icmp-port-unreachable
Teste com outros domínios para ver se há alguma diferença.
Saudações!