La única manera de poder hacerlo es desinstalando el paquete con la opción --purge como por ejemplo con el siguiente comando borras la configuración de ebox-squid:
$ sudo apt-get remove --purge ebox-squid
Si quieres borrar todo eBox, usa el paquete base libebox.
Un saludo.