aptコマンドのパッケージにglobって指定できませんでしたっけ。
例えばgstreamer関連のパッケージを全部削除したい場合に
$ sudo apt purge gstreamer\*
とやるとgstreamer...という名前の全てのパッケージが消される,みたいな。

とりあえず
$ sudo apt-get --purge remove gstreamer\*
とやると上手くいく。ただ,aptで出来たはずなので,どこかで無効化されているのかも?