Vlastimil Hrubý začínal s fotbalem v klubu FC Miroslav, odkud si ho vytáhla Zbrojovka Brno. V Brně se ale do A týmu natrvalo neusadil a prošel několika hostováními v Kohoutovicích, Xaverově a Bystrci.

Zásadní zlom v kariéře přišel přestupem do Znojma, kde byl u dvou postupů týmu do první ligy. Po sestupu Znojma z ligy si jej do služeb povolal Jablonec, kde se stal jedničkou v aktuálním ligovém ročníku.