Wcześniej prowadził "Wilki" w latach 2007-2009 i pod koniec pracy zdobył pierwsze i dotychczas jedyne w historii klubu mistrzostwo Niemiec. W karierze trenerskiej pracował także w Hamburgerze SV, Nuernberg, Eintrachcie Frankfurt, VfL Stuttgart, Bayernie Monachium oraz Schalke 04. VfL Wolfsburg zajął w sezonie 2011/2012 8. miejsce w rozgrywkach Bundesligi.