Csernai był szkoleniowcem Bayernu od 1979 do 1983 roku. Dwukrotnie zdobył z Bawarczykami mistrzostwo kraju (1980, 1981), a także Puchar Niemiec (1982). W finale Pucharu Europy (obecna Liga Mistrzów) w sezonie 1981/82 monachijczycy przegrali z Aston Villa Birmingham 0-1. Później Węgier był trenerem m.in. Benfiki (wywalczył Puchar Portugalii w 1985 roku), Borussii Dortmund, Fenerbahce Stambuł, Eintrachtu Frankfurt i Herthy Berlin. W latach 1994-95 prowadził drużynę narodową Korei Płn.