Jako szkoleniowiec Bayernu Monachium zdobył z nim sześciokrotnie (w 1972, 1973, 1974, 1985, 1986 i 1987 roku) Mistrzostwo Niemiec, trzykrotnie (w 1971, 1984 i 1986 roku) Puchar Niemiec i Puchar Mistrzów (obecną Ligę Mistrzów) w 1974 roku.
Jako trener Borussii Mönchengladbach zdobył w 1976 i 1977 roku Mistrzostwo Niemiec i Puchar UEFA w 1979 roku.
Trenując FC Barcelonę wygrał w 1982 roku Puchar Zdobywców Pucharów, w finale Barcelona pokonał belgijski Standard Liège 2:1.