Urodzony w Sarajewie Osim w trakcie kariery piłkarskiej reprezentował barwy m.in. FK Zeljeznicar czy RC Strasbourg. Jako piłkarz zanotował 16 występów w kadrze Jugosławii, strzelając w nich osiem goli. Po zakończeniu kariery został trenerem. Ivica Osim nie żyje W 1986 roku nominowano go do roli selekcjonera reprezentacji Jugosławii, którą prowadził aż 50-krotnie. W kolejnych latach pracował z Partizanem Belgrad, Panathinaikosem Ateny czy Sturmem Graz. Austriacki klub prowadził, co warte odnotowania, aż przez osiem lat. Ostatnią prowadzoną przez niego drużyną była kadra Japonii (2006-2007). Zmarł w niedzielę, w wieku 80 lat.