Ivica Osim je rođen u Sarajevu 1941. godine. Igračku karijeru započeo je u Željezničaru, za koji je nastupao ukupno 11 godina i za to vreme je imao 250 zvaničnih nastupa i postigao 75 golova

Godine 1970. odlazi u Francusku, gde je igrao za Strazbur, Sedan i Valensijan.

Igrao je za reprezentaciju bivše Jugoslavije. Imao je 16 nastupa, pri tome postigavši osam golova. Proglašen je za najboljeg igrača Jugoslavije za 1967. godinu.

Igračku karijeru je okončao 1978. godine, nakon čega se vrlo uspešno bavio trenerskim poslom. S uspehom je vodio Željezničar od 1978. do 1986.

Bio je i selektor reprezentacije Jugoslavije, trener Partizana, Panatinaikosa, Šturma, Džef junajteda, a poslednji trenerski angažman imao je kao selektor Japana.

Sa Partizanom je osvojio Kup Jugoslavije 1992. godine.

Osim je od 1992. do 1994. godine bio trener grčkog Panatinaikosa, a osvojio je Kup Grčke 1993. i 1994. godine, dok je drugo mesto na tabeli osigurao 1993. godine.

Između 1994. i 2002. godine je vodio austrijski Šturm, koji je doveo do naslova prvaka 1998. i 1999. godine, kao i osvajanja austrijskog Superkupa 1998. i 1999. godine, a nastupao je i u Ligi šampiona od 1998. do 2000. godine.

Trenersku karijeru gradio je u Japanu od 2003. do 2007. godine.

Osim je 16. novembra 2007. imao moždani udar, a deset dana kasnije se probudio.