Weider był, wraz z bratem Benem, jednym z założycieli Międzynarodowej Federacji Kulturystyki (IFBB) oraz inicjatorem konkursów Mr. Olympia, Ms. Olympia oraz nieistniejącego już Masters Olympia. Podczas wielu lat kariery zawodniczej i później trenerskiej Weider założył i był wydawcą kilku bardzo popularnych magazynów, takich jak "Muscle and Fitness", "Shape", "Flex" i "Men's Fitness". Był też właścicielem kilku firm produkujących sprzęt do zajęć. Weider był mentorem, patronem i trenerem młodego Arnolda Schwarzeneggera, późniejszego gwiazdora filmowego i gubernatora stanu Kalifornia, który zaczynał swą karierę właśnie od kulturystyki i był siedmiokrotnym zwycięzcą konkursu Mr. Olympia. Schwarzenegger przyjechał do Stanów Zjednoczonych z inicjatywy Weidera, który ułatwił mu nawiązanie kontaktów biznesowych a nawet uzyskanie pierwszej roli filmowej. "Joe Weider był tytanem przemysłu fitness, człowiekiem o wielkim sercu i jednym z najżyczliwszych ludzi, jakich spotkałem" - napisał Schwarzenegger na swojej stronie internetowej.