Urodzony w Niemczech Klein przeżył Holocaust i w 1951 roku przyjechał do Izraela. Jako zawodnik występował w Maccabi Tel Awiw, był też kapitanem reprezentacji. Karierę sportowca zakończył w 1965 roku. Jako trener największe sukcesy osiągnął z Maccabi, doprowadzając w 1977 roku ten zespół do pierwszego triumfu w najbardziej prestiżowych europejskich rozgrywkach pucharowych. Dwa lata później sięgnął z reprezentacją po srebrny medal mistrzostw Europy.