Rinne przez pierwsze cztery lata głównie występował w filialnym klubie Milwaukee Admirals w niższej lidze AHL. Na dobre w bramce Predators zadomowił się w sezonie 2008/09. Od tamtego czasu w 22 spotkaniach zachował czyste konto. Takim wynikiem w trzech ostatnich latach nie może się pochwalić żaden inny bramkarz.