Rupert urodził się 23 stycznia 1876 roku w Stuttgarcie (Niemcy) w zamożnej rodzinie kupieckiej jako drugi syn Ruperta Mayera i Emilii z domu Wörle. Po ukończeniu liceum powiedział ojcu, że chce zostać jezuitą. Ten jednak polecił mu najpierw przyjąć święcenia kapłańskie. Rupert postąpił zgodnie z wolą ojca. Studiował jako świecki teologię i filozofię we Fryburgu, Monachium i Tybindze. Do seminarium wstąpił w Rottenburgu. 2 maja 1899 roku został kapłanem. Pracował jako wikariusz w parafii. Zakonnikiem został dopiero rok po święceniach kapłańskich - w 1900 roku wstąpił do jezuitów w Austrii. Nie mógł tego zrobić w swojej ojczyźnie, ponieważ zakon miał tam zakaz działania.
W 1912 roku osiedlił się w Monachium i mieszkańcom tego miasta poświęcił resztę swojego życia. Był duszpasterzem i opiekunem ludzi, którzy przybywali tam licznie w poszukiwaniu pracy i stawali się łatwym łupem wyzyskiwaczy. Założył wraz z dwoma kapłanami Zgromadzenie Sióstr Świętej Rodziny wspierające najuboższych, a w szczególności kobiety pracujące. Jego posługę w tym mieście przerwała I wojna światowa. Po jej wybuchu Rupert Mayer został kapelanem wojskowym i starał się być aniołem stróżem żołnierzy walczących na froncie Polski, Francji i Rumunii. Został odznaczony najwyższym medalem niemieckiej wojskowości: Krzyżem Żelaznym pierwszego stopnia. Znany był z odwagi, gdyż pozostawał wraz z żołnierzami na pierwszej linii frontu w czasie bitew. W 1916 r., chroniąc własnym ciałem towarzysza walki, w wyniku wybuchu granatu stracił lewą nogę.
Po wojnie powrócił do Monachium i pracował tam w parafii św. Michała. Szczególną posługę pełnił, jak przed wojną, wśród najuboższych - a po wojnie znacznie ich przybyło. W tym okresie swojej posługi kapłańskiej głosił 70 kazań i konferencji miesięcznie. Wprowadził w życie nowatorski pomysł odprawiania niedzielnych Mszy świętych na dworcu głównym w Monachium - dla wygody pasażerów. W 1919 roku poznał osobiście Hitlera i ocenił go jako "wyjątkowego mówcę i podżegacza, który nie przywiązuje zbytniej wagi do prawdy". Niemalże natychmiast też zaangażował się w walkę z ideologią narodowo-socjalistyczną.
W 1923 roku przybył na spotkanie nazistów w słynnej piwiarni Bürgerbraukeller, gdzie witany był entuzjastycznymi brawami przez tłumy oczarowane przez Hitlera. Był już wówczas znanym i szanowanym kapłanem i myślano, że zamierza przyłączyć się "do sprawy". On jednak w pierwszych słowach przemówienia stwierdził, że nie można być jednocześnie katolikiem i nazistą. Czynił to otwarcie, narażając się na represje. Swoją niezgodę na tezy głoszone przez Hitlera wyrażał także na spotkaniach NSDAP, próbując walczyć ze szkodliwymi przekonaniami u samego ich źródła.
Był główną postacią katolickiego ruchu oporu w Trzeciej Rzeszy w Monachium. Nazywano go "kulawym apostołem", a jego sława szybko uczyniła z niego bardzo istotnego wroga NSDAP. Po 1933 roku i przejęciu przez nią władzy wydano Rupertowi Mayerowi zakaz głoszenia kazań. Jego jednak obowiązywało głównie posłuszeństwo wobec przełożonych zakonnych, a ci popierali jego działalność i zostawili mu wolną rękę. Zakazu więc nie posłuchał.

Po raz pierwszy został na krótko aresztowany w 1937 roku, ale wykonanie kary czasowo odroczono, licząc się z jego popularnością. Mówił o sobie: "Stary jednonogi jezuita - jeżeli to jest wolą Bożą - żyje dłużej niż tysiącletnia bezbożna dyktatura". Na prośbę przełożonych przestał głosić kazania, ale gdy tylko posłyszał opinię Gauleitera (przywódcy NSDAP na określonym terenie), że kapłanów wystarczy postraszyć więzieniem, a zaprzestaną swej działalności wywrotowej - powrócił do głoszenia.
Został ponownie aresztowany 5 stycznia 1938 roku. Podczas jednego z przesłuchań powiedział: "Możecie mnie zgładzić, ale prawda musi być wypowiedziana". Wyszedł jeszcze przed zakończeniem 6-miesięcznego wyroku w rezultacie amnestii. W celi demonstracyjnie pozostawił swój Krzyż Żelazny.
Trzeci raz zatrzymano go w 1939 r. po odmowie udzielenia informacji o podejmowanej działalności duszpasterskiej. Wówczas został zesłany do obozu koncentracyjnego w Oranienburgu koło Berlina, pomimo faktu, że miał wtedy już 63 lata. Tam przez 7 miesięcy trzymano go w odosobnieniu, w pojedynczej celi. Powiedział później: "Łzy radości stanęły mi w oczach, gdy z powodu mego powołania zostałem zaszczycony więzieniem i niepewną przyszłością".
Hitlerowcy wiedzieli jednak, że zanim zabiją jego, muszą zabić jego sławę. Kiedy więc stan zdrowia Ruperta Mayera gwałtownie się pogorszył na skutek obozowych warunków życia - wypuścili go i internowali w benedyktyńskim opactwie w Ettal. W ten sposób przynajmniej uniknęli rozsławienia go jako męczennika. Z kolei on sam pozostał z bolesną świadomością, że wielu jego rodaków, niemających aż tak sławnego imienia, umiera w obozach, podczas gdy on jest bezradny. W 1945 roku amerykańskie wojska odbiły klasztor z rąk hitlerowskich, a Rupert Mayer korzystając z odzyskanej wolności powrócił do Monachium i podjął ponownie działalność duszpasterską. Starał się przekonywać ludzi, by nie sądzili siebie nawzajem i żyli w pokoju.
Niedługo jednak przyszło mu głosić przebaczenie. Zasłabł podczas celebracji Eucharystii w dniu Wszystkich Świętych 1945 roku. Stracił mowę podczas głoszonego przez siebie kazania - nagle zatrzymał się na słowie "Pan!", kilkakrotnie je powtórzył i osunął się. W kilka godzin później zmarł w szpitalu. Bezpośrednią przyczyną jego śmierci był atak serca.
Jest autorem znanych aforyzmów, między innymi tego: "Wszystko tak szybko przemija i nim się spostrzeżemy, dobiliśmy już do kresu życia", ale także: "Panie, jeśli Ty chcesz, na wszystko mam czas, teraz i w wieczności".
Został beatyfikowany przez św. Jana Pawła II 3 maja 1987 roku. Beatyfikacja odbyła się na wypełnionym po brzegi Stadionie Olimpijskim w Monachium. Papież powiedział wtedy: "Tam, gdzie Bóg i Jego prawa nie są honorowane, tam prawa człowieka są gwałcone".
Szkoła imienia Ruperta Mayera znajduje się w Pullach koło Monachium przy ul. Pater Rupert Mayer. Początkowo w tej samej miejscowości, przy tej samej ulicy, znajdowały się jego ziemskie szczątki. Później jednak, z uwagi na duży ruch pielgrzymów, przeniesiono je do Monachium, gdzie spoczywają w skromnej kaplicy przy głównym deptaku Neuhauserstraße, w dzielnicy handlowej.
W Bawarii wiele ulic nosi imię Ruperta Mayera, podobnie jeśli chodzi o szkoły i kaplice. Działająca w Polsce fundacja jego imienia pomaga sierotom i dzieciom w trudnej sytuacji społecznej.