Konrad urodził się około 900 r. w Altdorfie w Badenii-Wirtembergii. Był synem Henryka z potężnego rodu Welfów i jego żony Aty, którzy ufundowali opactwo w Weingarten. Nauki pobierał w szkole katedralnej, a gdy ją ukończył, został prepozytem, czyli przełożonym kapituły katedralnej w Konstancji. W 934 r. po śmierci Nothinga został biskupem diecezji.
Ze sporego spadku, jaki mu zostawił ojciec, Konrad ufundował liczne kościoły, klasztory i szpitale, m.in. szpital w Kreuzlingen, wyposażony przez niego we fragment krzyża, przywiezionego z Jerozolimy. Konrad odbył trzy pielgrzymki do Ziemi Świętej i wiele razy do Rzymu. Pełniąc obowiązki biskupa, starał się unikać polityki. Uczestniczył jednak w sejmach w 948 r. w Ingelheim i w 952 r. w Augsburgu, a od 962 r. towarzyszył cesarzowi Ottonowi I w pielgrzymkach do Włoch. Zmarł podczas jednej z nich w drodze do Rzymu 26 listopada 975 lub 976 r. Pochowany został w kościele św. Maurycego w Konstancji. W 1089 r. jego relikwie przeniesiono do katedry, ale nie przetrwały do dzisiaj; w 1526 r. protestanci wrzucili je do jeziora.
Kult Konrada zaczął szerzyć Ulryk I z Dillingen, biskup Konstancji w latach 1111-1127. Życiorys Świętego został spisany dopiero w 1120 r. przez Udalschalka, mnicha i opata z opactwa św. Ulryka i św. Afry w Augsburgu. Odległa od śmierci Konrada z Konstancji data powstania tego dokumentu spowodowała, że jest w nim wiele nieścisłości i braków. Mimo to kult Konrada został zatwierdzony podczas Soboru Laterańskiego w 1123 roku.
W ikonografii św. Konrad ukazywany jest często jako biskup z kielichem mszalnym w ręku, w którym jest pająk (czasami pająk unosi się ponad kielichem). Takie przedstawianie wynika z pewnej historii. Gdy Konrad celebrował Mszę świętą, do kielicha wpadł pająk. W tamtych czasach uważano, że pająki są śmiertelnie trujące. Konrad spożywając Krew Pańską z utopionym w niej pająkiem dał więc świadectwo wiary.