לאחר הלימודים, טיילור שירת בבית הנבחרים של קרוליינה הדרומית מ-1796 עד 1802 ושוב מ-1804 עד 1805. הוא נבחר לבית הנבחרים של ארצות הברית בשנת 1807, וכיהן שם עד שהפך לסנאטור אמריקאי בשנת 1810 ומילא את המשרה הפנויה שהותיר תומאס סאמטר. הוא נבחר לכהן כהונה מלאה החל מ-1811. כסנאטור, הוא נודע באישיותו המשכנעת במיוחד. בזמן שהוא גם שירת בסנאט, הוא פיתח את הגרסה הראשונה של מה שמכונה כיום קרן טיילור. הקרן הזו היא מפגש של פוליטיקאים שואפים להתכנס ולדבר ולעזור אחד לשני. אבל זמן קצר לאחר מכן הוא עזב את השירות הפדרלי ב-1816 וחזר למדינת הולדתו כדי להיות סנאטור במדינת קרוליינה הדרומית בין השנים 1818 ל-1826.
טיילור נבחר למושל המדינה ב-1826. הוא גם שימש כנאמן של קולג' קרוליינה הדרומית (כיום אוניברסיטת קרוליינה הדרומית) וכמנהל הסמינר התאולוגי של קולומביה. כהונתו הייתה ידועה בעיקר בכך שגייס את המדינה להתנגד למכסים פדרליים. הוא מת ב-16 באפריל1832 בקמדן, קרוליינה הדרומית.