מקלורין נולד ב-9 במאי1860 ברד בלוף שבקרוליינה הדרומית, במחוז מרלבורו, ולמד בבתי ספר בבנטסוויל שבקרוליינה הדרומית ובאנגלווד שבניו ג'רזי, כמו גם באקדמיה הצבאית בית'ל (ליד וורנטון שבווירג'יניה) ובמכללת סווארת'מור (בפנסילווניה). כבוגר המכון הצבאי של קרוליינה, הוא למד משפטים באוניברסיטת וירג'יניה בשארלוטסוויל, התקבל ללשכת עורכי הדין ב-1883 והחל לעסוק במקצוע בבנטסוויל. הוא כיהן כחבר בבית הנבחרים של קרוליינה הדרומית בשנים 1890–1891 וכתובע הכללי של המדינה מ-1891 עד 1892. בתקופה שבה בנג'מין טילמן פנה בפניות דמגוגיות למעמד הפועלים הלבן, מקלורין הפך לאחד מהראשונים בקרוליינה הדרומית מהמעמד הגבוה שתמכו בו. בשנת 1892 הצמיד טילמן למקלורין את הכינוי "ג'ו עם ראש מתולתל קטן" שנדבק בו לשארית חייו.
מקלורין נפרד מטילמן ב-1894 והם הפכו לאויבים מרים. טילמן האשים אותו בקבלת שוחד מתעשיית הטקסטיל, מה שהוביל לקרב האגרוף המפורסם בין השניים במליאת הסנאט ב-22 בפברואר1902. שני הגברים ננזפו על התקרית.