הרדי נולד ב-16 בדצמבר1855 במחוז מונרו, מיסיסיפי, לג'ורג' וושינגטון ולפאולין ג'יי (וויטקר) הרדי. המשפחה עברה למיליקן, טקסס, בשנת 1861.
הרדי נרשם למכון סומרוויל במחוז נוקסובי, מיסיסיפי, בשנת 1871, וקיבל את תואר ה-LLB שלו מאוניברסיטת ג'ורג'יה ב-1875. ב-1876, הוא פתח את משרד עריכת הדין שלו בנבאסוטה, טקסס, ועבר לקורסיקנה, טקסס, ב-1878.
מ-1880 עד 1884 שימש כפרקליט תובע של מחוז נבארו, טקסס. הוא שימש כפרקליט המחוזי של המחוז השיפוטי ה-13 של טקסס 1884–1888, וכשופט מחוזי של אותו מחוז 1888–1896. הרדי היה חבר בית הנבחרים של ארצות הברית מטקסס בשנים 1907–1923. עם פרישתו מהקונגרס, חזר הרדי לעסוק בעריכת דין באופן פרטי בקורסיקנה.