פיקל נולד ב-11 באוקטובר1913 ברוסקו, טקסס, וגדל בביג ספרינג. [1] הוא רכש את הכינוי שלו ג'ייק מדמות שובבה שגילם במחזה משפחתי כשהיה בן ארבע. פיקל היה בצופי נשר וזכה בפרס צופי הנשר הנכבד מקבוצת הצופים של אמריקה.
פיקל למד בבתי הספר הציבוריים בביג ספרינג וקיבל את התואר הראשון שלו באמנויות מאוניברסיטת טקסס באוסטין, שם היה חבר בנבחרת השחייה של ועידת דרום-מערב 1934 ונשיא הסטודנטים כבוגר ב-1937. הוא גם היה חבר באגודת הנזירים.
פיקל הוצג על ידי המושל לעתיד ג'ון קונלי לנציג לינדון ג'ונסון, ששימש כמנטור הפוליטי שלו. הוא סייע לאחרון במסע הבחירות שלו ב-1940 וסייע לליידי בירד ג'ונסון בניהול משרד הקונגרס. כאשר ארצות הברית הצטרפה למלחמת העולם השנייה, פיקל הצטרף לצי כקצין ירי והוצב על הסיירות USS סנט לואיס ו-USS מיאמי, ושרד שלוש התקפות טורפדו. כשהמלחמה הסתיימה, הוא, ג'ונסון וקונלי עזרו בהקמת תחנת רדיו (KVET) באוסטין, טקסס. לאחר 10 שנים בעסקי הפרסום, הוא הצטרף לוועד המנהל של הבחירות הדמוקרטיות של טקסס ב-1957.
פיקל נבחר כדמוקרט לקונגרס ה-88, בבחירות מיוחדות, כדי למלא את התפקיד הפנוי שנגרם כתוצאה מהתפטרותו של חבר בית הנבחרים הומר ת'ורנברי, שהפך לשופט מחוזי. פיקל נבחר מחדש 15 פעמים לפני שפרש בתום הקונגרס ה-103. הסימן המסחרי של הקמפיין שלו היה צעצוע גומי "מלפפון חמוץ חורק" שחילק לאלה שפגש במצעדים באזור.
פיקל הצליח לנווט כספי מחקר לאוניברסיטת טקסס, וכיום נקרא לכבודו קמפוס המחקר J. J. Pickle של האוניברסיטה. הוא היה בעל השפעה גם בעיר אוסטין, טקסס, בעיקר בשל העברת שדה התעופה הראשי של אוסטין מנמל התעופה העירוני רוברט מולר לנמל התעופה הבין-לאומי אוסטין-ברגסטרום. הוא גם סייע בהבאת קונסורציומים SEMATECH ו-MCC לאוסטין.
פגי פיקל הייתה בתו היחידה של ג'ייק פיקל. היא עדיין תורמת לאוניברסיטת טקסס באוסטין מטעם אביה. בשנת 1997, ג'ייק ופגי פיקל כתבו יחד ספר בשם "ג'ייק" עם הקדמה מאת מושלת טקסס לשעבר אן ריצ'רדס.