"What the Hell" נכתב על ידי לאבין, מקס מרטין, ושלבאק, ואילו שני האחרונים הפיקו את השיר. הוא הוקלט ב-Maratone Studios בסטוקהולם, שוודיה. זהו השיר השני ששלושתם כתבו יחד, הראשון הוא "Dancing Crazy" של מירנדה קוסגרוב. בנובמבר 2010, לאבין הודיעה באמצעות בלוג באתר הרשמי שלה שהאלבום הרביעי שלה, Goodbye Lullaby, הוקלט במשך שנה וציינה את חברת התקליטים שלה כסיבה לעיכובים באלבום. היא חשפה בבלוג ש-"What the Hell" יהיה הסינגל הראשון מהאלבום. השיר הוצג בבכורה ב-31 בדצמבר 2010 בערב השנה החדשה של דיק קלארק, במהלך קטע שהוקלט מראש יחד עם ביצוע של "Girfriend". לאבין תיארה את "What the Hell" כ"שיר מסיבה ממש כיף ואופטימי, אז זה הסתדר ממש טוב לנגן אותו בפעם הראשונה בערב הרוקינן של השנה החדשה. למחרת, השיר היה זמין להורדה בחינם למשך 48 שעות בעמוד הפייסבוק הרשמי של לאבין.
"What the Hell" זכה לביקורות חיוביות ממבקרי מוזיקה, שציינו קווי דמיון בין "What the Hell" לסינגל הקודם של לאבין, "Girfriend" גיל קאופמן מ-MTV.com הצהיר כי ל-"What the Hell" יש "אנרגיית מעודדות מעוררת" ו"גרוב מדבק ואווירה מעודדת". ג'ודי רוזן ממגזין רולינג סטון אמר כי "המוזיקה היא בקלות מהקליטות ביותר של אבריל עד כה", ותיארה אותה כ"אבריל בקצרה". ב-Idolator תיארו את השיר כ"גילטי פלז'ר" וכינו אותו "סוג הרצועה שאנו בוחרים רק לאחר בדיקה כפולה שאף אחד לא מסתכל על האייפוד שלנו". ניק לוין מדיגיטל ספיי נתן לשיר דירוג "מושלם". הוא הסביר שלאבין "יותר מנוזלת מרקמה שנזרקה לפח במרפאת השפעת [אבל] מה שכן, היא מושכת אותה". לוין הוסיפה כי "What the Hell" לא היה "בלתי ניתן להכחשה" כמו "Girlfriend", אך שיבח את הפזמון של השיר.