משרת שר המשפטים נוצרה על ידי אלכסנדר הראשון, קיסר רוסיה בספטמבר 1802, אך קדמה לה תפקיד הגנרל פרוקורור משנת 1722 שכיהן במקביל גם כראש משרד המשפטים מספטמבר 1802 כשחובותיו במקור היו לפקח על מערכת המשפט באמצעות הסנאט הרוסי. הגנרל פרוקורור של רוסיה היה אחד מתפקידי המדינה הבכירים ביותר באימפריה הרוסית. המשרה נוסדה בצו קיסרי של פיוטר הגדול ב-12 בינואר 1722 ומלכתחילה נועד הגנרל פרוקורור להיות ראש לשכת הסנאט והאחראי לוודא את יישום החלטות הסנאט וניהולו התקין. במקביל היה אמון על ניהול משרד התביעה הכללית, שעסק בפיקוח על החלטות מינהליות וערכאות משפטיות. כך היה המצב עד לפרוץ מהפכת פברואר בשנת 1917.
בשנת 1936 תפקיד התובע הכללי של ברית המועצות הופרד מתפקידו של שר המשפטים וקומיסר המשפטים העממי מונה כשר ממשלתי האחראי לענייני משפט. מצב שנמשך לאורך כל התקופה הסובייטית גם לאחר שינוי שם המשרה מקומיסר המשפטים העממי לשר המשפטים.
בשנת 1991 מונה שר המשפטים של הפדרציה הרוסית, אך עדיין נותר תפקיד זה נפרד מתפקיד התובע הכללי.
שר המשפטים אחראי למתן שירות לציבור בתחום המשפט בהתאם למדיניות הממשלה ותוך הגנה על שלטון החוק. השר ומשרדו אמונים על שורה ארוכה של נושאים ותחומי פעילות משפטיים ומקצועיים שונים, ובין תפקידיו העיקריים הם ארגון מערכות בתי המשפט, בתי הדין ושירות ההוצאה לפועל הפדרלי, הכנת נוסח החקיקה הממשלתית, ליווי החקיקה הפרטית ופרסום ברשומות, אכיפת החוק הפלילי באמצעות מערכת התביעה הכללית, ייצוג המדינה בפני ערכאות שיפוטיות ומעיין שיפוטיות, ביצוע חוקים ששר המשפטים ממונה על ביצועם, ובכלל זה מתן שירותים משפטיים והסדרה בתחומים משפטיים ומקצועיים מגוונים.
שר המשפטים, כחבר הממשלה, ממונה על משרד המשפטים מבחינה מנהלית ותקציבית ומבחינה מקצועית. בתחומי אחריותו מצויים כל מערכות בתי המשפט ובתי הדין ומשרדי ההוצאה לפועל. שר המשפטים איננו מתערב בתיקים ספציפיים, אולם יש בידו לקבוע הנחיות הנוגעות למדיניות כללית של התביעה והפרקליטות, ולהחלטות התובע הכללי.