Le Conseil Général du Pouvoir Judiciaire a été établi par la Constitution de 1978 (article 122), en suivant les modèles d’autres pays comme la France, le Portugal et, en particulier l’Italie. Sa création a été à ce moment-là une véritable innovation du constituant espagnol, puisqu’il est impossible de  trouver dans notre histoire le prédécesseur d’un organe de gouvernement autonome du Pouvoir Judiciaire et garant de son indépendance.

Dans l’histoire de l’Espagne, on trouve quelques lointains précédents d’institutions et tentatives de créer un organe qui garantisse l’auto-gouvernement du Pouvoir Judiciaire, du moins partiellement, mais aucune institution n’a atteint la même nature ni la même finalité que le CGPJ. En particulier, parce qu’un organe de ce type ne trouve sa véritable raison d’être que dans un régime démocratique, basé sur la séparation des pouvoirs et sous la tutelle effective des droits fondamentaux et libertés publiques.

Parmi ces prédécesseurs lointains, sont à souligner la Junta Centrale ou Suprême (1849), la Junta Organisatrice du Pouvoir Judiciaire (1923) ou le Conseil Judiciaire, créé par Décret Royal du 18 mai 1917, bien qu’il n’ait jamais réussi à fonctionner, ayant été abrogé en juillet de la même année. Il a été rétabli en juin 1926 pour être de nouveau abrogé en mai 1931. Aucun de ces exemples n’a été un précédent au sens strict. Le Conseil Judiciaire créé par la Loi du 20 décembre 1952 et qui fonctionna jusqu’à l’implantation du régime constitutionnel démocratique ne l’a pas été non plus.

C’est la Constitution française de 1946, qui, dans son Titre IX règlemente le Conseil Supérieur de la Magistrature qui a influé sur le constituant espagnol. Elle a été de même le prédécesseur des autres organes de finalité semblable établis ensuite dans la Constitution italienne de 1947 (à partir de ses articles 104 et 105) et dans celle du Portugal de 1976 (article 220). Le  modèle italien a été importé par les  deux Chambres constituantes dans leurs aspects fondamentaux, sauf en ce qui concerne ses composants qui, dans le cas espagnol, ont été fixés dans la Constitution.

Le développement normatif des prévisions constitutionnelles devait se produire par le biais de la Loi Organique du Pouvoir Judiciaire à laquelle fait allusion la propre Carta Magna. Cependant, a d’abord été dictée la Loi Organique 1/1980 du 10 janvier, du Conseil Général du Pouvoir Judiciaire, face à la nécessité de mettre en marche le Tribunal Constitutionnel puisque deux de ses membres devaient être proposés par le CGPJ, en accord avec la Constitution (article 159.1). Plus tard,  serait approuvée la Loi Organique 6/1985 du 1er juillet, du Pouvoir Judiciaire (LOPJ), dans laquelle est règlementé de façon définitive le Conseil, étant abrogée la Loi Organique de 1980, et qui a impliqué un changement dans le mode d’élection des membres d’origine judiciaire, système qui a été réformé en 2001.

La LOPJ a subi, à son tour, des réformes partielles ensuite par des Lois Organiques qui, dans certains cas, y ont été expressément consacrées, et dans d’autres, l’ont affectée en raison de la matière (Juridiction Militaire, Tribunal de Jurés, etc).

El CGPJ est régi par la Constitution, par la LOPJ et par son propre règlement intérieur: Le Règlement 1/1986 du 22 avril, d’Organisation et Fonctionnement du Conseil Général du Pouvoir Judiciaire, dont l’approbation revient au Conseil.

Le modèle espagnol a été un référent pour la création d’organes constitutionnels similaires en Amérique Latine, en particulier en Argentine.