El Consejo General del Poder Judicial fue establecido por la Constitución de 1978 (artículo 122), siguiendo los modelos de otros países próximos como Francia, Portugal y, en especial, Italia. Su creación fue en su día una auténtica innovación del constituyente español, ya que no es posible hallar ningún antecedente directo en nuestra historia de un órgano de gobierno autónomo del Poder Judicial y garante de su independencia.

En la historia de España se encuentran algunos precedentes remotos de instituciones e intentos de crear un órgano que garantice el autogobierno del Poder Judicial, al menos parcialmente, pero ninguna alcanzó la misma naturaleza y finalidad que el CGPJ. En especial porque un órgano de este tipo solamente encuentra su auténtica razón de ser dentro de un régimen democrático, basado en la separación de poderes y en la tutela efectiva de los derechos fundamentales y libertades públicas.

Entre esos antecedentes remotos destacan la Junta Central o Suprema (1849), la Junta Organizadora del Poder Judicial (1923) o el Consejo Judicial, creado por Real Decreto de 18 de mayo de 1917, aunque nunca llegó a funcionar al ser derogado en julio de ese mismo año. Se restableció en junio de 1926 para ser nuevamente derogado en mayo de 1931. Ninguno de estos ejemplos fue un precedente en sentido estricto. Tampoco lo fue el Consejo Judicial creado con la Ley de 20 de diciembre de 1952 y que operó hasta la implantación del régimen constitucional democrático.

En el constituyente español influyó la Constitución francesa de 1946, que en su Título IX regula el Consejo Superior de la Magistratura. Fue el precedente de los demás órganos de similar finalidad establecidos después en la Constitución italiana de 1947 (a partir de sus artículos 104 y 105) y en la portuguesa de 1976 (artículo 220). El modelo italiano fue importado por las Cortes constituyentes en sus aspectos fundamentales, salvo por lo que se refiere a sus componentes que, en el caso español, quedó fijado en la Constitución.

El desarrollo normativo de las previsiones constitucionales debía producirse a través de la Ley Orgánica del Poder Judicial a la que alude la propia Carta Magna. Sin embargo, se dictó primero la Ley Orgánica 1/1980, de 10 de enero, del Consejo General del Poder Judicial, ante la necesidad de poner en funcionamiento el Tribunal Constitucional ya que dos de sus miembros debían ser propuestos por el CGPJ, de acuerdo con la Constitución (artículo 159.1). Con posterioridad, se aprobaría la Ley Orgánica 6/1985, de 1 de julio, del Poder Judicial (LOPJ), donde se reguló de forma definitiva el Consejo, derogándose la Ley Orgánica de 1980, y que implicó un cambio en la forma de elección de los vocales de procedencia judicial, sistema que fue reformado en 2001.

La LOPJ ha experimentado, a su vez, reformas parciales ulteriores a través de Leyes Orgánicas que, en algunos casos, se dedicaron expresamente a ello y, en otros, le afectaron por razón de la materia (Jurisdicción Militar, Tribunal del Jurado, etcétera).

El CGPJ se rige por la Constitución, por la LOPJ y por su propio reglamento interno: el Reglamento 1/1986, de 22 de abril, de Organización y Funcionamiento del Consejo General del Poder Judicial, cuya aprobación corresponde al Consejo.

El modelo español ha sido referente para la creación de órganos constitucionales similares en Iberoamérica, en especial en Argentina.