El término "Estado de Derecho" es de procedencia alemana (Rechtsstaat). Proviene de la doctrina alemana del Estado, marcada por el iusnaturalismo racionalista, del primer liberalismo alemán, en el primer tercio del siglo XIX (Welcker, von Aretin, von Mohl), aunque el concepto recoge las aportaciones de numerosos pensadores anteriores, tanto alemanes (Kant, Pufendorf) como europeos (Coke, Grotius, Hobbes, Locke, Montesquieu, Rousseau). La historia del concepto de Estado de Derecho como tal está vinculada a la historia constitucional alemana, como se expondrá a continuación; pero las ideas incluidas en él constituyen la materia de reflexión de numerosas obras políticas, filosóficas y jurídicas elaboradas a lo largo de los últimos siglos.
En el primer liberalismo alemán el significado del concepto era el siguiente: A) Abandono de una fundamentación y finalidad transpersonal del Estado: el Estado no es un orden o una institución divina, sino una cosa común (res publica) al servicio del bien de todos los individuos. B) Limitación de los fines y tareas del Estado a la libertad y seguridad de la persona y su propiedad. C) Organización del Estado y regulación de la actividad estatal según principios racionales: aquí se incluye el reconocimiento de los derechos del ciudadano, la igualdad ante la ley, la garantía de la propiedad, la independencia de los jueces, la responsabilidad del gobierno, el imperio de la ley, y la existencia de una representación de los ciudadanos y participación de ésta en la función legislativa. Los conceptos opuestos al de Estado de Derecho no son monarquía o aristocracia, sino teocracia (el imperio de una verdad revelada) y despotismo (el imperio de la voluntad arbitraria de un autócrata o de la voluntad absoluta e ilimitada del pueblo). La idea básica es que, en lugar de seres humanos, el derecho debe gobernar. La esencia del concepto de Estado de Derecho queda sintetizada en el concepto de ley que se defiende en el periodo. La ley es una norma general, aprobada con el consentimiento de la representación popular en un procedimiento caracterizado por la discusión y la publicidad. Las ideas que subyacen al concepto de Estado de Derecho se puede rastrear en la Declaración de los Derechos del Hombre y del Ciudadano de 1789, el más influyente documento de la Revolución francesa: "La libertad consiste en poder hacer todo lo que no daña a los demás. Así, el ejercicio de los derechos naturales de cada hombre no tiene más límites que los que aseguran a los demás miembros de la sociedad el goce de estos mismos derechos. Estos límites sólo pueden ser determinados por la ley" (art. 4); "(...) todo lo que no es prohibido por la ley no puede ser impedido, y nadie puede ser obligado a hacer lo que ésta no ordena" (art. 5); "La ley es la expresión de la voluntad general. Todos los ciudadanos tienen el derecho de participar personalmente o por medio de sus representantes en su formación. Debe ser la misma para todos, tanto si protege como si castiga" (art. 6).
Con el concepto de Estado de Derecho se alcanzaba una suerte de compromiso entre los dos principios legitimadores del poder en oposición en la época, el principio monárquico y el principio democrático. La solución de compromiso resultante, la monarquía constitucional, evitaba en los Estados alemanes tanto el absolutismo monárquico (al estilo de los Imperios ruso y otomano) como la revolución de los de abajo (al estilo de la Revolución francesa).
Con la creación del Imperio alemán en 1870, triunfa un nuevo concepto legitimador del poder: el Estado. El concepto de Estado de Derecho desaparece de la discusión político-constitucional, y se opera la reducción del concepto a una interpretación formalista: las garantías anteriormente expresadas son preservadas, pero la idea motriz del concepto, el gobierno de la ley, se diluye ante el nuevo concepto protagonista, el Estado. Lo cierto es que el programa inherente al concepto de Estado de Derecho se consideraba alcanzado y cumplido en el nivel constitucional, y el centro de atención se trasladó al nivel subconstitucional, concretamente a la sujeción de la Administración al Derecho, donde todavía existían desajustes importantes. Se trataba de precisar jurídicamente las consecuencias para el Derecho administrativo y para el proceso jurisdiccional (especialmente el contencioso-administrativo) de la sujeción del poder al Derecho. El Derecho administrativo debía comportar para el ciudadano una seguridad jurídica y una protección de sus derechos similar a la ofrecida por el Derecho civil. Para designar este estadio o versión del concepto se ha acuñado la expresión de "Estado formal de Derecho". Para algunos será la época dorada del Estado de Derecho.
En el siglo XX, el concepto se adecua a la evolución de las concepciones filosóficas y jurídicas. Por un lado, se actualiza añadiendo nuevos matices que no afectan al sentido del concepto y, por otro, evoluciona en dos direcciones que sí suponen una transformación de su sentido original.
En primer lugar, uno de los primeros retos del concepto será su democratización. La generalización del sufragio universal, sobre todo a partir de la primera guerra mundial, supone la plena legitimización democrática del poder del Estado. Todos los ciudadanos (y no sólo una parte) participan en la formación de la ley que constituye la expresión de la voluntad general. Así, el concepto de Estado de Derecho, que aunque inicialmente no requería su carácter democrático tampoco lo negaba, adquiere como característica natural su condición de "democrático". El Estado de Derecho ya sólo se entenderá como "Estado democrático de Derecho", de forma que "Estado de Derecho" y "Estado democrático de Derecho" se convierten en la práctica en expresiones equivalentes.
En segundo lugar, el Estado legislativo de Derecho, basado en la ley como instrumento primordial, se convierte en el Estado constitucional de Derecho. Ello es expresión del redescubrimiento del significado de la Constitución como límite y vínculo de los poderes públicos. El principio de (mera) legalidad, paradigma del positivismo clásico y símbolo de la omnipotencia del legislador no refleja la totalidad de los límites y vínculos sustanciales existentes, y muy especialmente los límites y vínculos existentes a los que queda sujeta la legislación después de la positivización de los derechos fundamentales y otros principios materiales en la Constitución. La ley, para su validez, ya no sólo tiene que respetar una serie de formas predispuestas para su formación, sino también es necesario que respete los principios y los derechos fundamentales establecidos en la Constitución.
En tercer lugar, en casi todos los Estados europeos el Estado liberal de Derecho tiende a transformarse paulatinamente en un Estado social de Derecho. El Estado liberal de Derecho no contenía una respuesta a la cuestión social que su modelo socioeconómico desencadenaría: desigualdades sociales en la posesión de bienes, antagonismo de clases y una desigual libertad social. El Estado social de Derecho será la respuesta constitucional al olvido o marginación de la cuestión social por el liberalismo. El principio del Estado social no significa una limitación o reducción del Estado de Derecho (las garantías típicamente liberales) en pos de la justicia social, sino que el Estado asuma como fin y tarea la creación de las condiciones sociales para la realización de la libertad de todos, eliminando las desigualades sociales. La cláusula del Estado social fundamenta un Estado interventor, asistencial y redistribuidor en materia social. No obstante, el contenido y el alcance de esa acción interventora, asistencial y redistribuidora no están fijados por la Constitución, sino que se requiere su concretización por el legislador y por la administración, que deberán respetar en todo caso las garantías constitucionales clásicas del Estado de Derecho (autonomía personal, libertad de empresa, libre elección de profesión, propiedad privada, etc.). La cláusula del Estado social se proclama expresamente en la Ley Fundamental de Bonn de 1949 (art. 20.1), y de ahí se trasplanta a numerosas Constituciones europeas posteriores (art. 1 de la Constitución española, etc.), como una de las características del tipo europeo del Estado constitucional.
En cuarto lugar, después de las experiencias totalitarias, que desmontaron y negaron el Estado de Derecho, renace un cierto iusnaturalismo y se aboga por la conformación de un concepto material de Estado de Derecho, que incorpore valores y principios materiales dotados de fuerza jurídica vinculante. La reivindicación de un concepto material de Estado de Derecho origina más problemas que las anteriores líneas de evolución. En contra del concepto material de Estado de Derecho se ha pronunciado el profesor alemán Böckenförde, subrayando que el Estado liberal de Derecho no carecía de valores y contenidos materiales: sus valores consistían en la importancia material asignada a las garantías jurídico-formales y a los procedimientos legales para proteger la libertad individual y social, frente a eventuales intentos de interferir en la vida de los ciudadanos o de los grupos sociales en nombre de valores establecidos o asumidos como algo absoluto. Implícitamente está en discusión la opción constitucional por la llamada "democracia militante". Si se reconoce carácter jurídico vinculante a postulados ético-morales o a valores materiales que vayan más allá de la garantía de la libertad de todos y el establecimiento de los requisitos básicos de una convivencia ordenada, el resultado será, según Böckenförde, el gobierno por aquellos que ostentan o se apropian del monopolio de la interpretación de esos valores o postulados. Frente al argumento de que una comunidad política tiene que tener unanimidad respecto a lo que no se puede votar, señala que la cuestión es si esa unanimidad de la que la comunidad no puede prescindir no debe ser presupuesta o, si por el contrario, puede ser impuesta o mantenida por un mandato constitucional o legal, que en caso de conflicto provendrá de la mayoría.