Construido entre los siglos XII y XVI, fue numerosas veces restaurado y ampliado, posiblemente desde Alfonso X hasta Felipe II. A este último se debe su aspecto actual, su "silueta" lo hace único entre los castillos españoles.

En la Edad Media, por su seguridad como por la proximidad de zonas de caza, el Alcázar se convirtió en una de las residencias favoritas de los Reyes de Castilla en especial de Alfonso X. Fue habitado muchas veces y llegó a ser uno de los más suntuosos palacio-castillos en el siglo XV.

La fortaleza sirvió posteriormente como prisión de Estado hasta que en 1762 Carlos II fundó en Segovia el Real Colegio de Artillería que tuvo su sede en el alcázar. En 1862, un incendio destruyó las suntuosas techumbres de las salas nobles que pudieron ser reconstruidas fielmente con posterioridad gracias a la existencia de grabados.

En 1931 fue declarado monumento histórico artístico. En el año 1953 se creó el patronato del alcázar que es el responsable del museo que se puede visitar en su interior.