Según la leyenda, la pereza, y no Roma, fue la madre del Acueducto. Una joven aguadora, cansada de arrastrar su cántaro por las empinadas calles de la ciudad, hizo un pacto con el diablo: él podría reclamar su alma si, antes de que cantara el gallo, el agua llegaba hasta la puerta de su casa. Consciente de su culpa, la joven rezó fervientemente para evitar la pérdida de su alma. Mientras tanto, una tormenta se desató y el diablillo trabajaba sin descanso. Justo cuando el gallo cantó, el Maligno lanzó un grito aterrador: había perdido el alma de la muchacha por una sola piedra que no había sido colocada.
Ella confesó su culpa ante los segovianos, quienes, tras limpiar los arcos con agua bendita para eliminar el rastro de azufre, aceptaron con alegría el nuevo perfil de la ciudad. Se dice que los agujeros visibles en las piedras son las huellas de las pezuñas del demonio. Hoy, la ciudad rinde homenaje a esta hermosa leyenda con la escultura del diablillo de Segovia, el "verdadero" artífice del Acueducto. Esta obra, realizada por José Antonio Abella, representa al diablo derrotado sosteniendo el último sillar del Acueducto que le quedó por colocar, posando para un selfie con su obra inacabada. La escultura se encuentra en la calle San Juan, desde donde se puede disfrutar de una de las mejores vistas del bimilenario Acueducto.