El primer señor de la villa de Ambite, el financiero genovés D. Esteban Lomelín, fue cediendo la propiedad de sus vastas tierras a sus descendientes, hasta que, en la segunda mitad del siglo XVI, apareció por estas tierras Don Alfonso de Cárdenas y Peralta, caballero de la Orden de Santiago e importante diplomático de la Corona española regida por Felipe IV. Alfonso de Cárdenas y Peralta inició su carrera diplomática en la ciudad de Nápoles, primero como regente de la Vicaría y más tarde como ministro de los Consejos de Estado y Guerra. Jugó un importante papel en la política exterior de los Austrias y formó parte del Consejo de Indias; posteriormente fue nombrado embajador en Inglaterra, siendo el artífice de los tratados de paz con Oliver Cromwell el 21 mayo de 1655. La importancia de su gestión fuere compensada nombrándole vizconde de Ambite. Situó al municipio dentro de los lugares de reposo y de descanso de la Corte, mandando construir este palacio en 1623, al estilo barroco. En1664 se concede el título de marqués de Legarda a los descendientes de Alfonso Cárdenas de Peralta y hoy en día, el palacio continúa siendo propiedad de la familia Madariaga, que lo posee desde hace 104 años.
La leyenda de la triste princesa y su centenaria encina
Existen numerosas leyendas. Una de ellas es la que nos cuenta que en el palacio vivía cautiva una joven y bella princesa, que al a espera que un caballero la salvara de su cautiverio, dejó caer sus lágrimas sobre una bellota, que germinó en la tierra, dando lugar a la gran encina que existe hoyen día junto al palacio. Cuenta la tradición que los enamorados venían a probar su destino catando las bellotas de esta encina: si el sabor era dulce, serían felices; si por el contrario la bellota amargaba, su unión sería desgraciada. En la documentación y en los mapas de la finca que el marqués de Legarda tenía en su posesión cuando decidió construir su palacio, ya aparecía notificada la existencia de esta encina. Con sus más de 20 metros será catalogada como árbol singular de la Comunidad de Madrid, y se la considera la segunda más grande de España.

