Juan Pizarro de Orellana construye este palacio sobre una construcción defensiva militar que pertenecía a la familia Vargas. En el sentido de construcción militar, se transformó en casa señorial de estilo renacentista en el siglo XVI. Desde su interior de estilo plateresco, se puede observar el escudo de armas de los Orellana y Pizarro. Posee dos torres desmochadas al igual que las demás casas; fue la Reina Isabel la Católica quien dio la orden de restarle el valor defensivo. El palacio fue usado como casa de fomento para actividades comerciales y expedicionarias a aquellos que querían aventurarse el nuevo mundo, siguiendo la obra de los colonizadores. Miguel de Cervantes se alojó aquí por un tiempo, donde agradeció a la familia Pizarro por facilitar su estadía. Pureba de ello se documenta en un capítulo de su novela “Los trabajos de Persiles y Sigismunda”. /-Palacio Juan Pizarro y Orellana-/