El hijo menor de Charles Stanhope, tercer conde Stanhope, el teniente coronel James Hamilton Stanhope (1788-1825) se unió al ejército británico con tan solo quince años por consejo de William Pitt el Joven (primo segundo del tercer conde). Sirvió en España, Portugal, Flandes y Francia, actuando como ayudante de campo del general Sir John Moore y Lord Lynedoch, antes de ser nombrado subintendente general en la Península en 1813. Sufrió una herida de metralla en la columna vertebral durante el asalto de San Sebastián en 1813, que le causaría un inmenso sufrimiento el resto de su vida. Sin embargo, permaneció en el ejército y en 1815 sirvió como ayudante junto al duque de Wellington durante la campaña de Waterloo. Participó en la batalla de Waterloo y la posterior marcha sobre París.