Officier de l'armée versaillaise, Galliffet dirige pendant la Semaine sanglante des opérations de tri et d'exécution des prisonniers communards. Les récits contemporains, y compris ceux d'observateurs favorables à Versailles, décrivent des sélections opérées à vue parmi les colonnes de captifs et des fusillades immédiates.

Le surnom de « massacreur de la Commune  » lui reste attaché toute sa vie, y compris lorsqu'il devient ministre de la Guerre du gouvernement de défense républicaine en 1899, nomination qui provoque une crise au sein de la gauche.

Il avait auparavant participé aux campagnes d'Algérie et à l'expédition du Mexique.