Band of Horses fue creado por Ben Bridwell (guitarra, voz) y Mat Brooke (guitarra) en el 2004 después de que su grupo anterior, Carissa\'s Wierd se desintegrara. El grupo atrajo inicialmente la atención de la disquera Sub Pop después de haberle abierto conciertos a Iron & Wine en sus presentaciones en el área de Seattle.
En el 2005 editaron su debut Limited Edition Tour EP, que se vendió exclusivamente en sus presentaciones y en el sitio web de Sub Pop. Su primer álbum de larga duración, Everything all the Time fue grabado en el 2005 con el productor Phil Ek y lanzado el 21 de marzo de 2006, logrando obtener buenas críticas de la prensa.
El día 13 de julio de 2006, Band of Horses tuvo una aparición en el programa televisivo The Late Show with David Letterman.
Mat Brooke dejó el grupo el 25 de julio de 2006, debido al éxito de sus demás proyectos musicales. Su regreso a la banda parece ser poco probable.
Al menos dos de las canciones de Band of Horses (\"The Great Salt Lake\" y \"The Funeral\") fueron incluidas en los podcasts de Sub Pop que están disponibles a través de iTunes.
En 2010 la banda anunció el tracklist de su próximo material titulado Infinite Arms, y adelantó que el primer single, Compliments, será lanzado el 1 de abril.