El 21 de enero de 1861, 12 días después de que Mississippi se separara, Davis hizo un conmovedor discurso de despedida en el Senado y abogó elocuentemente por la paz. Antes de llegar a su plantación de Brierfield, se le encargó un mayor general para dirigir las Fuerzas Armadas de Misisipi y preparar su defensa, pero en dos semanas la Convención Confederada en Montgomery, Alabama, lo eligió como presidente provisional de la Confederación. Davis se sorprendió con la noticia de su elección., A diferencia de muchos líderes del Sur, había esperado la guerra y esperaba convertirse en el comandante en jefe de los ejércitos del Sur. En su discurso inaugural el 18 de febrero de 1861, dijo Davis, en parte,
entro en las funciones de la oficina a la que he sido elegido con la esperanza de que el comienzo de nuestra carrera como Confederación no se vea obstaculizado por la oposición hostil a nuestro disfrute de la existencia separada y la independencia que hemos afirmado, y que, con la bendición de la Providencia, pretendemos mantener.
Su primer acto fue enviar una comisión de paz de Washington, DC,, para prevenir un conflicto armado. Lincoln se negó a ver a sus emisarios y al mes siguiente decidió enviar barcos armados a Charleston, Carolina del Sur, para reabastecer la asediada guarnición de la Unión en Fort Sumter. Davis ordenó a regañadientes el bombardeo del fuerte (12-13 de abril), que marcó el comienzo de la Guerra Civil Estadounidense. Dos días después Lincoln llamó a 75.000 voluntarios, una medida que provocó la secesión de Virginia y otros tres estados de la Unión.,
Davis enfrentó una grave crisis. Un presidente sin precedentes, tuvo que moldear una nueva nación en medio de una guerra., Con solo una cuarta parte de la población blanca de los estados del Norte, con una pequeña fracción de la capacidad de fabricación del Norte, y con Ferrocarriles inferiores, sin marina, sin molinos de polvo, sin astilleros, y una terrible falta de armas y equipos, el sur estaba en malas condiciones para resistir la invasión. Pero en Bull Run (Manassas, Virginia) el 21 de julio de 1861, los confederados derrotaron a las fuerzas de la Unión. Mientras tanto, con materiales improvisados, Davis creó fábricas para producir pólvora, cañones, armas laterales y tiendas de intendencia., En los astilleros navales restaurados se construyeron cañoneras, y los inadecuados ferrocarriles y material rodante del Sur fueron remendados repetidamente. Davis envió agentes a Europa para comprar armas y municiones, y envió representantes para tratar de asegurar el reconocimiento de Inglaterra y Francia.
Davis hizo la elección inspirada de Robert E. Lee como comandante del Ejército del Norte de Virginia en junio de 1862. Si bien el juicio militar de Davis fue ocasionalmente culpable, sabiamente le dio a Lee un amplio alcance en la conducción de la guerra durante los siguientes tres años., Tal vez el error más grave de Davis como comandante en jefe fue la excesiva importancia que daba a la defensa de la capital Confederada en Richmond, Virginia, a expensas de las operaciones más al oeste, incluida la defensa de la fortaleza Confederada clave en Vicksburg, Misisipi.
Davis tuvo innumerables problemas durante su presidencia, incluyendo un congreso en disputa, un vicepresidente disidente, Alexander H. Stephens, y la constante oposición de los defensores de los derechos de los Estados extremos, como el gobernador de Carolina del Norte ., Zebulon Vance, quien se opuso vigorosamente a la Ley de reclutamiento que había promulgado con mucha oposición en 1862. Pero a pesar de un empeoramiento gradual de la situación militar, tensiones políticas internas no aliviadas, una continua falta de mano de obra y armamento, y una inflación vertiginosa, se mantuvo resuelto en su determinación de continuar la guerra, y Lee siguió siendo su comandante de campo más valioso y su más leal partidario personal., Incluso durante el asedio de Petersburgo, cuando el ejército de Lee estaba inmovilizado y hambriento, Davis afirmó a una audiencia en Richmond el 6 de febrero:
Vamos a unir nuestras manos y nuestros corazones.,We bien podemos creer que antes de que otro solsticio de verano caiga sobre nosotros, será el enemigo quien nos pedirá conferencias.