Su padre fue jurista y su madre fue una conocida historiadora.
Fillon se graduó en la Universidad René Descartes de París donde estudió Derecho Público, y también cursó estudios en la Universidad de Le Mans, donde logró el diploma de politólogo.
En 1976 fue asignado ayudante parlamentario del diputado por el departamento de Sarthe, Joël Le Theule.
Entre 1978 y 1980 se desempeñó como segundo del jefe del gabinete del ministro de Transporte y después del ministro de Defensa.
François Fillon ocupó frecuentemente cargos en los órganos legislativos y ejecutivos a niveles central y local.
Entre 1981 y 1992 fue vicepresidente del Consejo General del departamento de Sarthe, y en 1982 encabezó el servicio de trabajo legislativo y parlamentario del gabinete del ministro de Industria.
Lea más: Victoria de Fillon, buen augurio para las relaciones Francia-Rusia
En 1981 fue elegido diputado por Sarthe en la Asamblea Nacional (Cámara Baja del Parlamento), convirtiéndose a los 27 años en el parlamentario más joven.
Entre 1983 y 2001 fue alcalde del municipio de Sablé-sur-Sarthe y entre 1992 y 1998 encabezó el Consejo General del departamento de Sarthe.
Desde 1993 hasta 1995 ocupó el cargo de ministro de Enseñanza Superior en el Gobierno dirigido por Édouard Balladur.
Más: Fillon "sería un muy buen presidente para Francia"
Entre mayo y noviembre de 1995 fue ministro de Tecnología de la Información y Correos, y entre noviembre de 1995 y junio de 1997 ministro de Correos, Telecomunicaciones y Espacio en el Gobierno de Alain Juppé.
Entre 1998 y 2002 encabezó el Consejo de la región de Pays-de-la-Loire y entre 2002 y 2004 fue vicepresidente del Consejo.
Desde 2002 hasta 2004 fue ministro de Asuntos Sociales, Trabajo y Solidaridad en el Gobierno dirigido por Jean-Pierre Raffarin.
Entre marzo y noviembre de 2004 fue ministro de Educación Nacional, Enseñanza Superior e Investigación.
En junio de 2012 fue elegido diputado de la Asamblea Nacional de Francia por la circunscripción de París.
El 27 de noviembre de 2016 ganó los comicios primarios del centro-derecha, convirtiéndose en candidato a la Presidencia francesa.
François Fillon está casado: en 1980 contrajo matrimonio con Penelope Clarke, de origen galés, con la que tuvo cinco hijos (una mujer y cuatro varones).