Fils d’un notaire et d’une historienne, François Fillon est titulaire d’une maîtrise et d’un diplôme d’études approfondies en droit public. Il débute sa carrière en tant qu’assistant parlementaire auprès du député Joël Le Theule, en 1976. De 1978 à 1980, il est chef adjoint du cabinet de Joël Le Theule, ministre des Transports puis de la Défense. En juin 1981, il est élu député de la Sarthe. Il est alors, à 27 ans, le benjamin de l’Assemblée nationale. Neuf ans plus tard, il prend la présidence du conseil général de la Sarthe.

Ministre de l’Enseignement supérieur et de la Recherche dans le gouvernement Balladur (mars 1993-mai 1995), il est ministre des Technologies de l’information et de la Poste (mai-novembre 1995) puis ministre délégué chargé de la Poste, des Télécommunications et de l’Espace (novembre 1995-juin 1997) dans les gouvernements Juppé.

Nommé ministre de l’Éducation nationale, de l’Enseignement supérieur et de la Recherche (mars-novembre 2004), il entreprend une réforme du système éducatif français avec la loi d’orientation et de programme pour l’avenir de l’école.  

Lorsqu’il est nommé Premier ministre, François Fillon s’est préparé depuis longtemps à son éventuelle nomination. Son image de gaulliste social, longtemps proche de Philippe Séguin, doit tempérer l’image libérale de Nicolas Sarkozy.

Son premier gouvernement est marqué par une ouverture à des personnalités de gauche (Bernard Kouchner aux Affaires étrangères, Jean-Pierre Jouyet aux Affaires européennes, Eric Besson à la Prospective économique). Il est également ouvert à des personnalités du centre droit (Hervé Morin) et de la société civile (Martin Hirsch). L’équipe comprend peu d’énarques – 5 sur 33 ministres et secrétaires d’État -, confirmant une évolution entamée sous Jean-Pierre Raffarin. Pour la première fois, le gouvernement respecte la parité. Avec Rachida Dati à la Justice et Rama Yade aux Droits de l’homme, il veut aussi incarner une reconnaissance de la diversité. Enfin, un grand ministère de l’écologie est créé, et confié à Alain Juppé (qui quitte le poste lors du premier remaniement).La presse parle très vite d’« hyperprésidence » . Chaque ministre reçoit une lettre de mission du président de la République, cosignée par François Fillon. Les conseillers de l’Elysée, Claude Guéant ou Henri Guaino, s’expriment directement dans la presse.

Le Premier ministre annonce une modernisation des institutions, envisageant notamment la possibilité d’intervention du président de la République devant les députés. Il évoque également le non-remplacement d'un fonctionnaire sur deux partant à la retraite, la mise en place de l'autonomie des universités et une réforme de la carte judiciaire des tribunaux et cours d'appel. En outre, il fait part aux députés de son objectif de réduction du chômage à 5 % de la population active.

En 2007, l'Assemblée vote la loi en faveur du travail, de l'emploi et du pouvoir d'achat (loi TEPA) qui regroupe plusieurs mesures dont la défiscalisation des heures supplémentaires, le bouclier fiscal, la suppression ou la baisse des droits de succession pour les patrimoines moyens, l'instauration du Revenu Social d’Activité (RSA).

Cette réforme encadre et limite certains pouvoirs du président de la République, qui y gagne le droit de s’exprimer devant le Congrès. Il ne peut plus faire plus de deux mandats consécutifs. L’usage du 49-3 est limité. L’Assemblée nationale obtient le droit d’exprimer des résolutions. Un défenseur des Droits est institué. Un référendum d’initiative minoritaire est instauré. Les justiciables peuvent dorénavant saisir le Conseil constitutionnel pour une question prioritaire de constitutionnalité. Le Conseil économique et social devient le Conseil économique, social et environnemental. En 2009, sont lancés les Investissements d’avenir pour soutenir l’innovation industrielle.

En 2007, le Premier ministre fait sensation en déclarant : « je suis à la tête d'un État qui est en situation de faillite » . La tourmente économique déclenchée en 2008 appuie son souhait d'instaurer davantage de rigueur budgétaire.

Après la défaite de Nicolas Sarkozy à l’élection présidentielle de mai 2012, François Fillon est élu député de Paris (2e circonscription) en juin.