Fils d'un exploitant agricole des Landes, Alain Juppé enchaîne le lycée Louis-le-Grand, l’Ecole normale supérieure, l’Institut d’études politiques de Paris et l’Ecole nationale d’administration. Lauréat du Concours général, agrégé de lettres classiques, il débute sa carrière comme inspecteur des finances à sa sortie de l’Ena (promotion Charles-de-Gaulle). En 1976, il entre au cabinet de Jacques Chirac, Premier ministre pour encore quelques semaines. Il participe à la fondation du RPR et suit Jacques Chirac à la mairie de Paris, comme conseiller en 1978 puis comme deuxième adjoint en 1983.

Député au Parlement européen puis député de Paris (de 1983 à 1993), il devient ministre délégué, chargé du Budget, porte-parole du gouvernement de Jacques Chirac (mars 1986 à mai 1988).Il est secrétaire général du RPR (juin 1988-novembre 1994).Il est nommé ministre des Affaires étrangères dans le gouvernement d’Édouard Balladur (mars 1993 à mai 1995) puis devient Premier ministre et président du RPR de 1995 à 1997.  

Après la victoire de Jacques Chirac à l’élection présidentielle de mai 1995, il est nommé Premier ministre. L’ancien ministre des Affaires étrangères vanté par Edouard Balladur ou François Mitterrand s’est démarqué par sa fidélité indéfectible envers Jacques Chirac pendant la période où les soutiens affluaient vers Edouard Balladur. Les deux têtes de l’exécutif sont en harmonie et le président Chirac a publiquement souligné qu’il comptait que le Premier ministre exerce ses pleines prérogatives constitutionnelles, sans interférence de l’Elysée. Jacques Chirac a qualifié Alain Juppé de « meilleur d’entre nous ».  

Le Premier ministre conserve ses fonctions de maire de Bordeaux, de président de la communauté urbaine de la ville, et de président du RPR.

Le 23 mai 1995, Alain Juppé présente son programme d’action devant l’Assemblée nationale. Il en appelle au « renouveau du pacte républicain », qui passe, souligne-t-il, par une « mobilisation générale contre le chômage ».

Les principales mesures envisagées par le Premier ministre en mai 1995 manifestent sa volonté d’agir sur les conditions d’emploi, d’accès au logement, sur la réinsertion économique et sociale ou l’aide aux personnes âgées. L’objectif affiché est de lutter contre les formes d’exclusion qu’Alain Juppé qualifie de prioritaire. Le Premier ministre annonce ainsi son intention, d’alléger les charges sur les bas salaires et « d’instituer [un] contrat initiative-emploi » pour « remettre en marche le moteur de l’intégration sociale ». Il souhaite également la réimplantation des services publics et la mise en oeuvre d’un régime fiscal différencié, c’est-à-dire de zones franches, dans les quartiers difficiles pour en réussir la réinsertion économique et sociale.

Alain Juppé fait le choix d’une politique soucieuse des critères de convergence fixés par le traité de Maastricht. Dans un discours télévisé, le 26 octobre 1995, le président de la République annonce des efforts supplémentaires pendant deux ans au nom du dessein européen. Cette mise au point certifie que la France ne souhaite pas dévier de ses engagements budgétaires européens.

Le Premier ministre cherche à réduire la fracture sociale, diagnostiquée par le candidat Chirac, dans ce cadre. Il crée 38 zones franches, exonérées d’impôts pendant cinq ans pour relancer l’activité. Autres mesures, l’augmentation du Smic de 4 % le 1er juillet 1995, la création du Contrat initiative emploi (CIE), et l’instauration d’une première version du taux zéro pour le logement.  

Lorsqu’il présente à l’Assemblée nationale le 15 novembre 1995 son plan de réforme de la protection sociale dit « plan Juppé », le Premier ministre reçoit un accueil triomphal de la majorité, qui l’applaudit debout. La presse et les marchés financiers témoignent du même enthousiasme. Cependant, le plan entraîne un vaste mouvement social.

Très large dans son champ d’action, le plan prévoit un allongement de la durée de cotisation de 37,5 à 40 annuités pour les salariés de la fonction publique afin de l'aligner sur celle du secteur privé déjà réformé en 1993. Cette mesure, à l’origine des mouvements sociaux dans le public, sera abandonnée.

Autre nouveauté majeure, l’établissement d’une loi annuelle de la Sécurité sociale doit permettre de fixer les objectifs de progression des dépenses maladies. Des sanctions sont envisagées pour les médecins qui dépassent cet objectif. Pour combler le déficit de la Sécurité sociale, un plan de rigueur est proposé. 

Les mouvements de grève de novembre et décembre 1995 emportent une part des réformes. Le Premier ministre a dû engager la responsabilité du gouvernement via l’article 49-3 pour obtenir le droit d’user d’ordonnances. Le gouvernement maintient la réforme de la Sécurité sociale. Une loi votée le 30 décembre suivant lui permet de légiférer par ordonnances en la matière. Désormais, le budget de la Sécurité sociale est voté au Parlement, une hausse de la contribution sociale généralisée (CSG) est décidée tandis qu'une contribution pour le remboursement de la dette sociale (CRDS) est créée, un objectif quantifié d'augmentation des dépenses d'assurance-maladie est fixé et les prestations familiales sont gelées.

Dès l’été 1995 a lieu une révision constitutionnelle. L’exécutif est ainsi en parfaite harmonie avec le président de l’Assemblée nationale, Philippe Séguin, qui tient à cette réforme.

En 1996, le service militaire est suspendu. Un plan de transition de l’armée de conscription à l’armée professionnalisée est mis en place.

Le président Jacques Chirac dissout l’Assemblée nationale en 1997, entraînant à l’issue une troisième cohabitation.

De mai à juin 2007 il est ministre d'État, ministre de l’Écologie, du Développement et de l’Aménagement durables, au sein du gouvernement Fillon, dont il doit démissionner en raison de son échec aux élections législatives à Bordeaux.

En 2010, le président Sarkozy le nomme coprésident, avec Michel Rocard, de la Commission chargée de travailler à la mise en place d’un grand emprunt.

Il occupe pendant trois mois le poste de ministre d’État, de la Défense et des Anciens Combattants (novembre 2010 à mars 2011) puis est nommé ministre d’État, des Affaires étrangères et européennes (mars 2011 à février 2012).