Le SGG, dont l’histoire est naturellement liée à l’évolution de la fonction de chef du Gouvernement, est né en 1935 alors qu’apparaissait la nécessité pour le président du Conseil de disposer de services permanents pour l’assister dans son rôle d’arbitrage entre les ministres.

Mais à l’inverse des institutions dont il organise les relations mutuelles, les fonctions du SGG ne sont pas définies dans la constitution, ni même dans une loi.
Placé sous la responsabilité du Secrétaire général du Gouvernement, il relève du Premier ministre et travaille en étroite association avec le cabinet de celui-ci.
C’est une structure légère, aux effectifs réduits, qui oeuvre dans les « coulisses » de l’appareil d’Etat.

La première tentative de doter le Gouvernement d’un instrument de travail collectif, dont le besoin se faisait particulièrement sentir en période de crise s’est produite à l’époque de Ribot et de Painlevé en 1917, pendant la Première Guerre mondiale, à un moment où l’on voulait coordonner l’action gouvernementale pour mener la guerre.

Cet organisme, qui s’appelait « Section administrative » et qui n’a été qu’éphémère, disparut à la fin de la guerre, puis réapparut en 1924 avec Edouard Herriot qui a recréé un secrétariat général des services administratifs de la présidence du Conseil, qu’il a confié d’abord au sénateur Israël, puis, en 1925, à un sous-secrétaire d’État.

Par mesure d’économie en 1926, Poincaré supprime la « section administrative ». Mais en 1934, Gaston Doumergue, alors président du Conseil, en préconise la reconstitution et en définit l’esprit d’une manière qui préfigurait un peu ce que devait être le Secrétariat général du Gouvernement que nous connaissons : « La présidence du Conseil doit être dotée de services et d’un personnel sélectionné permanent et peu nombreux, détaché des grandes administrations publiques. Avec ces services, le président du Conseil doit suivre attentivement l’action de chaque département, veiller à ce que l’un ne gêne pas l’autre et à ce que travaux, initiatives et efforts soient coordonnés en vue du bien général. »

C’est sur cette base que le successeur de Gaston Doumergue, P.-E. Flandin, fait voter dans la loi de finances de 1935 les crédits qui permettent l’institution d’un certain nombre de chargés de mission qui sont à l’origine du Secrétariat général du Gouvernement actuel.

Bien que les débats reflètent une certaine réticence à l’égard de la création d’un tel organisme, la loi de finances est finalement votée ; le service est institué avec dix fonctionnaires titulaires d’un grade moyen et quinze chargés de mission recrutés parmi les fonctionnaires de rang élevé des administrations et dont l’un prend le titre de secrétaire général du Gouvernement. Voilà le secrétariat général créé avec vingt-cinq personnes.

Ces chargés de mission forment une équipe dont le rôle est de documenter le président du Conseil, de lui fournir les éléments de décision et de suivre les travaux législatifs. A l’origine, la distinction n’est pas très nette entre cet organisme et le cabinet du président du Conseil. Flandin l’avait d’ailleurs dit : « C’est un cabinet politique un peu étendu » .

L’institution ne progresse, au début, que modestement et assez lentement. Au moment du débat, certains parlementaires avaient contesté la régularité de la création de services administratifs du président du Conseil, qui n’était pas du tout prévue par la Constitution de la IIIe République. Les premiers « secrétaires généraux » restaient très peu de temps en fonction. Sous le ministère Flandin, pendant une année, ce fut Léon Noël, qui devait être ensuite ambassadeur à Varsovie en 1939, puis qui devint président du Conseil constitutionnel après la guerre ; ensuite, sous le ministère Laval, Georges Dayras. Un an après, sous Léon Blum, ce fut Jules Moch ; puis Yves Chataigneau, plus connu comme gouverneur général de l’Algérie.

C’est à l’époque de Jules Moch que Léon Blum, qui s’intéressait beaucoup au Secrétariat général du Gouvernement en lequel il voyait l’un des éléments de la réforme gouvernementale, a décidé que désormais le secrétaire général du Gouvernement assisterait aux conseils de cabinet et aux Conseils des ministres. Cela est devenu une tradition qui est demeurée depuis. Léon Blum et Jules Moch définissent les tâches des chargés de mission : constituer les dossiers des affaires traitées par le président du Conseil et son cabinet et « débrouiller » les affaires.

Mais les tentatives des secrétaires généraux successifs pour assurer la coordination des ministres se heurtent à beaucoup de résistance de la part des administrations. A ce moment - c’est, de 1936 à 1938, la période des « conférences Matignon » - l’activité principale de ces secrétaires généraux du Gouvernement a été d’aider le président du Conseil à trancher les nombreux arbitrages sociaux.

Le secrétaire général du Gouvernement est maintenant imposé et va subsister pendant la guerre et, curieusement, tant à Vichy et Paris qu’à Alger. C’est Louis Joxe, futur ambassadeur et ministre, et premier secrétaire général du Comité de libération nationale constitué à Alger en 1943 qui fut, à la Libération, le premier secrétaire général du Gouvernement dans la France libérée.

Le Conseil des ministres du 3 février 1947 adopte un document appelé « Règlement intérieur des travaux du Gouvernement » qui fixe le rôle du secrétaire général du Gouvernement en matière d’organisation des travaux du Conseil des ministres, des conseils de cabinet, des réunions interministérielles en matière de procédure législative. Ce règlement intérieur est, finalement, le seul texte qui définisse - et encore pour une toute petite partie - les missions du secrétariat général du Gouvernement. La loi de finances de 1936, qui l’avait créé, s’était bornée à prévoir l’effectif des chargés de mission sans dire un mot de ce qu’était le rôle de l’organisme. Il faut donc se référer, pour le comprendre, à la fois aux intentions de ses créateurs et à ce que la pratique et la tradition en ont fait.

A partir de la IVe République, l’institution a donc pris son caractère définitif. Dans les premiers temps, on ne savait pas bien si elle était un « cabinet politique étendu » ou un « organisme administratif ». Elle devient un organisme administratif, comme l’établit avec netteté la permanence de André Segalat, qui succède à Louis Joxe en 1947 et sera secrétaire général du Gouvernement du 15 septembre 1946 au 23 janvier 1958 : pendant 12 ans il aura vu se succéder 21 présidents du Conseil, 21 ministères. C’est un record qui traduit bien la mutation qui s’est produite : le secrétariat général est devenu un organisme charnière entre le Gouvernement et l’administration, mais un organisme administratif. Les successeurs de André Segalat, sous la IVe et la Ve Républiques, maintiennent cette tradition.

A André Segalat succède R. Belin qui exercera ses fonctions pendant six ans, de 1958 à 1964 ; ensuite, Jean Donnedieu de Vabres sera secrétaire général du Gouvernement de 1964 à 1974. C’est à lui que succède Marceau Long en 1975, conseiller d’État après six mois d’intérim de Jacques Larché. Puis, se sont succédé Jacques Fournier en 1982, Renaud Denoix de Saint Marc en 1986, Jean-Marc Sauvé en 1995, et Serge Lasvignes en 2006, et Marc Guillaume, en 2015. Au conseil des ministres du 15 juillet 2020, Mme Claire Landais est nommée Secrétaire général du gouvernement.