Ayant atteint l'âge de porter les armes, il entre à l'Ecole militaire de Saint-Cyr, promotion 1939-1940. La deuxième guerre mondiale arrive, avec le déferlement des troupes allemandes sur le sol français. Refusant de se soumettre à l'envahisseur, Guy Le Borgne s'enfuit en Afrique du Nord, puis rejoint le Royaume-Uni et intègre les forces françaises libres. Volontaire, il est incorporé en 1942 dans les commandos Jedburgh. Après le débarquement de Normandie, le lieutenant Le Borgne est parachuté en juillet 1944 dans le Finistère, afin de soutenir et encadrer la Résistance française. Après avoir mené à bien cette mission, il rejoint le 4e Special Air Service (S.A.S.) français et poursuivra ses actions derrière les lignes ennemies avec l'opération Franklin dans les Ardennes, puis à Amherst en Hollande.
La deuxième guerre mondiale terminée, Guy Le Borgne se porte volontaire pour l'Indochine. En 1952, le capitaine Guy Le Borgne prend la tête du 8e Groupement de Commandos Parachutistes qui va réaliser de nombreuses opérations sp éciales sous le couvert du GCMA.
La guerre en Afrique du Nord voit le colonel Le Borgne, resté fidèle au général de Gaulle en dépit du putsch d'avril1961, participer à la bataille de Bizerte, du 19 au 23 juillet 1961. Il prend aussitôt après le commandement du 3e RPIMa.
De retour en France, Guy Le Borgne commandera successivement à partir de 1973, la 11e DP, puis l'ETAP de Pau. En 1976, il est gouverneur militaire de Lyon et prend sa retraite avec le grade de général de corps d'armée. En 1980, il devient président de la confédération nationale des associations parachutistes, puis, en 1988, membre du comité d'honneur de l'Union Nationale des Parachutistes.
Le général Guy Le Borgne est décédé le 12 décembre, à l'âge de 87 ans. Ses obsèques se sont déroulées à l'Hôtel national des Invalides, à Paris, et son éloge funèbre a été prononcé par le général Cann. Ce grand combattant volontaire, figure emblématique des parachutistes, était à ses moments perdus un peintre de talent coté au Groupe Drouot sous son pseudonyme de la Résistance: Guy Le Zachmeur. Grand officier de la Légion d'honneur, Guy Le Borgne était aussi grand-croix de l'ordre national du Mérite, titulaire de la croix de guerre 1939-1945, de la médaille de la Résistance, de la Military Cross britannique et de la croix de guerre hollandaise.