Beïnvloed door de leer van Mubarek el-Mili en verlangend om zijn culturele en politieke kennis te verdiepen, vertrok hij naar Constantijn. In 1945 sloot Ben M'hidi zich aan bij de Beweging van Vrienden van het Manifest en de Vrijheid en nam deel aan het congres van maart 1945.
Tijdens de demonstratie van 8 mei 1945 werd Ben M'hidi gearresteerd en opgesloten in de gevangenis van Constantijn. Na zijn vrijlating hervatte hij zijn revolutionaire activiteit, waarbij hij kosten noch moeite spaarde om het bewustzijn van de nationale zaak te vergroten, met name door het beoefenen van geëngageerd theater. In de jaren vijftig verliet hij Constantijn en ging naar Algiers en vervolgens naar Oran. Aan het einde van wat de vijand het 'complot van 1950' noemde, lanceerde de politie een zoektocht naar hem.
Hij werd bij verstek veroordeeld tot tien jaar gevangenisstraf, tien jaar ballingschap en tien jaar lang zijn burgerrechten ontnomen. Om aan de politie te ontsnappen moest Ben M'hidi voortdurend zijn identiteit veranderen, wat hem de bijnaam de Man met Twintig Gezichten opleverde. In april 1954 nam Ben M'hidi deel aan de oprichting van het Revolutionaire Comité voor Eenheid en Actie (CRUA), waarvan hij een van de 22 leden werd.
Tijdens het congres van dit orgaan in Algiers, met betrekking tot de politieke en militaire organisatie van het land, Ben M'hidi wordt benoemd tot hoofd van de regio West. Als voorstander van werk op het terrein was hij het typische voorbeeld van een actieve politicus. Naast zijn kwaliteit als theoreticus van de revolutie, was hij alomtegenwoordig, organiseerde hij mensen, verdeelde hij taken, stelde hij doelstellingen...
In de jaren 1955 en 1956 vertrok Ben M'hidi naar Marokko en Caïro als afgezant van de Algerijnse revolutie. Zijn activiteiten strekten zich uit tot de activistische journalistiek als actief lid van de redactie van El Moudjahid. Zijn talrijke artikelen en analyses vormen vandaag de dag waardevolle documenten voor het begrijpen van de Algerijnse revolutie.
Hij vertegenwoordigde Oranie op het Soummam-congres (20 augustus 1956), waarvan hij de eerste bijeenkomst voorzat. Aan het einde van het congres werd hij verheven tot de rang van kolonel, benoemd tot lid van het Coördinatie- en Uitvoeringscomité en werd hem de zone van Algiers toevertrouwd. Vanaf het begin werkte hij aan het consolideren van de fedayeengroepen, het versterken van het politieke bewustzijn van lokale leiders en het organiseren van het bommennetwerk.
Er vonden verschillende bijeenkomsten plaats in de Casbah waarin Ben M'hidi voortdurend herhaalde: “Algerije moet een tweede Diên Bien Phu worden. » Hij bevestigde ook: “Leg de revolutie op straat en je zult zien dat deze door twaalf miljoen mannen wordt opgepakt en gedragen. » Het was in deze geest dat hij een van de belangrijkste initiatiefnemers was van de beroemde “achtdaagse algemene staking” in januari 1957.
Op 23 februari 1957 werd Larbi Ben M'hidi gearresteerd door de mannen van Bigeart in een appartement aan de Avenue Claude-Debussy, waar hij op doorreis was.
Op 6 maart 1957 gaf de woordvoerder van de algemene overheid een persconferentie en gaf aan dat: “Ben M'hidi zelfmoord pleegde in zijn cel door zichzelf op te hangen aan flarden van zijn overhemd. »
Zijn zelfmoord was in feite een maskerade om zijn moord door de mannen van Bigeart te verdoezelen, die zou hebben plaatsgevonden in de nacht van 3 op 4 maart 1957.
Op 20 augustus van hetzelfde jaar bracht de krant EI-Maudjahid hulde aan hem in de volgende bewoordingen: “De vijand heeft niet goed naar Ben M'hidi gekeken. Hij zou de nutteloosheid van deze marteling hebben begrepen, de onmogelijkheid om deze revolutionair dagen en nachten lang van zich af te schudden.
Ben M'hidi werd gruwelijk gemarteld, alle Franse uitvindingen, alle sadistische technieken van de folteraars werden op hem toegepast. Het lichaam van Ben M'hidi, gekneusd, gebroken en ontwricht, stortte in, maar we weten vandaag dat zijn intacte waardigheid, zijn onwankelbare moed en energie de vijand met schaamte vervulden."