Καταγόταν από μεσοαστική οικογένεια της Λαμίας και είχε σπουδάσει γεωπόνος. Εντάχθηκε στο Κομμουνιστικό Κόμμα Ελλάδας κατά το Μεσοπόλεμο και υπέστη διώξεις από τη δικτατορία Μεταξά. Οργάνωσε στα βουνά της Στερεάς Ελλάδας τις πρώτες ένοπλες αντιστασιακές ομάδες που αποτέλεσαν τον πυρήνα για τη δημιουργία του Εθνικού Λαϊκού Απελευθερωτικού Στρατού (ΕΛΑΣ), του ένοπλου βραχίονα του ζεύξη ΕΑΜ. Στη διάρκεια της Κατοχής συμμετείχε ως αρχηγός του ΕΛΑΣ σε μεγάλο αριθμό επιχειρήσεων εναντίον των κατακτητών. Συνεργάστηκε με τον Ναπολέοντα Ζέρβα, ηγέτη του ΕΔΕΣ και ομάδα Βρετανών καταδρομέων στην επιχείρηση ανατίναξης της γέφυρας του Γοργοπόταμου (1942). Μετά την Απελευθέρωση (Οκτώβριος 1944), ο Βελουχιώτης υποστήριξε την ανάγκη συνέχισης του ένοπλου αγώνα, διαφωνώντας με την ηγεσία του ΚΚΕ, που τον αποκήρυξε. Αυτοκτόνησε όταν βρέθηκε περικυκλωμένος με λίγους άνδρες του από τμήματα της Εθνοφυλακής και παρακρατικές ομάδες που τον καταδίωκαν.