Aksel Andersen voksede op i Nr. Højrup på Nordfyn i et hjem med en stærk demokratisk indstilling. Efter at have lært mejerivæsen aftjente han sin værnepligt ved marinen under 1. verdenskrig og blev efter hjemsendelse ansat som elektrovikler i Århus. Her gik han ind i arbejderbevægelsen som medlem af Socialdemokratisk Ungdom. Da udbrydere grundlagde Venstresocialistisk Parti og kort efter Danmarks Kommunistiske Parti fulgte Aksel Andersen med.
Efter ophold på Esbjerg Arbejderhøjskole besluttede han at læse til lærer. 25 år gammel begyndte han i 1921 sin uddannelse på Skårup Seminarium. I 1928 blev han ansat på Skt. Hans Skole i Odense og kom senere på Aaløkkeskolen.
I 1930’erne deltog han i hjælpearbejdet for politiske flygtninge fra de fascistiske lande, først og fremmest Nazityskland, og gennem organisationen Røde Hjælp ydede han sin første store politiske indsats, bl.a. som formand for organisationen på Fyn.
Under den tyske besættelse var han medlem af den første illegale ledelse af DKP i Odense. Han deltog i opstillingen af de illegale grupper og opbyggede det studiearbejde, der var med til at skole de mange nye medlemmer af DKP, som blev tilsluttet organisationen i de første krigsår. Han var desuden medarbejder ved det illegale blad Trods alt, der blev udgivet af DKP og udkom månedligt fra juli 1942. Axel Andersen blev eftersøgt af det danske politi som delagtig i sabotage, hvilket tvang ham til at gå under jorden.
I april 1943 rejste han til Esbjerg, hvor han stod for organiseringen af det kommunistiske bladarbejde. Han blev redaktør for det illegale blad Vestjyden, der udkom månedligt fra august 1942, og som blev udgivet af DKP-gruppen i Esbjerg. Han havde desuden et nært samarbejde med Frit Danmark gennem sin broder, lokomotivfører Svend Andersen, der var DKP’s repræsentant i Esbjergs Frit Danmark-gruppe. Aksel Andersen spillede en betydelig rolle under folkestrejken i Esbjerg i august 1943, hvor hans artikler var med til at udbrede strejkeledelsens synspunkter. I oktober 1943 blev han arresteret af tysk politi og blev ført til Vestre Fængsel, hvor han blev udsat for tortur.
Andersen døde som følge af en tysk hævnaktion. Den 4.12.1943 blev der skudt en tysk oversergent på Jarmers Plads kun hundrede meter fra det tyske hovedkvarter i København, Dagmarhus. Det førte til om en gengældelsesaktion, og det blev besluttet, at tre kommunister skulle skydes. Ofrene blev fundet i Vestre Fængsels celler. Sent om aftenen blev Andersen og de andre sat på en militærlastbil og kørt i retning mod Dagmarhus, men på Ingerslevvej blev de skudt, mens de sad på ladet. Bagefter meddelte tyskerne, at de var blevet skudt ”under flugtforsøg”.