Na de capitulatie van Nederland bleef Barendsen actief als hoofd van de L.B.D. In deze periode was hij echter ook al actief in het verzet. Hij kwam in contact met kolonel R. Boomsma en luitenant kolonel jhr. J.J. Tedding van Berkhout. Boomsa was commandant van de Ordedienst (O.D.), waarvan Berkhout ook lid was. . De O.D, is een ondergronds orgaan van verzet die tot in 1945 actief sabotage acties uitvoerde. Al snel werd Barendsen leider bij een Legioen van Oud-frontstrijders. Deze kleine groep werd al in 1941 samengevoegd met de O.D. 

Barendsen werd op 8 augustus 1942 gearresteerd op basis van zijn militaire carrière en rang. Hij verbleef in het Beekvliet in Sint-Michielsgestel, waar de bezetters een gijzelaarskamp hadden ingericht. Tot in 1944 verbleven hier gezichtsbepalende Nederlanders: burgemeesters, politici, vakbondsleiders, advocaten, hoogleraren en kunstenaars. Barendsen werd weer vrijgelaten op 15 december 1942, maar de reden voor zijn vrijlating is tot op heden onbekend. In de tijd tussen arrestatie en vrijlating zijn de commandant van de O.D kolonel Boomsma, en zijn plaatsvervanger, kolonel Jansen, ook opgepakt. 

Vrijwel direct na zijn vrijlating werd Barendsen op verzoek van de O.D. commandant van de Ordedienst gewest 6 Veluwe. Zijn voorkennis als commandant vanuit Indië was hierbij erg belangrijk; in 1942 was het verzet nog erg verdeelt en onvoorzichtig. Zijn kalmte en doeltreffend optreden zorgde voor effectiviteit en maakte grote indruk op medeverzetsstrijders. In 1942-1943 stond hij in nauw contact met de Knokploeg en de Raad van Verzet in Apeldoorn. Hij werkte nauw samen met Meinarda van Terwisga, leidster van de lokale verzetsgroep Meinarda.

Helaas werd Barendsen ondanks alle voorzorgsmaatregelen langzaam verdacht door de Sicherheitsdienst (S.D.). Eind 1943 werden er invallen gedaan bij zijn woonhuis in Beekbergen, maar gelukkig weet hij dankzij hulp van omwonenden te ontkomen. De bezetter gaf de klopjacht tijdelijk op.. Maar op 29 september 1944 deed de Duitse Ortskommadant van Apeldoorn een oproep voor vierduizend burgers voor de aanleg van militaire versterkingen langs de IJssel. Het Apeldoorns verzet saboteert de oproep en er melden zich maar 36 mannen. De Duitsers zijn razend en besluiten per direct actie te ondernemen. Na een ‘ondervraging’ van een opgepakt lid van de groep van Meinarda werd er een val gezet waardoor op 30 september 1944 de groep van Meinarda werd opgepakt. In de woning van Meinarda werden wapens, munitie en documenten aangetroffen. Hierdoor kwam de Sicherheitsdienst Barendsen en nog 2 ondergedoken geallieerde piloten op het spoor. Barendsen is thuis in de val gelokt en de 2 piloten zijn gevonden bij de moeder van een van de leden van Meinarda. Barendsen werd afgevoerd naar het destijds hoofdkantoor van de S.D. aan de Rhemenslaan in Apeldoorn. Hier werd hij met veel geweld verhoort. In totaal zijn er die dag 14 verzetsstrijders opgepakt door de S.D. in Apeldoorn. 

Op maandag 2 oktober werden 5 leden van de Meinarda groep, samen met Barendsen en de 2 geallieerde piloten meegenomen naar het Apeldoornse Bosch. Hier werden alle 8 gefusilleerd. Na het fusilleren werden een aantal van hen, met een bajonet in hun rug gestoken, waarna de lichamen ter afschrikking op verschillende plekken in Apeldoorn werden neergelegd. Om hun nek zat een bordje met daarop de tekst ‘terrorist’ 

Jan Jouza Barendsen zijn lichaam werd neergelegd op de Badhuisweg, hoek Sprengenweg, waar hij enkele dagen is blijven liggen. Hierna werd hij bijgezet in het familiegraf op Heidenhof. Uiteindelijk is hij herbegraven op het Nationaal Ereveld Loenen, in graf 1013. Na de oorlog werden er processen gestart tegen oorlogsmisdadigers. Hier verklaarde een medewerker van de S.D. het volgende: “Even wil ik opmerken de trotse houding van de commandant van de verzetsbeweging Barendsen, die, toen hij met de anderen voor het vuurpeloton stond, zijn jas losknoopte en uit volle borst het Wilhelmus aanhief.”

Deze quote weergeeft goed welke opoffering Barendsen en andere verzetsstrijders tot het laatste moment hebben gegeven voor een vrij Nederland. Postuum kreeg Barendsen het Verzetskruis toegekend.