Atentát na Hitlera pripravoval plukovník von Stauffenberg a ďalší členovia sprisahania - vyšší dôstojníci, diplomati, vtedajší politici - dva roky. Stauffenberg po nástupe nacistov v roku 1933 podporoval Hitlera, lebo veril, že dostane krajinu z krízy a z područia Versaillskej zmluvy. Ako jeden z mála bol podporovateľom tzv. pohyblivého boja, ktorý sa zásadne líšil od praktík zákopov v 1. svetovej vojne.
Po skončení štúdia bol pridelený k 1. ľahkej divízii Wehrmachtu pod vedením Ericha Hoepnera. Jednotka Clausa von Stauffenberga sa zúčastnila obsadenia Sudet a bojov proti Poľsku. Slúžil v nej ako náčelník štábu. Zúčastnil sa útoku na Sovietsky zväz, kde začal pochybovať o kompetentnosti Hitlera. Pochybnosti sa prehĺbili po katastrofálnej porážke pri Stalingrade. Následne bol prevelený do Afriky k 10. pancierovej divízii v rámci nemeckého Afrikakorpsu.
Siedmeho apríla 1943 napadli jeho vozidlo spojenecké stíhacie bombardéry. Pri útoku bol ťažko zranený. Prišiel o ľavé oko, pravú ruku, a malíček a prstenník na ľavej ruke. Zo zranenia sa v nemocnici zotavoval tri mesiace. Keďže nebol schopný aktívnej služby, požiadal o pridelenie k veleniu záložnej armády, kde sa stretol s generálom Friedrichom Olbrichtom, jedným z hlavných predstaviteľov protinacistického odporu.