Ide sa na olympiádu
Nové tréningové metódy i usilovná práca Sokola sa vyplatili. Na jar v roku 1896 vyhral kvalifikačné preteky na 110 metrov cez prekážky a získal miestenku na úplne prvé novodobé olympijské hry v Aténach. Tieto olympijské hry ešte ani zďaleka nepripomínali olympiádu ako ju poznáme dnes, dokonca sa na nej neodovzdávali ani medaily. Ocenení boli len prví dvaja súťažiaci. Alojz Sokol sa prihlásil do viacerých pretekov, najväčší úspech však zožal v šprinte na 100 metrov, kde skončil tretí za Američanom Burkeom a Nemcom Hofmannom. Jeho čas nepoznáme. Rozhodcovia ho odmerali iba víťazovi, ktorý prebehol stovku za 12 sekúnd.
S poranenou nohou
Sokol sa prihlásil na štart až v šiestich disciplínach. Súťaž v trojskoku prebiehala v čase finále stovky, takže stihol len jeden skok a výkon 12,30 m mu napokon stačil na štvrté miesto. V behu na 100 m cez prekážky sa v rozbehu na predposlednej prekážke potkol a sen o finále sa mu rozplynul. Či súťažil aj v skoku do diaľky, výšky, či v skoku o žrdi, to sa v dokumentácii nezachovalo.
Uhorská delegácia si na hrách získala mnoho fanúšikov, hoci nebola počtom veľká. Uhorskí športovci pricestovali medzi prvými a na Sokolov návrh si klobúky vyzdobili v gréckych farbách bielymi a modrými stuhami. Hoci ich domáci vítali priateľsky, prežíval Sokol pri súťažení i ťažké chvíle. Krátko pred cestou do Atén si totiž poranil nohu a zachované denníkové zápisy jeho kolegu Nándora Dániho spomínajú, že mal veľké bolesti. Napriek tomu si vraj zachoval veselú náladu.