Po štúdiu sa presťahoval do mesta Wilmington v štáte Delaware, kde začal advokátsku prax a založil si vlastnú právnickú firmu. Zároveň sa stal aktívnym členom Demokratickej strany. V roku 1972 uspel po prvýkrát vo voľbách do amerického Senátu v štáte Delaware a vo veku 30 rokov sa stal šiestym najmladším senátorom v histórii. V Senáte sedával na rovnakom mieste ako v minulosti jeho vzor JFK.
Krátko po získaní kresla senátora sa v Bidenovom živote v decembri 1972 odohrala rodinná tragédia. Pri dopravnej nehode zahynula jeho manželka Neilia spoločne s ročnou dcérkou, dvaja synovia utrpeli zranenia. Joe Biden zvažoval rezignáciu, aby sa mohol venovať rodine. Stranícke vedenie ho však presvedčilo, aby zostal v politike. V Senáte potom strávil nepretržite 36 rokov, až do januára 2009, keď na funkciu – ako novozvolený viceprezident USA – rezignoval. V júli 1977 sa oženil po druhýkrát s učiteľkou Jill Tracy Jacobsovou, s ktorou má dcéru. V máji 2015 zomrel na rakovinu vtedy 46-ročný Bidenov syn Beau.
Joe Biden sa stal prvým americkým politikom, ktorý predložil v Kongrese USA návrh zákona zaoberajúci sa klimatickými zmenami. Niekoľko rokov pôsobil tiež ako predseda Výboru pre zahraničné vzťahy.