Bien que Vinnie Stigma ait fondé Agnostic Front à New York en 1982, la rencontre avec Roger Miret constitue le véritable point de départ d'une longue carrière parsemée de hauts et de bas et d'incessants changements de musiciens. Après la sortie du mini album United Blood en 1983, Rob Kabula (basse) et Dave Jones (batterie) rejoignent le groupe pour l'enregistrement de Victim in Pain un an plus tard. Véritable missile de 15 minutes, cet album est considéré comme un classique du punk hardcore. A cette époque Agnostic Front partage l'affiche avec Minor Threat, SS-Decontrol, et les groupes californiens Dead Kennedys et Black Flag.

Pour l'enregistrement du second album, Agnostic Front recrute un autre guitariste, Alex Kinon et remplace Dave Jones par Louie Beatto. Mais l'ambiance n'est pas au beau fixe. Personne ne semble être concerné par l'avenir du groupe, et seul Vinnie Stigma maintient le navire à flot. Cause for Alarm paraît au prix de nombreux efforts en 1986. Avec cet album, Agnostic Front prend une direction beaucoup plus métal s'affirmant comme l'un des fers de lance du crossover avec D.R.I. et, dans la foulée, enchaîne une tournée avec Slayer et Anthrax. Liberty and Justice for... est enregistré en 1987 avec un line up entièrement recomposé. Louie Beatto rejoint Carnivore et Peter Steele. Alex Kinon se volatilise dans la nature. Pour les remplacer, Stigma et Miret recrutent le guitariste Steve Martin, Will Shepler à la batterie et le bassiste Alan Peters. En 1989, Agnostic Front décide d'immortaliser sa performance scénique sur l'album Live at the CBGB'S avec Craig Setari ex-bassiste de Straight Ahead et Youth of Today.

Les années suivantes le groupe est contraint de faire un break, dû en partie à l'incarcération de Roger Miret. A sa sortie, ce dernier éprouve le besoin de faire partager son expérience. Agnostic Front sort l'album One Voice en 1992 mais le tandem Stigma/Miret jette l'éponge peu après une tournée d'adieu conclue par l'enregistrement d'un album live, Last Warning. Stigma, Shepler et Matt Henderson, qui a participé à l'enregistrement de One Voice, rejoignent Madball et Craig Setari est recruté par Sick of it All.

Toutefois, Stigma et Miret ne peuvent se résoudre à vivre longtemps éloignés d'Agnostic Front. Le bînome s'entoure du batteur Jim Colletti et du bassiste Rob Kabula, compagnons de route des débuts d'Agnostic Front, pour raviver la flamme. Le retour du groupe s'effectue par le biais du label Epitaph sur lequel sort l'album Something Gonna Give en 1998. Agnostic Front renoue avec le punk hardcore de ses débuts et retrouve une seconde jeunesse. En 1999, Agnostic Front enregistre l'album Riot Riot Upstarts et, en 2001, Dead Yuppies avec le bassiste Mike Gallo. Un split live intitulé Working Class Heroes sort en 2002 avec les hollandais de Discipline.
Il faut attendre 2004 et leur renvoi par Epitaph pour que les new yorkais renouent avec le studio. Après la signature d'un deal avec Nuclear Blast, Agnostic Front enregistre Another Voice avec James Jasta, suivi en 2007 de Warriors.