Grupa powstała w 1992 roku w Des Moines z inicjatywy wokalisty Coreya Taylora oraz perkusisty Joela Ekmana. Stary przyjaciel Taylora, Shawn Economaki, dołączył jako basista.

W 1994 roku wydał swoje pierwsze demo o wybitnie hardrockowym brzmieniu, nagrane w Big Fish Studios w Omaha w stanie Nebraska. Niestety grupa nie zyskała nim żadnej popularności, gdyż klasyczny hard rock, jaki prezentował wtedy Stone Sour, w latach 90. XX wieku odchodził w zapomnienie, a popularnością cieszyły się jedynie legendarne grupy tego gatunku.

W 1995 roku do grupy dołączył James Root. Działalność zawieszono, gdy w 1997 roku Corey odszedł z próbą reformacji grupy Slipknot. Rok później do Slipknot dołączył także Root. Economaki został jej menadżerem, a Ekman założył rodzinę. Myślano, że to koniec Stone Sour.

W 2000 roku Josh Rand przyszedł do Coreya z tekstami nad którymi pracował. Wtedy razem zaczęli pracować przez półtora roku, pisząc nowe piosenki. Zespół przywrócono do życia w 2002 roku, wydając album Stone Sour. Zespół przygotował piosenkę "Bother" na soundtrack do filmu Spider-Man, w czasie gdy nagrywano album. Nowy, a zarazem pierwszy oficjalny w karierze krążek zmienił zupełnie image grupy, gdyż muzyka w nim zawarta bardzo wyraźnie odnosiła się do stylu Slipknot, jednak o nieco łagodniejszym brzmieniu. Po tej konwersji zespół odniósł komercyjny sukces; m.in. dzięki niej również wiele fanów Slipknota zaczęła sięgać po twórczość Stone Sour.

Zespół wrócił do studia w styczniu 2006 roku, zaczynając pracę nad nową płytą. Za bębnami zasiadł Roy Mayorga, zajmując miejsce po Ekmanie, który opuścił zespół po śmierci dziecka. Nowy album wydany 1 sierpnia 2006 roku został nazwany Come What(ever) May i liczy 12 piosenek. Pierwszy singel "30/30-150" wyróżnia dynamika i skomplikowana warstwa rytmiczna. Kolejny "Through Glass" nawiązuje do wspomnianej "Bother", będąc spokojną alternatywą dla ciężkiego gitarowego grania jakim zespół zarysował swój styl. W utworze 30/30-150 gościnnie pojawił się perkusista grupy Godsmack, Shannon Larkin. Jego partie perkusji zostały zarejestrowane tylko na płycie. W teledysku pojawia się już Mayorga.

Na początku 2010 roku zespół poinformował, że pracuje nad trzecim albumem. Premierę nowego wydawnictwa zatytułowanego Audio Secrecy przewidziano na 7 września 2010

Na początku października 2010 roku singiel "Say You'll Haunt Me" z płyty "Audio Secrecy" został sklasyfikowany na 1. miejscu według zestawienia Rock Songs.

W dniu 22. października 2012 roku zespół wydał swój czwarty, studyjny album o nazwie "House Of Gold And Bones, Part 1". Jest to część pierwsza dwupłytowego zestawu, która przedstawia spójną historię pewnego człowieka. Opowiada o jego przeżyciach emocjonalnych, psychologicznych i odczuciach religijnych, pokazując rozterki życiowe na różne sposoby. W dniu 23. października serwis ARTISTdirect dał owemu albumowi ocenę 5/5, co oznacza, że jest wart zainteresowania.