Команда была образована в 1935 году. Но долгие годы выступала только на уровне первенства Кабардино-Балкарии, становившись не раз чемпионом КБР и обладателем Кубка КБР, и в спартакиадах, а с 1959 года «Спартак» стал выступать и в чемпионатах страны.

В 1959—65 гг. выступала в классе «Б». Лучшим достижением здесь было первое место 1966 года в своей зоне и победа в финальном турнире чемпионата РСФСР. Команда выиграла всё, что смогла, и завоевала путевку в класс «А». К этому успеху спартаковцев привел тренер Д. Г. Чихрадзе. Одиннадцать игроков получили звание «Мастер спорта».

В 1966—70 гг. спартаковцы Нальчика играли во второй группе класса «А». Лучшим достижением здесь было 2-е место в зоне 1970 года и повторное завоевание в том же сезоне звания чемпиона РСФСР. К этому успеху команду привел тренер В. В. Кирш.

В 1971, 77—78, 81—89 гг. «Спартак» выступал во второй лиге СССР. Лучшими достижениями здесь были 1-е места в зоне, занятые в 1971, 77 и 78 года. В 1971 году завоеваны серебряные медали первенства РСФСР. Наибольших успехов команда добилась в этот период под руководством В. В. Кирша, И. В. Золотухина, В.X. Эштрекова. Владимир Хазраилович Эштреков работал в Нальчике 6 лет (1983—1988 гг.), что является рекордом для этой команды. В 1972—76, 79—80 гг. «Спартак» выступал в первой лиге СССР, но без особых успехов. Лучшим достижением здесь у него было 14-е место (1974, 1975 г.).

Два последних первенства СССР спартаковцы провели в «Буферной лиге», где лучшим для них результатом было 8-е место (1990 г.).

Девятый год команда Нальчика с переменным успехом выступала в российском первенстве. Лучшими достижениями за это время были: 1-е место во втором дивизионе 1995 года и 4-е место в первом дивизионе 1997 года. Команду в это время возглавляли: Казбек Тляругов (1992—93 гг.), Юрий Наурзоков (1994 г.), Борис Синицын (1995 г.), Виктор Кумыков (1996—98 гг.), Виктор Зернов (1999 г.), Асланбек Ханцев (1998—2000 гг. с перерывом), Сергей Пономарев (2000 г.), Софербий Ешугов (2001—2003 г.)

С 2004 года главным тренером стал местный тренер Юрий Анатольевич Красножан, пришедший из дубля Нальчикского «Спартака». С приходом Юрия Красножана связан наивысший результат за 70-летнию историю «Спартака». В год дебюта на тренерской скамейке Красножан поднял команду на 12 место, отстав от 5 места всего на 3 очка.

В 2005 году, не имея солидной финансовой поддержки, не обладая достойной на тот момент инфраструктурой, команда по ходу всего сезона боролась за место в лидерах, заняла второе место и вышла в Премьер-лигу.

6 августа 2007 года прошла торжественная церемония вступления в ряды политической партии «Единая Россия» 10 российских футболистов клуба «Спартак-Нальчик», а также практически всего руководство команды во главе с гендиректором Владимиром Баловым. За написанием заявлений о вступлении в партию футболисты признались, что на самом деле далеки от политики, но считают, что состоять в «Единой России» очень престижно. Кроме этого, свое желание присоединиться к единороссам футболисты объяснили тем, что хотят состоять в одной партии с президентом Республики Кабардино-Балкария Арсеном Каноковым, который пользуется большой поддержкой населения и является главным спонсором команды «Спартак-Нальчик».