관료제 내부의 무능을 잡으려고 스탈린은 레닌그라드 당에서 두각을 나타낸 급진파 안드레이 즈다노프를 기용한다.

즈다노프는 지금 관료제의 상태가 전반적으로 개판인 건 당원들이 정치와 당의 역사에 대해 개념이 없어서 그런 것이고 지역당 조직 내부가 대중들과 유리되어 있어서 민주적인 참여가 제한받고 있기 때문이라는, 당시 공산당에서는 "님 뭔 소리 하시는 거죠?" 라고 통할 만한 급진적인 주장을 하였다.

즈다노프는 심지어 당 조직 내부에서 상급자를 비밀선거로 뽑을 수 있게 해야 한다는 주장까지 펼치는데, 스탈린은 이에 흡족해하면서 당원들을 이 수단으로 통제하고자 노력하며 각지에 "님들 정치교육 빨리 좀 돌리셈." 하는 공문을 발송한다.

그리고 즈다노프와 스탈린의 합작품으로 나온 것이 바로 1936년의 스탈린 헌법이었다. 그리고 그 즈음하여 스탈린의 교시가 하나 등장하는데, 바로 붉은 군대 사관학교 연설에서 행한 "간부가 모든 것을 결정한다!" 라는 말이었다.(이는 더 자세히 살펴보면 이는 간부가 결정권을 독점한다는 의미는 아니고, 이제 산업화 열심히 해서 최신 기술 많이 들여놨는데 기술을 쓰는 간부들의 상태가 노답이다.

그러니 이제 간부의 숙련도가 소련이라는 국가를 다스리는 데 결정적인 역할을 하게 될 것이라는 이야기였다. 규율을 철통같이 강조해야 할 사관학교 연설에서 이런 말을 했다는 것은 여러모로 스탈린이 이 말을 한 의도를 극적으로 드러내준다.) 

즈다노프는 지금 당 내에서 중요한 건 비판과 자아비판이며, 자유로운 비판의 분위기가 만들어질 때야말로 당 관료조직의 일이 효율적으로 처리될 수 있다고 주장하였다.

한편 지역당의 자치권을 억제하기 위하여 지역의 독자적인 경제 및 재정권한, 사형을 핵심으로 하는 사법권한을 은근슬쩍 박탈해놓은 상태였다.

한편 중앙당에서는 다른 이야기가 전개되고 있었다. 스탈린 파벌 내부에서의 싸움이 격화되는 중이었던 것이다. 트로츠키, 부하린에 대한 강경한 처벌과 산업생산에서의 급진적 움직임을 지지하는 뱌체슬라프 몰로토프와 이들 당 내 반대파들에 대한 유화적인 해결책과 온건한 산업투자를 지지했던 세르고 오르조니키제의 다툼이 격화되고 있었기 때문이었다.

몰로토프는 당시 소련의 정부부처라고 할만한 인민위원회들의 회의를 주관하는 소브나르콤(소브나르콤이란: 소련 장관회의의 전신) 의 의장으로 있었고, 오르조니키제는 5개년 계획의 성공을 위해서 모든 국가자원을 먹어치우고 있었던 중공업인민위원이었는데, 몰로토프가 오르조니키제의 상관임에도 불구하고 오르조니키제 개인의 인망과 중공업인민위원회가 갖는 막대한 권력으로 둘의 다툼은 관료제 내부까지 스며들고 있던 상황이었다.

그 와중에 트로츠키를 지지하던 몇몇 당원들이 어설프게 일을 벌이다가 잡히는 일이라던가, 트로츠키가 소련 내부의 지지자와 사적으로 연락하던 게 걸리는 일 등이 발생하였고, 결정적으로 세르게이 키로프 암살이 벌어짐에 따라 온건파의 입지는 굉장히 취약해졌다.

이 시기 스탈린이 매우 상징적인 행보를 보였는데, 바로 겐리그 야고다를 내리고 니콜라이 예조프를 NKVD 위원장으로 앉힌 일이었다. 니콜라이 예조프는 반대파들에 대한 색출을 전국적으로 확대하자는 급진적인 입장을 보였는데 야고다는 그에 반대하고 적당히 몇 놈 잡아서 족치는 수준에서 끝내자고 치워버린 것.

야고다는 우편인민위원회라는 엄청난 중책(...)을 떠맡게 되고 공산당 중앙위 산하 당통제위원회의 의장이었던 예조프가 그 위치를 점하게 된다.

그리고 그가 처음에 한 일은, 과거 트로츠키파의 일원으로 현재 오르조니키제의 충실한 부하로 변신한 퍄타코프를 숙청하는 일이었다. 몰로토프는 오르조니키제가 공격받는 것에 신나서 그를 극딜했으며, 퍄타코프는 투옥되었고 오르조니키제는 얼마 안 가서 자살한다.

이게 자살인지 아닌지는 여전히 논란이 많을 정도로 의미심장한 사건. 공산당 내 온건파는 이를 기점으로 몰락한다. 실제로 몰로토프가 오르조니키제를 얼마나 싫어했는지 알 수 있는 사건이 있다. 바로 오르조니키제의 장례식. 이 날 얄궂게도 몰로토프가 장례식 연설을 맡게 되었는데, 처음엔 오르조니키제를 엄청 칭찬하다가 그가 퍄타코프와 같은 불순분자를 중용한 건 매우 큰 실수였다고 디스(...). 오죽 서로 안 좋았으면 장례식에서까지 그런 말을 하겠는가. 여담으로 오르조니키제가 죽기 직전 중공업인민위원회는 몇 개의 소위원회로 차츰 분리되고 있던 시점이었고 오르조니키제가 죽자 완전히 공중분해되어버린다.

거기에 예조프가 올라가자마자 한 일은, NKVD의 조직개편과 조직장악을 실시하는 일이었다. 기존의 NKVD는 각 지역의 지부들이 지역 당 조직과 사실상 협력 관계를 구성하고 있는 모습을 보여주었다.

감사가 진행될 것이라는 정보가 뜨면, 지역의 NKVD 위원장이 나서서 감사 정보를 흘려주는 막장스러운 일도 많았다. 예조프는 야고다 체제 하에서 이루어지는 이런 유착관계와 업무태만을 도저히 참을 수가 없었고 잔혹한 조직개편 및 숙청을 실시하였다.

NKVD 지부들의 상부 인원들을 싹 다 교체하고 체포하였으며 기존 야고다와 연줄이 있는 그룹은 다 갈려나갔다. 사라토프 주의 NKVD 의장인 로만 알렉산드로비치 필랴르를 소환하여 다음과 같은 말을 하기도 했다.