В целях проведения массовых репрессивных акций в конце 20-х начале 30-х гг. в СССР была создана хорошо отлаженная и материально обеспеченная система судебных и несудебных органов. Высшими судебными инстанциями были Верховный суд автономной республики, Верховный суд союзной республики и Верховный суд СССР. Наряду с общими судебными инстанциями сохранялись специальные суды: военные трибуналы, линейные суды железнодорожного и водного транспорта.
Вместе с судебными органами существовала целая система несудебных органов. Эта система в СССР стала формироваться еще в 1923 г. 15 февраля 1923 г. постановлением ЦИК СССР была учреждена судебная коллегия ОГПУ. Она имела право рассматривать во всесоюзном порядке дела о диверсиях, вредительстве, и других преступлениях, а также применения всех мер наказания.
По постановлению ЦИК СССР от 5 ноября 1934 г. при НКВД было образовано особое совещание— орган, который в административном (внесудебном) порядке мог применить “ к лицам, признаваемым общественно-опасными” в качестве меры наказания ссылку, высылку и заключение в исправительно-трудовые лагеря сроком на 5 лет. Потом его права были расширены вплоть до применения высшей меры наказания. В состав Особого совещания входили: народный комиссар внутренних дел, заместитель народного комиссара внутренних дел, начальник главного управления милиции.
В 1934 г. был создан еще один несудебный орган—комиссия НКВД СССР и Прокуратуры СССР по следственным делам (“ двойка”).