Dupa victoria revolutiei din 1917, bolsevicii au dizolvat vechea politie si au creat Militia taranilor si muncitorilor care functiona sub supravegherea NKDV-ului RSFS Rusa. In plus, NKDV era coplesit de sarcinile mostenite de la MDV-ul tarist, asa cum erau supravegherea guvernelor locale sau lupta impotriva opozantilor intrati in ilegalitate, noi domenii de activitate pentru o forta a proletariatului total neexperimentata.
Dandu-si seama ca sunt in situatia de a nu avea o forta de securitate eficienta, Sovietul Comisarilor Poporului al RSFS Ruse a creat politia secreta CEKA condusa de Felix Dzerjinski. Organizatiei CEKA i-a fost garantat dreptul de a initia si duce la bun sfarsit procese rapide si executii nejudiciare, daca acestea se dovedeau necesare pentru "apararea revolutiei".
CEKA a fost reorganizata in 1922 ca Directia Politica de Stat a NKVD-ului RSFS Ruse. Dupa formarea URSS-ului in 1923, GPU a fost reorganizat ca OGPU, un organ unional aflat sub controlul Sovietului Comisarilor Poporului a Uniunii Sovietice.
In 1934, OGPU a fost incorporat in proaspat creatul NKDV al URSS, transformandu-se in GUGB. NKDV-ul RSFS Ruse a incetat sa mai existe pana in 1946, cand a renascut ca MDV al RSFS Ruse. In felul acesta, NKDV a devenit responsabil pentru tot sistemul penitenciar din tara, inclusiv pentru lagarele de munca fortata, cunoscute sub numele de Gulag, dar si pentru activitatile clasice politienesti.
Diferitele departamente ale NKVD se ocupau de:
functiile generale ale politiei, asa cum erau investigatiile criminale (Militia);
spionaj si operatiuni speciale in strainatate;
contraspionaj;
securitatea oficialitatilor, ca si alte sarcini inrudite.
De-a lungul timpului, NKVD a avut urmatoarele directii principale – rnabhoe yпpabnehne, abreviate "rY" – "GU":
rYrB - rocyaapctbehhar be3oпachoctb, GUGB - Directia Principala a Securitatii Statului,
rYPKM - paboue-kpectbrhckar mnnnunr, Directia Principala a militiei muncitorilor si taranilor;
rYNBO - пorpahnuhar n bhytpehhrr oxpaha, Directia Principala a Pazei Interne si de Frontiera;
rYNO - пoxaphar oxpaha, Directia Principala a Pompierilor;
rYWocaop - woccenhbe aoporn, Directia Principala a Drumurilor;
rYXA, xene3hbe aoporn, Directia Principala a Cailor Ferate;
rYNAr - GULAG;
rEY - ekohomnka, Directia Principala Economica;
rTY - tpahcпopt, Directia Principala a Transporturilor;
rYBNN - boehhoпnehhbx n nhtephnpobahhbx, Directia Principala a Prizonierilor de Razboi si a Persoanelor Internate.
Pe 3 februarie 1941, sectiile speciale ale NKVD responsabile de contrainformatiile militare au trecut in subordinea Armatei (RKKA) si Marinei (RKKF). GUGB a fost scos din componenta NKVD si a fost redenumit NKGB. Dupa izbucnirea celui de-al doilea razboi mondial, NKVD si NKGB au fost reunite (pe 20 iulie 1941), iar contrainformatiile s-au reintors la NKDV in ianuarie 1942. In aprilie 1943, contrainformatiile s-au desprins din nou, devenind SMERS ("Moarte Spionilor"), iar NKGB a fost din nou separat de NKVD.
In 1946, NKDV a fost redenumit MDV, iar NKGB a fost redenumit MGB. Dupa ce a mai fost o data reunificat cu MDV in 1953, CEKA s-a separat definitiv in 1954 pentru a se transforma in final in KGB.
Fortele de politie s-au impartit pana la urma in doua ramuri:
MVD (Ministerul Afacerilor Interne), care avea in subordine politia criminala, penitenciarele si pompierii si
KGB (Comitetul Securitatii Statului) – responsabil pentru politia politica, contrainformatii spionaj, protectia persoanelor importante si comunicatii speciale.