К политическим трудностям вскоре присовокупились и экономические: ввиду почти полного бездействия транспорта, вызванного саботажем со стороны железнодорожного профсоюза Викжель, в обеих столицах  остро ощущалась нехватка топлива и  продовольствия. Советы на периферии, где они были созданы, не обладали всей полнотой власти. В большинстве городов и сел страны власть находилась в руках контрреволюционеров, имущих классов, анархистов и даже бандитов. Советское правительство к этому времени еще не овладело полностью положением и в основном контролировало район европейской части в пределах Петроград – Москва и на юг до Царицына. Этот район в разные периоды то расширялся, то сужался в зависимости от наступления армий сторон и интервентов.

В самих городах шла вооруженная борьба отрядов красногвардейцев с бандитами, грабителями, саботажниками и заговорщиками. Продолжали выходить газеты – большевистские и антисоветские, циркулировало множество различных слухов, и в первую очередь о неминуемой гибели нового режима, о скором наступлении немцев и аресте Троцким Ленина. Большинство из этих слухов и сплетен распускалось разведками и дипломатами западных стран через свою агентуру в лице анархистов, эсеров и провокаторов.

В январе 1918 г. по поступившим в ВЧК нескольким заявлениям была проведена операция по обезвреживанию «Организации борьбы с большевиками и отправки войск Каледину», действовавшей под прикрытием «благотворительной организации» для оказания помощи раненным на войне офицерам и их семьям. Ее возглавляли офицеры царской армии Мешков, Ланской и Орел. Под видом бывших офицеров в организацию были внедрены чекисты. Один из них вступил в группу, которая должна была в конце января перебраться на Дон к Каледину, и 23 января все офицеры этой группы, пришедшие на инструктивное собрание в кафе на Невском проспекте, были арестованы. В ходе следствия выяснилось, что организация совместно с эсерами готовила вооруженное восстание и покушение на Ленина.

Первый смертный приговор, утвержденный Коллегией ВЧК, был приведен в исполнение 26 февраля 1918 г. в отношении двух бандитов – самозваного князя Эболи (Маковский, Долматов) и его подруги Бритт, грабивших под видом сотрудников ВЧК. Через два дня, 28 февраля, были расстреляны В. Смирнов и И. Заноза, которые занимались грабежом в гостинице «Метрополь», также под видом чекистов.

С 21 февраля 1918 года, согласно Декрету СНК РСФСР «Социалистическое Отечество в опасности!» чекисты получили право расстреливать на месте неприятельских агентов, спекулянтов, громил, хулиганов, контрреволюционных агитаторов и германских шпионов.

Другим актом Советского правительства, причем неожиданным для дипломатов западных стран стало решение о переезде  из Петрограда в Москву. Принятие такого решения обусловливалось тем, что Петроград постоянно находился под угрозой наступления на него германских войск и наличием в нем значительных сил контрреволюционеров, монархистов, белогвардейских организаций и агентуры западных государств. Первым зданием ВЧК  в Москве было отнюдь не то жёлтое здание, в котором сейчас располагается ФСБ, а дом № 11 по Большой Лубянке в бывшем здании страхового общества «Якорь». К тому времени центральный аппарат ВЧК насчитывал уже 120 сотрудников.

Первые полгода работы Чрезвычайной комиссии в основном были направлены против террора, развязанного с помощью своей агентуры иностранными разведками. В этом направлении особо активно действовала английская разведка, яркими представителями которой были Брюс Локкарт, Сидней Рейли, Джордж Хилл, Кроми и многие другие. Основной их целью было устранение с политической арены в России с помощью террора против видных большевистских лидеров, и в первую очередь Ленина, ликвидация в стране большевистского режима и восстановление буржуазного строя. Самой колоритной и своеобразной фигурой среди них был Сидней Рейли,  который начале 1918 года Рейли был направлен в Россию в качестве резидента английской разведки. Агентура Рейли проникла во многие важные организации и учреждения Советской власти, в том числе и в ВЧК. Сам Рейли имел удостоверение на имя сотрудника этой организации и свободно разъезжал не только по Петрограду и Москве, но и по другим городам страны. Агенты Рейли были в Кремле, Штабе Красной Армии, в результате чего он располагал многими секретными сведениями ее командования и Советского правительства.  Более того, Рейли имел возможность прослушивать телефон самого Дзержинского. Подробнее об этом смотрите  ТуТ .

В мая 1919 года чекистам было передано их нынешнее здание, но переехать они смогли лишь в сентябре. Дело в том, что бывшее  здание страхового общества «Россия» , точнее, два отдельных здания, разделённые Малой Лубянкой, были не только административными, но и жилыми, и жильцы очень долго не хотели съезжать.

10 июля 1934 года органы государственной безопасности вошли в Народный комиссариат внутренних дел (НКВД) СССР, в состав которого вошло ОГПУ СССР, переименованное в Главное управление государственной безопасности (ГУГБ). Наркомом внутренних дел СССР был назначен Генрих Ягода. В сентябре 1936 года наркомом внутренних дел СССР назначен Николай Ежов, а с декабря 1938 года наркомом внутренних дел СССР стал Лаврентий Павлович Берия.

В феврале 1941 года НКВД СССР был разделен на два самостоятельных органа: НКВД СССР и Наркомат государственной безопасности (НКГБ) СССР. В июле 1941 года НКГБ и НКВД СССР вновь были объединены в единый наркомат – НКВД СССР. В апреле 1943 года был вновь образован Наркомат государственной безопасности СССР. 15 марта 1946 года  НКГБ был преобразован в Министерство государственной безопасности. А 13 марта 1954 года был создан Комитет государственной безопасности при Совете Министров СССР (КГБ).

К началу 1954 года численность оперативно-чекистских подразделений МВД СССР составляла около 80 000 чел. При создании КГБ это число планировалось уменьшить на 20%. Кроме того в 1954 г. в состав КГБ вошли войска правительственной связи (в 1956 году – 9 000 чел.), а в 1957 г. – пограничные войска. Тем не менее численность органов КГБ в 50-е годы сокращалась. Так, в 1955 г. штаты были сокращены на 7 678 ед., кроме того, 7 800 офицеров КГБ были переведены на положение рабочих и служащих. В конце 1959 году на 42 000 человек были сокращены и пограничные войска. В 60-е годы численность вновь начала расти (в 1967 г. – на 2 250 чел.). В начале 1991 г. КГБ получил от Министерства обороны СССР две мотострелковые, дну воздушно-десантную дивизию и мотострелковую бригаду общей численностью 23 767 человек. Всего к 1991 году численность органов КГБ составила около 480 000 чел., в том числе. 5 000 – в центральном аппарате, 90 000 – в КГБ союзных республик, 220 000 чел. – в пограничных войсках, 50 000 чел. – в войсках правительственной связи.

Памятник Дзержинскому появился в 1958 году.
В 1939 году принимается решение об очередном расширении здания. Проект реконструкции был поручен знаменитому А. Щусеву. Проект 1939 года предусматривал объединение зданий с общим главным фасадом на Лубянской площади и превращение части Малой Лубянки от Лубянской площади до Фуркасовского переулка во внутренний двор здания. В январе 1940 года эскиз будущего здания был утверждён Берией. Но приступить к большой реконструкции здания помешала война. Работы по отделке и реконструкции правой части здания (бывший дом 1) были начаты в 1944 году и завершены в 1947. Левая же часть здания, хотя и была увеличена на 2 этажа еще в 1930-х, во многом сохраняла исторический облик начала века, включая даже некоторые архитектурные элементы. Здание оставалось асимметричным до 1983 года. Только тогда были завершены работы по задумке Щусева и здание получило свой современный симметричный облик. Одновременно с этой последней реконструкцией основного здания в конце 1970-х — начала 1980-х годов на Лубянке появились два новых здания КГБ: в 1979-1982 году для КГБ был дополнительно построен дом №1-3 по улице Дзержинского (Большая Лубянка). В 1985 — 1987 годах на улице Кирова (с 1990 года — Мясницкая), д.4/1 было построено здание Вычислительного центра КГБ

Здание Вычислительного центра КГБ

Дом №1-3 по улице Дзержинского (Большая Лубянка)

Реконструкция здания КГБ в 1983 году