После ареста группы Смирнова нелегальная деятельность троцкистов не прекратилась. В конце 1933 — начале 1934 годов ОГПУ напало на след «нелегального всесоюзного центра» троцкистской организации, который готовил побеги ссыльных оппозиционеров с целью перевода их в подполье и собирался созвать весной 1934 года тайную всесоюзную конференцию троцкистов. По этому делу в различных городах были проведены аресты троцкистов. Первой была арестована А. П. Лифшиц, которая на протяжении двух месяцев допросов отрицала наличие подпольного троцкистского центра. Затем от неё удалось добиться признаний в том, что в марте 1931 года она бежала из ссылки, в конце 1932 года установила связь с Раковским и по его поручению готовилась к объезду всех мест троцкистской ссылки с целью объединения находившихся там оппозиционеров . У названных ею лиц были при обысках изъяты статьи и письма Троцкого, а также написанная заключёнными Верхнеуральского политизолятора листовка, призывавшая к голодовке протеста против ужесточающихся репрессий. Таким образом, ОГПУ узнало о сохранявшихся контактах Троцкого с оппозиционерами, находившимися не только на свободе, но и в местах заключения и ссылки.
Согласно данным ОГПУ, костяк «Всесоюзного троцкистского центра» составляли лица, исключённые в 1927—30 годах из партии за участие в левой оппозиции и отбывавшие ссылку в разных районах страны. Предъявленное им обвинение в стремлении к консолидации, объединению и подпольной деятельности, по-видимому, имело известные основания.
О характере следствия свидетельствуют заявления уцелевших обвиняемых по этому делу, полученные в 1956—57 годах: «Долго я не подписывал протоколов, на что мне следователь сказал — если я не подпишу, то будут арестованы мой отец и моя невеста и будут содержаться в тюрьме, пока я не подпишу предлагаемого протокола о полном признании своей вины… Я подписал всё, что от меня требовали»; «Потеряв совершенно сон, на допросах могла слушать только рассказы следователя о придуманном кем-то моем преступлении и плакать» . Можно полагать, что в период «переследствия» эти лица не сообщали всей правды о своей деятельности, поскольку они знали, что хрущевское правосудие по-прежнему считает нелегальную антисталинскую деятельность тридцатилетней давности уголовным преступлением.
О характере предъявленных арестованным обвинений свидетельствует зафиксированное в деле показание одной из заключённых, что она «информировала Лифшиц в контрреволюционном духе о ходе коллективизации на Украине». Этот «контрреволюционный дух» заключался в том, что она «думала, что, может быть, возможны мероприятия, которые предотвратили бы голод и те жертвы, которыми сопровождался процесс коллективизации». В «дело» были включены также показания о том, что нелегальная троцкистская группа ставила, целью «очистку ленинизма от сталинского социализма» .
Одной из целей, которую Сталин и ОГПУ преследовали при организации этого дела, было, по-видимому, давление на Раковского, седьмой год находившегося в ссылке и упорно не соглашавшегося на капитуляцию. Хотя Раковский, согласно материалам следствия, числился организатором «Всесоюзного троцкистского центра», его не только не арестовали, но в 1934 году возвратили из ссылки. После выступления о разрыве с оппозицией он был назначен начальником управления учебных заведений Наркомздрава РСФСР, а в 1935 году восстановлен в партии.
Всего по делу «нелегального троцкистского центра» было привлечено 39 человек, большинство из которых были приговорены к лишению свободы или к ссылке сроком на 2—5 лет. В 1937—38 годах многие из них прошли переследствие, в результате которого были расстреляны или приговорены к новым срокам заключения в лагерях. Уцелевшие и выпущенные на свободу после отбытия срока неоднократно подвергались репрессиям в последующие годы.