Сокращалась сфера деятельности нотариата из-за отмены ряда нотариальных удостоверений и из-за общего сокращения гражданского оборота. Большинство нотариальных контор было закрыто. К 1 января 1937 года в СССР осталось всего лишь 122 конторы, в том числе в РСФСР – 74 (в 1924 году было 414, в 1935 году – 59). Нотариальные положения фактически не применялись.
С 1935 года стали появляться тревожные сообщения о развале нотариальной системы. В обширной статье «Что есть нотариус» (Советская юстиция. 1935. № 30) Свердлов обращал внимание юристов на очередной (51-й) Пленум Верховного Суда СССР (далее – ВС СССР). Отмечалось, что в большинстве контор обследования не проводились уже четыре года. Люди стремились заверить подписи у нотариуса, а не в Советах. В итоге конторы были перегружены. Например, в единственной Московской нотариальной конторе число ежедневных посетителей достигало 800 человек! Многие нотариусы незаконно заверяли подписи и документы, в том числе руководствуясь незаконными рекомендациями областных судов. Хуже дело обстояло в нотариальных столах исполкомов Советов. В большинстве из них нотариальные действия нигде не отмечались. Выборочная проверка подтвердила, что 90% нотариальных надписей было совершено с нарушением законов. Свердлов призвал немедленно восстановить нотариат и возложить часть функций на народных судей. В конце 1934 года под руководством Винокурова было разработано первое Положение о нотариате СССР (возможно, его автором был Васильев-Южин). Проект был одобрен 49-м Пленумом ВС СССР и передан в комиссию Енукидзе. Сам текст Положения в архивах не обнаружен. Однако дальнейшего хода проект не имел. В январе 1935 года председатель ВС СССР Винокуров заявил, что «вопрос о сохранении госнотариата решен в положительном смысле». Планировалось возродить нотариальные конторы в районах, областях, республиках. Руководство должно было быть возложено на старших нотариусов или, в крайнем случае, на народных судей. Назначение и увольнение нотариусов должны были производить областные и верховные суды. Общее руководство осуществляет ВС СССР и союзных республик.
В 1935 году во время возрождения гражданских коллегий в областных судах нотариальные конторы были подчинены председателям этих коллегий (п. 1.д Постановления Президиума ВС РСФСР от 10 мая 1935 года). По Постановлению Президиума ВС РСФСР от 8 июля 1936 года оперативное руководство нотариатом было возложено на председателя Гражданской коллегии ВС РСФСР и осуществлялось группой по нотариату при Гражданской коллегии. В реальности руководство по-прежнему отсутствовало.
10 марта 1936 года на президиуме Свердловского областного суда обсуждалась работа Свердловской нотариальной конторы. В области за пять лет не было ни одного совещания нотариусов, не слушался ни один доклад нотариуса, не проводилось ни одно обследование. С 1930 года из 22 контор 20 было ликвидировано. Остались конторы в Свердловске и Перми. Все нотариальное руководство было свалено на старшего нотариуса г. Свердловска Петухова, который разрывался на части.
10 июня 1936 года по Постановлению ВЦИК и СНК РСФСР все нотариальные действия изымались из ведения рай/горсоветов и передавались нотариальным конторам и нотариальным столам при народных судах. Аналогичные положения были приняты в других союзных республиках. Планировалось увеличить число нотариальных работников в СССР с 601 до 4981! Например, в Свердловской области планировалось подобрать 14 нотариусов и 59 заведующих нотариальными столами. В Ленинградской области собирались организовать 22 конторы и 60 столов.
Задача восстановления системы нотариата возлагалась на отделы нотариата НКЮ СССР и союзных республик. Группы по нотариату при гражданских коллегиях верховных судов перешли в отделы нотариата. Отдел нотариата НКЮ СССР должен был состоять из восьми оперативных работников во главе с Якубовским. В октябре – ноябре 1936 года отдел разработал проект Положения о государственном нотариате СССР. В отличие от Положения об адвокатуре обсуждение проекта Положения о нотариате проходило в узком бюрократическом кругу. Проект рассматривался в Наркомате земледелия, Наркомфине и в СНК СССР. Главный спор возник по вопросу о том, кому будут подчиняться нотариусы НКЮ, областным судам или советам? 30 декабря 1936 года начальник отдела отчитался о проделанной работе. Далее проект полтора года пролежал в СНК СССР без движения.
Статья 9 Положения о НКЮ СССР, принятого 8 декабря 1936 года, возлагала на отдел нотариата «общее руководство и надзор за работой нотариальных органов». Эти полномочия были конкретизированы в Положении об отделе нотариата НКЮ СССР от 14 января 1937 года. Отдел должен был разработать общие указания для отделов НКЮ союзных республик (п. 1 Положения), наблюдать за нотариальными органами, проводить ревизии и обследования нотариальных органов СССР (п. 3), разрабатывать законодательство о нотариате (п. 5), созывать совещания нотариусов (п. 7), разрабатывать штаты нотариальных органов (п. 9) и прочее. Характерно, что в этих актах ничего не говорилось о кадровых и дисциплинарных полномочиях отдела. Этот вопрос не был решен.
Руководство НКЮ СССР в целом безразлично относилось к развитию нотариата. Начальники отделов пытались активизировать работу нотариата. Глава отдела НКЮ СССР так сформулировал задачи своего отдела: установить структуру нотариата, создать систему управления, подобрать кадры и разработать нормативно-правовые акты. По его мнению, к началу 1938 года «работа по восстановлению нотариата в СССР была в основном завершена». В 1937 году в СССР число нотариальных контор достигло 432, нотариальных столов – 1537 (в том числе в РСФСР – 344 и 1504, в остальных республиках – 88 и 33). Рост нотариальных органов в РСФСР был 15-кратным! Например, в Удмуртии Ижевская городская нотариальная контора была преобразована в республиканскую, также были созданы Можгинская, Глазовская, Воткинская, Сарапульская конторы и 20 нотариальных столов. В 1938 году к ним присоединилось еще шесть новых контор. Подбор кадров был неудовлетворительным. Были назначены люди без высшего образования, больные, нетрудоспособные, судимые. Нарком юстиции РСФСР Булат разрешил совместительство должностей судебного секретаря и нотариуса. В ряде районов обязанности нотариуса исполняли народные судьи или по-прежнему отделы райисполкомов.
Еще до введения в действие общесоюзных актов по нотариату НКЮ СССР принимало приказы по совершению отдельных действий. В 1937 году нарком юстиции СССР подписал 13 приказов по нотариату и 1 секретный приказ. Нарком юстиции РСФСР подписал 2 приказа и 5 директивных писем. В 1938 году НКЮ СССР выпустил 11 приказов и 2 секретных приказа, НКЮ РСФСР – 4 приказа.
В начале 1938 года в юридической печати вышло несколько статей, подводящих итог первого года работы возрожденного нотариата. Хотя авторы в целом положительно оценивали переход к профессиональному нотариату, все же отмечалось бесчисленное множество примеров противозаконных действий. Некоторые из этих действий были продиктованы незаконными приказами НКЮ СССР. Отдел нотариата (далее – ОН) готовил проекты приказов для Крыленко, при этом сотрудники имели очень туманное представление о действующем законодательстве. Например, Крыленко подписал противозаконный Приказ № 66 за 1937 год, Булат – Приказ от 7 мая 1937 года и другие. Противоправная деятельность нотариусов широко освещалась в печати. Так, в Ленинградской области в 1937 году было помещено 63 статьи в районных газетах с подобным содержанием. Оказалось, что было создано множество ненужных контор. Так, в Кировской области на 1 районную нотариальную контору приходилось 7 нотариальных действий в день. После ареста Крыленко все недостатки в системе нотариата были объявлены вредительством.
Управление в целом было неудовлетворительным. Согласно Приказу НКЮ РСФСР от 14 марта 1937 года № 10 «О порядке производства ревизий нотариальных органов» ревизии и обследования должны были проводиться старшими нотариусами, их заместителями, консультантами нотариальных контор, членами областных и верховных судов, «знающими нотариальное дело», инструкторами НКЮ и областных судов и нотариусами районных нотариальных контор. Копии актов направляли в ОН НКЮ РСФСР. На практике обследования, как правило, проводили только старшие нотариусы. В Грузии, Украине и Армении руководство осуществляли старшие нотариусы, в ряде других республик – председатели областных судов.
В 1937 году ОН НКЮ СССР обследовал все ОН НКЮ республик и 27 контор. НКЮ РСФСР обследовал всего лишь 13 контор. В 1938 году НКЮ СССР обследовал 20 контор и все отделы нотариата.
Во многих наркоматах сотрудники недоукомплектованных ОН использовались не по назначению. Народные судьи заставляли заведующих столами выполнять технические работы, выписывать повестки, переписывать приговоры и т.д. В Белоруссии весь ОН на 3,5 месяца был мобилизован для заготовок сельхозматериалов. Ревизоры ОН ревизовали народных судей. В НКЮ УзбССР сменилось 5 начальников ОН, в КазССР – 3 начальника. В РСФСР в первом полугодии 1938 года НКЮ провел всего лишь 5 ревизий и вызвал 21 старшего нотариуса. В Киргизии провели 3 ревизии. В Казахстане, Таджикистане, Армении и Азербайджане не проводили совещания нотариусов.
Во второй половине 1938 года активность работы ОН вырастает. В том году в НКЮ УССР было проведено 85 обследований и 333 ревизии, 6 областных совещаний, республиканское совещание старших нотариусов, проинструктировано 3307 сельсоветов. В РСФСР прошло 531 обследование, 36 областных совещаний, проинструктировано 1016 сельсоветов. В БССР – 6 ревизий, 59 обследований и 2 совещания. Всего в СССР было проведено 1212 обследований. В Ленинградской области облсуд и старшие нотариусы энергично проводили работу по развитию нотариата. Было проведено 84 доклада для граждан, сделано 48 инструктивно-разъяснительных докладов, обследован 201 сельсовет. Обревизовано 18 контор и 21 стол.
В апреле 1938 года в Узбекистане прошло совещание нотариусов. 27 августа НКЮ УзбССР выпустил Приказ. В 54 районах, где отсутствовали нотариальные конторы, обязанности нотариусов возлагались на народных судей. Всего в СССР функции нотариусов выполняли народные судьи 426 районов. В 290 районах нотариальные действия никто не совершал.
После смены руководства НКЮ СССР обновленный ОН вновь приступил к разработке Положения о госнотариате СССР. В апреле была сформулирована природа нотариата. Управление возлагалось на старших нотариусов. Нотариусов должны были назначать облисполкомы и НКЮ республик. Этот проект вновь подвергся переработке. ОН также разработал инструкцию по учету единой госпошлины и депозитных сумм, формы книг нотариальных органов и т.д.
Продолжалось расширение нотариальных органов. В 1938 году в РСФСР число контор достигло 373, столов – 1652, в УССР – 56 и 280, в других республиках – 124 и 207. Всего в СССР было 553 конторы и 2139 столов. Из 2761 нотариусов только 71 имел высшее юридическое образование. Подавляющее большинство нотариусов имели небольшой стаж работы в органах юстиции. В 1938 году среднестатистический нотариус выглядел в образе мужчины в возрасте около 30 – 40 лет, член ВЛКСМ или беспартийный, образование низшее, стаж работы в юстиции до пяти лет, изгнан из других органов юстиции по разным основаниям.
В последующем министерства юстиции принимали различные акты, расширявшие и уточнявшие функции нотариата. Например, Приказ от 15 марта 1946 года № 9 по наложению запрещений на строения или Директива Д-2 от 11 февраля 1947 года «О порядке удостоверения договоров об отчуждении автомашин и мотоциклов иностранного производства». Серия директив в 1946 – 1948 гг. запрещала нотариальным конторам удостоверять отдельные виды договоров, свидетельствовать копии с документов, выданных польскими, прибалтийскими, чехословацкими, румынскими, финскими властями в довоенный период.