为了加快办案速度，叶若夫无视法律，下令组织共和国、州和边疆区一级的“内务部三人行动小组”，其成员为地方内务部(局)首长、检察官和地方党组织第一书记。实际上也是就把公检法党联合在一起办案了。

三人小组通常在不和被告见面的情况下，根据案件的极简单的材料(甚至无需材料)，仅凭报上去的被捕者名单(有的地方连名单都只是在电话里上报的)处理案件。三人小组的每一次会议都要审判数十起案件，审判时无需做记录。

对“罪当死刑”的犯人们的审判简单到了不能再简单的程度：由内务部(局)首长用红铅笔在被告的材料上写上俄文“枪毙”一词的第一个字母，然后其余两名组员也签上自己的名字。被判死刑的人在审判后的当晚就会被处死。

在布置每一次清洗行动时，叶若夫总是要求属下：“打击，不加区分地狠狠地打击，即使在打击敌人时会有一部分无辜的人被消灭。而这是不可避免的。”或者，叶若夫更是强调：“如果在这次行动中要多杀1000人，那也没有什么可怕的。抓人时不必特别在意。”

叶若夫却一再叮嘱他的办案人员：在必要的情况下可以采取肉刑措施，并且带头实施肉刑。

他常常亲自动手拷打“犯人”。

有一次，赫鲁晓夫看见叶若夫的衣襟和袖口上满是血点，便问他出了什么事。

叶若夫答道：“我为这些血迹感到自豪，因为这是革命的敌人的血。”

在叶若夫的带领下，内务部仿佛流行起虐待狂症。

那两年，在莫斯科市中心，隔着一条街就能听到内务部大楼审讯室里传出的呻吟和惨叫。后来揭露的资料显示，约八成的办案人员对被审讯人用过刑，包括苏联元帅被打瞎了眼睛，火箭与宇航专家科罗廖夫被打成了脑震荡，而且还被打碎了颌骨……

1937年，叶若夫签署了一道命令，部署全苏的大规模镇压活动。该命令不仅规定了镇压的各类对象，还具体规定了各地区应当镇压的各类对象的人数。在紧张的政治高压气氛中，安全部门的人出于立功自保和晋升的目的，常展开“革命竞赛”，积极请求上级提高下达给他们的捕人和杀人的指标，而斯大林和叶若夫也都会满足他们的请求。

例如，基洛夫州委请求给他们增批300个死刑指标，而斯大林则增批了500个。

为了完成和超额完成捕人与杀人的任务，执法者无中生有、罗织罪名、构陷无辜、抓人凑数的现象司空见惯。叶若夫还鼓励告密行为，并提倡采信告密材料。于是，各地都揭露了许多反革命集团、中心、小组之类。

例如，新西伯利亚州在几个月的时间里就揭露出近40个反革命集团。再如，莫斯科一家飞机制造厂仅在1937年一年内就破获了5个从事间谍、恐怖活动的破坏组织，消灭了这些组织的50多名成员。而根据安全部门的资料，这些组织在该厂还有1000名成员。

叶若夫还经常采用这样一种手段：从各地抽调大量办案人员，把他们“空降”到某一地区，让他们在极不熟悉情况的条件下，撇开当地公检法，按照叶若夫的指令迅速、有力、毫无情面地肃整该地区的党政队伍。

在1937年年初，叶若夫听到报告，远东某处到处都是苏联间谍，在这种情况下，于是从各地抽派大量的办案人员在政治部大将留希科夫带领下秘密赶到该地，进行大逮捕，大肃反。