日本宪兵队是日伪警、宪、特等镇压机关的首脑，在镇压中国人民的暴行中，始终处在核心指挥地位。

牡丹江的日本宪兵队成立于１９３６年４月，开始设在“铁岭河”，１９３８年８月１日迁至牡丹江市，在今光华街奋强小学院内。当时共有宪兵１３６人、宪补５人、密侦４７８人，宪兵队长是田中牧大佐。宪兵队在市内设立１８个据点，对中国人民实行严密的监视和残酷的殖民统治。

较牡丹江更早的是１９３２年建立的宁安日本宪兵队，其在宁安的东京城、温春、兰岗等地设立了宪兵分遣队。１９３４年，在宁安设立了“哈尔滨日本宪兵队宁安分驻所”。

牡丹江日本宪兵队成立后，将宁安分驻所扩大为宁安宪兵分遣队，隶属于牡丹江宪兵队，１９３７年又改为牡丹江宪兵队宁安分队。

宪兵队建立了庞大的特务组织，发展密侦和情报人员。宪兵的主要任务是镇压中国人民的反满抗日活动和对苏联进行间谍活动。

宪兵队还设有狗圈，对抓入宪兵队的人进行严刑拷打，有的人被扔进狗圈活活咬死。

据日本战犯牡丹江宪兵队分队长堀口正雄供认：１９３８年至１９３９年，在郊区海浪、城区中国人街、火车站等地逮捕中国人３名，又在东京城逮捕５名抗联人员，除１人被利用，４人被判处徒刑外，其他３人被送至哈尔滨平房７３１部队做细菌实验。来源：牡丹江新闻网“918”专题