Dalam rangka pengendalian dan penanggulangan penyakit hewan maka dibuat kerjasama antara pemerintah Indonesia dan Jepang yang tercantum dalam buku BAPPENAS No. ATA 133. Berdasarkan SK Menpan No. B512/Menpan/ 5/1978 tanggal 13 Mei 1978 dan SK Mentan No. 315/kpts/org/5/1978 tanggal 25 Mei 1978 maka didirikanlah Balai Penyidikan Penyakit Hewan (BPPH) wilayah I Medan. Sebagai tindak lanjut dari pendirian balai ini maka atas bantuan JICA (Japan International Cooperation Agency) pada bulan Oktober 1978 didirikanlah gedung laboratorium kesehatan hewan yang dilengkapi dengan peralatan serta pemberian pelatihan teknis laboratorium.
Pada perkembangannya pemerintah memandang perlu untuk menyempurnakan organisasi dan tata kerja balai, maka pada tanggal 20 Agustus 2001 melalui SK Mentan No. 457/kpts/Ot.210/8/2001, BPPH berubah nama menjadi Balai Penyidikan dan Pengujian Veteriner (BPPV) Regional I Medan. Sejak perubahan ini BPPV bukan hanya bertanggungjawab dan berperan dalam penanganan kesehatan hewan tetapi juga berperan dalam penanganan kesehatan masyarakat veteriner.
Setelah penyempurnaan Organisasi dan Tata Kerja menjadi Balai Veteriner Medan sebagai Unit Pelayanan Teknis (UPT) Ditjen PKH dalam Surat Keputusan Menteri Pertanian No. 61/Permentan/ OT.140/5/2013, tanggal 24 Mei 2013 tentang Organisasi dan Tata Kerja Balai Veteriner bahwa BVet Medan adalah UPT yang berada di bawah dan bertanggungjawab kepada Ditjen PKH dan secara teknis dibina oleh Direktur Kesehatan Masyarakat Veteriner dan Pascapanen.