Порода зародилась в начале XIX века благодаря стараниям английского священника и ярого поклонника охоты на лисиц Джона "Джека" Рассела из Дартмута, который активно занимался скрещиванием различных пород терьеров с целью вывести породу собак, идеально приспособленных к его любимому виду охоты. Так в результате селекционной работы любителя-заводчика был выведен фокстерьер (до 1900 года нынешние джек-рассел-терьеры представляли собой не что иное, как фокстерьеров старого типа) с более крупными размерами и крепким сложением, чем отличались от остальных английских терьеров. Джон Рассел скрещивал выведенную породу с собаками однотонного и цветного окраса. Главная его цель заключалась в улучшении охотничьих качеств, внешний вид отодвигался на задний план. На протяжении многих лет животные прошли через несколько изменений, соответствующих различным нуждам и стандартам породы, установленных разными клубами.
Предназначенные для норной охоты терьеры выполняли следующие функции – отважно забирались в норы и выгоняли оттуда затаившегося зверя или в процессе схватки вытаскивали его наружу. Собаки должны были иметь небольшие размеры, чтобы не только проникнуть в нору, но и суметь двигаться внутри нее, ведя борьбу со своей мишенью. Именно поэтому четырехлапые охотники традиционно не превышали высоту 38, 5 см. При этом от собак требовалась неимоверная отвага, сила и прыть для состязания с вооруженным зубами противником. Лучшими для норной охоты считались терьеры с недлинной, гладкой и жесткой шерстью.
Первый клуб собак породы джек-рассел-терьер был создан в 1914 году, но Английский клуб собаководов тогда отказывался их признавать. Официальное признание состоялось в 1990 году. В том же году породу зарегистрировали в FCI. Американский клуб был основан немного раньше - в 1976 году, женщиной по имени Алиса Кроуфорд, одной из первых селекционеров, занявшихся развитием этих собак в США. В 1999 году порода, изначально получившая название парсон-джек-рассел-терьер, была разделена на коротконогий (джек-рассел-терьер) и длинноногий (парсон-рассел-терьер) типы.