Jippo được thành lập tại Joensuu mùa thu năm 2001 từ cuộc hợp nhất Ratanat và Joensuun Pallo, còn gọi JiiPee. Niên biểu chính thức ghi hai đội tiền thân lần lượt ra đời năm 1980 và 1981, đều đang ở Kakkonen trước khi kết hợp.
Hai lần tranh vé lên Ykkönen
Năm 2004, Jippo thua Atlantis bằng luân lưu trong trận play-off quyết định. Mùa 2005, đội của Jarmo Korhonen vượt Klubi 04 để giành quyền lên Ykkönen.
Chặng chín mùa và trận cúp đông khán giả
Mùa đầu năm 2006, Jippo đứng thứ năm. Đội có tổng cộng chín mùa Ykkönen từ 2006 tới 2014. Năm 2007, trận cúp quốc gia gặp Tampere United tại Joensuu thu hút 1.827 người, theo niên biểu là kỷ lục khán giả của đội khi ấy.
Jippo thua trận cúp 1–4, nhưng đây vẫn là dấu mốc thu hút cộng đồng. Các mùa Ykkönen thuộc hệ thống hạng đấu của thời kỳ đó; nguồn gốc năm 2001 của đội mới cần phân biệt với lịch sử hai câu lạc bộ tiền thân.
