O Bari foi fundado em 15 de janeiro de 1908 como Foot-Ball Club Bari pelo italiano Giovanni Tiberini, pelo suíço Gustavo Kuhn e pelo alemão Floriano Ludwig. A princípio, o time jogava contra os marinheiros britânicos. O clube tinha dois rivais: o Foot-Ball Club Liberty e o Unione Sportiva Ideale.

Uma série de fusões na região fez com que apenas uma equipe representasse Bari. Depois, em 27 de fevereiro de 1928 se criou um novo time: o Unione Sportiva Bari. Logo no primeiro ano de vida o clube conseguiu chegar à Série A. Um ano depois a Liga resolveu reformular a competição e o Bari caiu para a Série B.

O atacante ‘Faele’ Constantino foi um dos grandes jogadores do clube: com ele, o Bari teve sua maior invencibilidade na Série A, ficando nove jogos sem perder.  Em 1º de janeiro de 1945, o nome foi alterado de Unione Sportiva para Associazione Sportiva Bari. O time viveu oscilando entre as Séries A, B e C. Na temporada 1958/59, a equipe voltou para a primeira divisão após oito anos entre as Séries C e Meridional.

Em 1977, Antonio Matarrese assumiu a presidência do clube. Em 1983, Antonio deixou a administração para seu irmão, Vicenzo Matarrese. Com o novo presidente, o Bari conseguiu subir para a primeira divisão, onde ficou apenas um ano e caiu. Em 1988/89 voltou para a Série A novamente.

Na temporada seguinte conquistou seu primeiro troféu europeu ao bater o Genoa na final da Mitropa Cup. Com jogadores como Giovanni Loseto, Pietro Maiellaro e João Paulo o clube terminou a Série A em 10º lugar. Em 1992, novamente uma queda para a segunda divisão, com jogadores como Zvonimir Boban, David Platt e Frank Farina.

Dois anos depois retornou à Série A. O time teve vários jogadores de nome nessa época, como Nicola Ventola, Luigi Sala, Klas Ingesson, Marco Di Vaio, Diego De Ascentis, Gianluca Zambrotta e Simone Perrotta. Mas ninguém foi tão longe quanto Antonio Cassano.

O atacante é a principal revelação do clube. Em 1999, De Ascentis e Zambrotta deixaram o clube e Perrota estreou. O Bari permaneceu na Série A por quatro anos sob o comando de Eugenio Fascetti. O clube, então, começou a passar por uma crise financeira muito forte e foi obrigado a vender suas principais revelações.

Assim, a equipe permaneceu sempre na zona intermediária da Série B. Em 2007/08, o técnico Antonio Conte assumiu o comando da esquadra. O treinador não conseguiu o objetivo que era subir o time de divisão, mas era o começo de um trabalho sólido para a próxima temporada.

Decidido a conquistar a Série B, o clube fez boas contratações e deu resultado: faltavam algumas rodadas para terminar o campeonato, mas o Bari tinha 11 pontos de vantagem sobre o terceiro colocado. Não deu outra: promoção para a Série A.