Il suo impegno politico è cominciato nel 1963, quando si iscrive alla Federazione giovanile comunista italiana (Fgci), della quale dal 1975 al 1980 è Segretario nazionale. La prima tessera del Partito comunista italiano (Pci) è del 1968. Entra a far parte nel 1979 del Comitato centrale al XV congresso, al congresso successivo nel 1983 è nella Direzione, nel 1986 nella segreteria. E' tra i giovani dirigenti della "svolta" che, nel 1989, con Achille Occhetto, trasformano il Pci in Partito democratico della sinistra (Pds). Alla nascita del nuovo partito, nel 1990, ne diviene Coordinatore politico. Il primo luglio 1994 è eletto Segretario nazionale del Pds. Entra per la prima volta alla Camera dei deputati nel 1987, eletto nella circoscrizione di Lecce-BrindisiTaranto. Nel 1992 è capolista. rieletto, assume l'incarico di Presidente del gruppo dei deputati del Pds. Nel 1994 è candidato, con il nuovo sistema elettorale uninominale, nel collegio n.11 della Puglia, in cui è stato riconfermato il 21 aprile 1996. Giornalista professionista, ha collaborato a "Città futura", "Rinascita" e "l'Unità" di cui è stato direttore dal 1988 al 1990. Attualmente è Presidente della Fondazione Italianieuropei. Dal 21 ottobre 1998 all'aprile 2000 ricopre la carica di Presidente del Consiglio dei Ministri. Nel dicembre 2000 viene eletto Presidente dei Democratici di sinistra. Dall'ottobre 2003 all'agosto del 2012 è vicepresidente dell'Internazionale Socialista, carica alla quale viene eletto nel Congresso di San Paolo del Brasile e riconfermato durante il Congresso di Atene nel luglio 2008. Nel giugno 2004 viene eletto al Parlamento Europeo dove ricopre l’incarico di Presidente della Delegazione Permanente per le relazioni tra l’Unione Europea e il Mercosur. Il 9 aprile 2006 viene eletto deputato nella lista dell’Ulivo nella Circoscrizione Puglia. Il 17 maggio 2006 viene nominato Vicepresidente e Ministro degli Esteri nel Governo Prodi. Il 22 aprile 2008 si conferma Deputato della XVI Legislatura nella Circoscrizione XXI Puglia nelle liste del Partito Democratico. Da gennaio 2010 a marzo 2013 è stato Presidente del Comitato Parlamentare per la Sicurezza della Repubblica (COPASIR). Da giugno 2010 a giugno 2017 è stato Presidente della Foundation of European Progressive Studies (FEPS).