Высокий аргентинец играл центрального защитника в основном составе Валенсии, когда ее возглавлял Бенитес. Начинал свою карьеру Пеллегрино в клубе Велес Сарсфилд. Затем он был взят в аренду Барселоной в сезоне 1999-00 и выиграл в том году первый из трех своих чемпионских титулов. После чего вернулся на родину, но, как оказалось, ненадолго – вскоре он оказался в Валенсии. Пеллегрино получил богатый опыт выступлений в европейском футболе, приняв участие в двух финалах Лиги Чемпионов и выиграв кубок УЕФА. Когда он перешел в Ливерпуль, то стало очевидно – пик его карьеры позади. Так что после пяти непримечательных месяцев он вернулся обратно в Испанию. Камбэк в Ливерпуль, но уже в качестве тренера основной команды, состоялся летом 2008 года, а двумя годами позже, в 2010 г, он покинул Ливерпуль вместе с Рафой Бенитесом.

За национальную команду Аргентины Пеллегрино сыграл трижды на групповом турнире Копа Америка-1997. Он не блеснул в четвертьфинале, когда Аргентина была выбита из турнира перуанцами – 2:1.