Этот форвард был на острие атаки Ливерпуля в четырех из пяти первых матчей сезона 1899-00, но вскоре уступил место Джону Уокеру. Следующим и последним матчем Кайла стала игра против Стоук Сити 1 февраля 1900. На протяжении своей карьеры Питер сменил немало команд, однако в каждой оставался недолго, в основном, из-за проблем с дисциплиной. Больше всего матчей – 60 – он сыграл в составе Арсенала. За этот период Кайл забил 23 гола