Оттянутый форвард из Белфаста начинал карьеру в родном Линфилде, а в 1947 перебрался в Вулверхэмптон. После четырех лет, 116 матчей и 43 голах на "Молинью" он отправился в Стоук, где в 44 играх отметился 19 раз. К Ливерпулю он присоединился в возрасте 27 лет. Он быстро влился в команду, в которой дебютировал 3 января 1954 года против своей бывшей команды. Стоук выиграл 3-1, а проиграв еще в двух матчах после этого, подошел к черте вылета из элиты максимально близко. Смит забил 7 голов в 18 матчах, которые помогли "Красным" выкарабкаться из зоны вылета.

Но через год, забив 13 раз из 26 лет, Смит не смог помочь своей команде остаться в элите. Последним, 44-м матчем Сэмми стала последняя игра того сезона (поражение 0-1 от Блэкпула). Та игра не имела значения, ведь судьба Ливерпуля была предопределена: одна победа в 20 матчах - антирекорд, который вряд ли когда-либо повторится. Проведя два года на "Энфилде", Сэмми Смит вернулся в родную Северную Ирландию.