Smit werd geboren in Haarlem en belandde via het Haarlemse EDO in 1959 bij Ajax. Hij ontwikkelde zich in Amsterdam tot een betrouwbare linksachter, met een uitstekende fysiek. Door zijn grote snelheid was hij een moeilijk te passeren mandekker en ook in staat om aanvallend van waarde te zijn.
Smit maakte deel uit van het basiselftal dat de befaamde beslissingswedstrijd won van Feyenoord in het seizoen 1959/1960 en daarmee de titel won. In dat seizoen eindigden beide ploegen met een gelijk aantal punten in de Eredivisie. Daarom werd er een beslissingswedstrijd gespeeld om de landstitel. Na een 0-1 stand bij rust won Ajax uiteindelijk met 5-1.
Ook was hij lid van de selectie die de club in het voorjaar van 1962 aan de eerste 'Europese' trofee hielp. In april 1962 won Ajax de Intertotobeker door Feyenoord te verslaan.
Smit zou daarna nog vier seizoenen bij de club spelen. Hij was niet altijd basisspeler, maar maakte zeker in het seizoen 1962/1963 nog genoeg minuten. Na dat seizoen verdween het perspectief op veel speeltijd en vertrok Smit in 1964 naar FC Zaanstreek. Drie jaar later volgde een stap naar Amerika, waar hij ging voetballen voor de Pittsburgh Phantoms.
Leven in Amerika
Het leven beviel hem ontzettend goed in de Verenigde Staten. Na een korte periode terug in Nederland, bouwde hij een nieuw bestaan op in Pennsylvania. De binding met Ajax werd er echter niet minder op. Tot een aantal jaren geleden was hij een vast gezicht op de reünies van Lucky Ajax. Hij voelde zich thuis onder zijn oude makkers als Sjaak Swart. Hoewel hij inmiddels sprak met een licht Amerikaans accent, kon hij nog prima mee in de snelle Amsterdamse humor. Bij zijn ploeggenoten van weleer stond hij bekend als een warme persoonlijkheid; een charmeur met veel gevoel voor humor.
Ongeveer twee maanden geleden spraken we met de in Amerika woonachtige Smit vanwege zijn 85e verjaardag. Hij werd op dat moment verrast met felicitaties van zijn oud-teamgenoot en vriend, Mr. Ajax. Samen keken ze onder andere beelden terug van de 5-1-overwinning op Feyenoord in 1960.
Buiten voetbal beoefende Smit ook judo en werd hij getraind door Anton Geesink, in die jaren een van de beste judoka ter wereld. Daarnaast reed hij (volgens eigen zeggen) tweemaal de Elfstedentocht, waaronder die in 1963.
Smit werd 85 jaar. Ajax wenst de nabestaanden van Smit heel veel sterkte met het verwerken van dit verlies.