В середине 1950-х годов молодой Нил начал увлекаться рок-н-роллом, рокабилли, ду-вопом, ритм-н-блюзом и кантри, среди его любимых исполнителей были Чак Берри, Литл Ричард, Джерри Ли Льюис, Джонни Кэш, которых можно было услышать на местной радиостанции. Как позднее вспоминал сам Янг, он мечтал быть похожим на Элвиса Пресли. Мальчик начал учится играть на недорогой пластиковой гавайской гитаре. Вскоре Рэсси и Нил Янг перебрались в рабочий город Форт Руж, где исполнитель основал свою первую кратковременную группу The Jades, а после — вместе с другом по средней школе Кельвина Кеном Кобланом более стабильную The Squires. Музыкант бросил школу и начал играть в Форт Уильямсе в районе Онтарио, где встретил Стивена Стиллза, впоследствии ставшего участником Buffalo Springfield и Crosby, Stills, Nash & Young.

После распада The Squires в середине 1960-х Янг работал в кантри-клубах в Виннипеге, где он встретил Джони Митчелл, с которой начал выступать. Находясь под сильным влиянием Боба Дилана, канадец написал одну из своих первых известных песен «Sugar Mountain». В 60-х Янг ненадолго присоединился к Рику Джеймсу в The Mynah Birds, но вскоре Джеймс был арестован за дезертирство из армии и группа прекратила своё существование. В конце концов Нил отправился в Лос-Анджелес, где начал давать сольные концерты. Много лет спустя музыкант признался, что находился в США нелегально и получил грин-карту только в начале 1970-х.

1966—1970, Buffalo Springfield и Crosby, Stills, Nash & Young

В Лос-Анджелесе Янг и гитарист The Mynah Birds Брюс Палмер встретили Стивена Стиллза, Ричи Фьюрэя и Дьюи Мартина. Пятёрка начала играть под именем Buffalo Springfield. Дебютный, одноимённый с группой альбом, сочетающий классический кантри/фолк Нила и психоделический рок, привнесённый Стивеном, был положительно принят музыкальными критиками и имел неплохой коммерческий успех, благодаря такой песне как «For What It’s Worth». Однако, вскоре Палмера, который как и Янг находился в Штатах нелегально, арестовали и депортировали, что сказалось на Buffalo Springfield не самым лучшим образом. Второй альбом Buffalo Springfield Again Янгу пришлось дорабатывать в одиночку. Он записал три песни: «Mr. Soul», «Expecting To Fly» и «Broken Arrow», в которых уже можно заметить начинающий зарождаться стиль письма Нила — глубоко личные тексты, написанные в стиле классических народных песен. В 1968 году группа записала третий и последний альбом Last Time Around, выполнив контрактные обязательства, и распавшись. Почти тридцать лет спустя участников Buffalo Springfield включили в Зал славы рок-н-ролла, хоть Янг и не появился на церемонии. Тем не менее, в 2010 году, во время очередного фестиваля Bridge School Benefit, исполнитель вместе со Стиллзом и Фьюрэем выступил под вывеской Buffalo Springfield и анонсировал гастрольный тур в честь воссоединения коллектива, намеченный на 2012 год.

Сразу после развала Buffalo Springfield канадец выпустил дебютный сольный альбом под названием Neil Young, который не произвёл впечатления ни на слушателей, ни на критиков, ни принёс удовлетворения самому Янгу. Альбом породил лишь одну более-менее популярную песню — «The Loner». Вскоре после этого Нил присоединился к своему старому товарищу Стиллзу в группе Crosby, Stills & Nash, которая уже выпустила один альбом в качестве трио. Коллектив получил «Грэмми» как лучший новый исполнитель 1969 года, после чего название было изменено на Crosby, Stills, Nash & Young (дальше — CSNY), в честь нового полноправного участника группы. Квартет дебютировал на сцене в Чикаго, штат Иллинойс, а после принял участие в знаменитом Вудстоке. В 1971 году CSNY выпустили одну из самых важных антивоенных песен 1970-х — «Ohio». Композиция была написана после трагического события в Кентском университете. Спустя почти два десятка лет она не утратила актуальности — с 1989 года Нил вновь начал исполнять её, чтя память погибших на площади Тяньаньмэнь. Существование CSNY было крайне нестабильным, так как у каждого музыканта было своё представление о звучании группы. Коллектив распадался и вновь собирался не один раз, Янг же принял участие в записи трёх студийных альбомов, выпущенных в разные десятилетия.