Через четыре месяца альбом был переиздан в США (Warner Bros. Records) и был распродан миллионным тиражом.

18 сентября 1970 года вышел второй альбом, «Paranoid», который поднялся на первое место в Британии. Альбом должен был быть назван «War Pigs», но так как группа собиралась давать тур по Америке, где тяжело переживали последствия войны во Вьетнаме, то было решено не акцентировать внимание аудитории на этой песне, в тексте которой «генералы собрались в кучу как ведьмы», а «политики спрятались, начав войну». Песня «Paranoid», занявшая четвёртое место в Британии, была записана только для того, чтобы сделать альбом длиннее. Запись альбома на студии длилась четыре дня.

После одного из концертов этого времени на участников группы напали скинхеды и рука Тони Айомми была травмирована, из-за чего пришлось отменить следующее выступление.

В августе 1971 года был издан третий альбом, «Master of Reality». Этот альбом занял пятое место в Великобритании. Как и первые два, альбом достиг продаж в миллион экземпляров. Звучание альбома примечательно пониженным строем гитары Тони Айомми (с ми-бемоль до до-диез). Первая песня альбома, «Sweet Leaf», начинается с кашля Тони. Помимо гитарных риффов он исполнил партию флейты в песне «Solitude», а также играл на клавишных инструментах.

В сентябре 1972 года вышел альбом «Black Sabbath Vol. 4». В этом альбоме группа начала делать эксперименты со звуком.

В процессе записи между участниками группы возникали трения; по словам Оззи Осборна альбом записывался в состоянии наркотического хаоса. Первоначально подразумевалось, что альбом будет иметь название «Snowblind», в честь одноимённой песни о моде на кокаин. В британских чартах альбом занял восьмое место.

В ноябре 1973 года был выпущен альбом «Sabbath Bloody Sabbath». Музыканты сняли замок в Уэльсе, в котором, по слухам, водились привидения. Аппаратура была установлена в темницах, что по мнению Тони Айомми, вдохновляло группу на новые идеи. Для записи альбома в Black Sabbath был приглашён клавишник группы Yes Рик Уэйкман. Тони Айомми играл партии электрогитары, акустической гитары, синтезатора (в песне «Killing Yourself to Live»), пианино, клавесина, органа, флейты, волынки. Вспоминая этот период Тони говорил о том, что у него было великолепное чувство от репетиций до записи, что это было замечательное время.

Бас-гитарист Гизер Батлер рассказал, что группа была истощена после турне, взаимоотношения участников были сложными, но после того как Тони Айомми придумал рифф к песне «Sabbath Bloody Sabbath», все оживились, и стали появляться новые песни. Пятый альбом Black Sabbath занял в Великобритании четвёртое место, и также как его предшественники был продан тиражом свыше миллиона экземпляров.

Шестой альбом Black Sabbath «Sabotage» был выпущен в сентябре 1975 года. Издание альбома было отложено на год из-за проблем с менеджментом. По словам Тони Айомми альбом записывался ночами, так как днём группа находилась в суде.

«Sabotage» занял в Великобритании седьмое место. Это первый альбом группы, который не получил платинового статуса, и считается самым недооценённым творением группы. После появления альбома Тони Айомми был признан лучшим хард-роковым гитаристом мира.

В 1976 году вышел альбом «Technical Ecstasy». В Британии достиг двенадцатого места. При работе над ним Тони Айомми хотел внести разнообразие в аранжировки группы, использовать духовые инструменты, в то время как Оззи Осборн желал, чтобы группа не изменяла привычному ей стилю. Все же эксперименты в звучании были произведены, и группа стала всё дальше уходить от стиля, в котором были записаны первые пять альбомов.