Оззи ушёл из группы в ноябре 1977 года, но в январе 1978 года вернулся и принял участие в записи альбома «Never Say Die».

«Never Say Die» был издан в октябре 1978 года и занял в британских чартах двенадцатое место. Это последний альбом группы, в котором вокальные партии были исполнены Оззи Осборном. Он пропустил несколько недель репетиций и хотел уйти из группы, Тони Айомми надоели выходки Оззи, и в мае 1979 года Айомми принял решение уволить Осборна.

Black Sabbath с Ронни Джеймсом Дио

В июне 1979 года его место занял Ронни Джеймс Дио, покинувший группу Rainbow. В первую ночь появления солиста в группе в доме Тони Айомми состоялась репетиция, на которой была написана песня «Children of the sea».

В обновлённом составе Black Sabbath выпустили в апреле 1980 года новый альбом «Heaven and Hell». Альбом занял девятое место в Великобритании, был продан тиражом свыше миллиона, а группа приобрела новое поколение молодых фанатов. Раньше тексты песен писались Гизером Батлером, с приходом в группу Дио их стал писать только он. Стиль его текстов «с мечами и волшебством, драконами и башнями» легко прижился в группе.

О важности того, что Ронни стал членом группы Тони Айомми сказал так:

Приход в группу Дио дал нам возможность продолжать наш творческий дрейф немного в другом направлении. Подход к написанию музыкального материала изменился. Это произошло оттого, что мы творили уже совсем для другого вокалиста. Ведь стиль пения Дио очень отличается от стиля Оззи. Так что Ронни Дио позволил открыть новые горизонты в нашей музыке, изменить ритмику.

Второй альбом, в котором принял участие Дио — «The Mob Rules» вышел в ноябре 1981 года и стал золотым. Во время записи концертного альбома «Live Evil» (тур «The Mob Rules») между Айомми и Дио произошла ссора. Последнего обвинили в том, что он ночью пробрался на студию и повысил уровень записи своего вокала. Сам Ронни говорил, что ссоры в студии были лишь поводом, что участники группы виделись только на концертах и на студии, и отношения между ними были натянутыми.

Дио покинул группу в ноябре 1982 года и начал сольную карьеру, которая стала продолжением того, что делал Black Sabbath во время того, как он входил в его состав. А на его место был приглашён солист Deep Purple Ян Гиллан.

Black Sabbath с Йэном Гилланом

Группа приглашала Йэна Гиллана и в 1982 году, но он отказался. В 1983 году Тони Айомми и Гизер Батлер позвали Йэна на встречу в оксфордском пабе. Солист позже рассказал, что «они набрались, и он ничего не помнил…а на следующее утро ему позвонил менеджер группы и спросил, когда он думает приступить к работе с Black Sabbath».

Альбом «Born Again», записанный при участии Йэна был издан в 1983 году и занял четвёртое место в хит-параде Великобритании. Black Sabbath и продюсер Робин Блэк воплотили в альбоме самые мрачные произведения. Тони Айомми сказал, что песни с «Born Again» «в течение некоторого времени крутились у них с Гизером в голове, но не было вокалиста способного справиться с таким материалом». Музыкальные композиции напоминали сольные проекты Йэна, а не Black Sabbath и старые песни группы в его исполнении звучали странно. Да и сам Гилан был очень разочарован звучанием альбома. В результате, солист ушёл из группы в возрождённый Deep Purple. Билл Уорд и Гизер Батлер, недовольные экспериментами Тони Айомми, тоже покинули группу, и Black Sabbath, по сути, распался.

Поиск

К 1986 году Тони Айомми остался единственным из первоначального состава группы. Он выкупил авторские права на Black Sabbath, решив сохранить название, и начал поиски нового состава. В новый состав вошли: Джеф Николс (клавишные), Гленн Хьюз (вокал), Дейв Спиц (бас) и Эрик Сингер (ударные). Вышедший в 1986 году альбом «Seventh Star» был сольным проектом Тони Айомми, он был автором музыки и большинства текстов, но в последний момент записывающая компания настояла на том, чтобы он вышел под именем Black Sabbath, результатом чего стала надпись на обложке «Black Sabbath featuring Tony Iommi». Альбом, в который были добавлены восточные мотивы, стал ещё меньше напоминать первоначальный стиль группы, а мощный вокал Гленна Хьюза не подходил под материал Black Sabbath. Сам Гленн говорил, что он не был участником этой группы, а состоял в сольном проекте Айомми. Альбом занял двадцать седьмое место в Великобритании. Тур к альбому пришлось отменить после того, как Гленн Хьюз в драке получил травму, мешающую ему петь. В этом же году он был уволен за сильное пристрастие к спиртному и наркотикам.