Начав активные гастроли, Killing Joke тут же вызвали скандал провокационными постерами. Один из них, изображавший папу римского, благословляющего германских нацистов, привел к запрету на выступления ансамбля в Глазго. Примерно в то же время в музыкальной прессе стали появляться намеки на то, что Коулмен и коллеги злоупотребляют нацистской символикой. Впоследствии выяснилось, что музыканты, напротив, придерживаются левых взглядов, а Коулмен (наполовину — индиец) ненавидит расизм и фашизм.

1981—1982

Все песни второго альбома Killing Joke написали в студии. Джорди рассказывал, что процесс шёл сравнительно трудно, поскольку материал дебютной пластинки готовился год. Альбом ...what’s THIS For..., вышедший в 1981 году, продолжил развитие основной темы, выраженной как в текстах, так и в звуке, которая формулировалась примерно так: рациональный, логический период в развитии человека завершён, теперь он возвращается в своё первобытное состояние. Не изменяя однажды найденной формуле, группа приступила здесь к экспериментам. Как отмечает Trouser Press, Вокал Коулмена (не утратив брутальности) стал здесь артистичнее, заметнее стали партии Юса; стиль Джорди стал напоминать игру Бернарда Самнера из New Order («Butcher» считается своего рода трибьютом Joy Division).

По окончании мирового турне Killing Joke отправились в Германию, где приступили к студийной работе с известным продюсером Конни Планком. Результатом их сотрудничества стал третий альбом Revelations (1982), в котором к глобальным, «взрывным» темам добавились личные, в частности, связанные с давлением со стороны записывающей компании, которое ощутила на себе группа.

В этот момент (как раз перед началом предполагавшегося нового всемирного тура) Коулман, к этому времени увлекшийся оккультизмом, испытал нечто вроде нервного срыва. Он покинул группу и направился в Исландию — по соображениям, каким-то образом связанным с неминуемым, по его представлениям, Концом света. Вскоре к нему присоединился Джорди: здесь они сыграли с несколькими местными группами, включая Theyr, которые позже превратились в Sugarcubes). Юс последовал за коллегами, но вскоре вернулся в Англию, где с Фергюсоном образовал побочный проект Brilliant, названный в честь би-сайда сингла «Empire Song». Впрочем, Гловер покинул состав до выхода дебютного сингла «That’s What Good Friends Are For» — это был недвусмысленный выпад Юса в адрес недавних друзей, обосновавшихся в Исландии и встретивших его проект враждебно: Коулмен назвал то, что производят Brilliant «музыкой денег», money music.

1983—1987

Джэз, Джорди и Пол Фергюсон с новым, прежде неизвестным басистом Полом Рэйвеном реформировали Killing Joke и отправились в европейские, а затем и американские гастроли. Несколько концертов в Торонто были записаны и вышли в 10-дюймовом формате под заголовком HA, Killing Joke Live.

Подписав контракт с Polydor, Killing Joke в 1983 году вышли к широкой аудитории с четвёртым студийным альбомом. Fire Dances, на обложке которого впервые появилась фотография участников, ознаменовал поворот группы к более артовому звучанию. Первым синглом из него вышел «Let’s All Go (To The Fire Dances)»; затем последовали синглы «Birds Of A Feather», «Me Or You» (12"), «A New Day» (в альбом они не попали) и «Eighties», зазвучавший на радио. На последовавшие затем гастроли группа вышла с новым имиджем (включавшем использование металлических и резиновых деталей в одежде, а также гигантские советский и американский флаги). Вершиной этого этапа творческого развития группы считается альбом Night Time (1985), записанный в Берлине, куда вошёл и трек «Eighties». Звучание альбома было отмечено мелодичной клавишной текстурой и искусной гитарной работой («Kings and Queens», «Europe». Сингл из альбома «Love Like Blood» неожиданно для самих музыкантов поднялся до 16-го места в Британии и стал популярен на дискотеках — как в Европе, так и в США.