Через семь лет после окончания университета Роулинг считала себя «самой большой неудачницей, которую знала». Её брак распался, она была без работы и с ребёнком на руках. Однако позже она описывала свою неудачу как освобождение:

Неудача означала избавление от всего несущественного. Я перестала притворяться перед собой, что я была какой-то другой, нежели на самом деле, и стала направлять всю свою энергию на завершение единственной работы, которая что-то значила для меня. Если бы я действительно преуспела в чём-либо ещё, я бы никогда не смогла найти решимость добиться успеха в том, что было действительно моим. Я освободилась, потому что мой самый большой страх реализовался и я всё ещё была жива, у меня всё ещё была дочь, которую я обожала, у меня была старая пишущая машинка и большая идея. И так каменное дно стало прочным фундаментом, на котором я перестроила свою жизнь.

— Дж. К. Роулинг, «The fringe benefits of failure», 2008.

В этот период Роулинг впала в клиническую депрессию, у неё возникали мысли о суициде. Именно это её состояние привело к появлению в её третьей книге дементоров — существ, высасывающих душу. Роулинг начала получать социальное пособие. По её словам, она была «бедной, насколько это возможно в современной Великобритании, не будучи бездомной».

Роулинг находилась в «отчаянии» после того, как её муж прибыл на поиски её и своей дочери. Она получила ордер на защиту и Арантес вернулся в Португалию, тогда как Роулинг в августе 1994 года подала на развод. После завершения своего первого романа в августе 1995 года она поступила в педагогическую школу Эдинбургского университета, живя в это время на пособие. Она писала в многочисленных кафе, особенно в Nicolson’s Café и The Elephant House (первое из которых принадлежало её зятю Роджеру Муру). В 2001 году в интервью «Би-би-си» Роулинг опровергла слухи, что она писала в местных кафе, потому что в её квартире не было отопления, отметив: «Я не настолько глупа, чтобы снимать неотапливаемую квартиру в Эдинбурге в середине зимы». Как она заявила в американской телепрограмме A&E Biography, одной из причин, почему она писала в кафе, было то, что её дочь лучше всего засыпала на прогулке.

Гарри Поттер

В 1995 году Роулинг закончила свою рукопись романа «Гарри Поттер и философский камень», которую печатала на старой пишущей машинке. После восторженного отзыва Брайони Ивенса, читателя, которому было предложено оценить первые три главы книги, фулхэмская фирма литературных агентов Christopher Little Literary Agents согласилась представлять Роулинг во время поисков издателя. Книга была отправлена в двенадцать издательств, все из которых отвергли рукопись. Год спустя она, наконец, получила зелёный свет (и 1500 фунтов аванса) от редактора Барри Каннингема из лондонского издательства Bloomsbury. Решением о публикации книги Роулинг видимо во многом обязана Алисе Ньютон, восьмилетней дочери председателя Bloomsbury, которой отец дал прочесть первую главу и которая сразу же потребовала продолжение. Каннингем говорил, что хотя Bloomsbury согласился опубликовать книгу, он советовал Роулинг найти дневную работу, так как у неё было мало шансов заработать на детских книгах. Вскоре после этого, в 1997 году, Роулинг получила грант в размере 8 тысяч фунтов от Scottish Arts Council на то, чтобы она продолжила писать.

В июне 1997 года Bloomsbury опубликовал «Философский камень» с начальным тиражом в 1000 экземпляров, 500 из которых были распространены среди библиотек. Сегодня эти первые экземпляры стоят от 16 до 25 тысяч фунтов. Пять месяцев спустя книга получила свою первую награду — Nestlé Smarties Book Prize. В феврале роман получил премию British Book Award как детская книга года, а позже — премию Children’s Book Award. В начале 1998 года в США был проведён аукцион за право на публикацию романа, который выиграло издательство Scholastic Inc. за 105 тысяч долларов. По словам Роулинг, она «чуть не умерла», когда узнала об этом. В октябре 1998 года Scholastic опубликовал в США «Философский камень» под названием «Гарри Поттер и волшебный камень», посчитав, что дети не захотят читать книгу со словом «философский» в названии. Позже Роулинг утверждала, что сожалеет об изменении названия и не согласилась бы на него, если бы была тогда в лучшем положении. Получив деньги от Scholastic, Роулинг переехала из своей квартиры в дом по адресу 19 Hazelbank Terrace в Эдинбурге.