В предложении пропущено подлежащее при сказуемых обнимал и вспоминал, вряд ли подлежащим является слово голос. Нужно дополнить или переформулировать предложение, а потом ставить знаки препинания.

Правила постановки знаков препинания при прямой речи, находящейся внутри авторских слов, таковы.

Если прямая речь оказывается внутри слов автора, то она заключается в кавычки, а перед ней ставится двоеточие; прямая речь начинается с прописной буквы. После прямой речи знаки препинания расставляются следующим образом:

а) запятая ставится, если она была необходима в месте разрыва вводящих слов автора: Сказав: «До скорой встречи», она быстро вышла из комнаты;

б) тире ставится в случае отсутствия знака препинания на месте разрыва вводящих слов автора: Перебарывая неловкость, он пробормотал студенческую остроту: «У меня бабушка корью заболела» — и хотел придать начатому разговору непринужденную легковесность (Бонд.);

в) тире ставится, если прямая речь заканчивается многоточием, вопросительным или восклицательным знаком: Дети ожидали, что он похвалит их, но дедушка, покачав головой, сказал: «Этот камень лежит здесь много лет, здесь ему место...» — и рассказал о подвиге трех советских разведчиков (Сух.); Петр Михайлыч хотел сказать: «Не впутывайся ты, пожалуйста, не в свои дела!» — но промолчал (Ч.); Она [собака] останавливается. Я повторяю: «Что сказано?» — и держу ее долго на стойке (Пришв.);

г) если прямая речь непосредственно включается в авторское предложение в качестве его члена, то она заключается в кавычки, знаки же препинания ставятся по условиям авторского предложения: Сказав Гричмару фразу «Легкой жизни не бывает, есть лишь легкая смерть», Крымов поймал на себе беспокойный, предупреждающий взгляд Стишова (Бонд.).

Примечание. Прямая речь не выделяется кавычками:

а) если нет точного указания, кому она принадлежит (прямая речь вводится безличным или неопределенно-личным предложением): Не даром говорится: дело мастера боится (посл.); Про него говорили: строгий, но справедливый;

б) если в прямую речь вставлено вводное слово говорит, указывающее на источник сообщения: Я, говорит, хочу закончить институт, профессию получить; или если прямое указание на источник сообщения оформлено как вводная конструкция: Статья ученого, сообщает критик, вызвала большой интерес общественности.

Вы написали верно.

Запятая нужна. Это сложноподчиненное предложение, и оно не относится к тем моделям, в которых запятая не ставится. Вот выдержка из «Справочника по пунктуации» Д. Э. Розенталя.

§ 33. Запятая между главной и придаточной частями сложноподчиненного предложения

1. Придаточная часть сложноподчиненного предложения отделяется или выделяется запятыми: Пока жена готовила завтрак, Данилов вышел в огород (Пан.); Сколько он сидел у поверженной ели, Андрей не помнил (Буб.); Её пронзительный резкий голос, какие бывают только на юге, рассекал расстояние, почти не ослабевая (Павл.); Капустин обещал договориться с начальником школы, чтобы он увеличил Мересьеву число вылетов, и предложил Алексею самому составить себе программу тренировок (Пол.); Впрыскивание воды может служить прямым доказательством, что болевые влияния сами по себе не в состоянии понизить секрецию (И.П.); Старик приказал сварить мясо по-настоящему, чтобы оно имело хороший вид (Сем.).

2. В составе сложноподчиненного предложения может быть неполное предложение — в главной части или придаточной:

1) неполное в главной части: Вот уже два года, как мы женаты (ср.: Мы женаты вот уже два года — простое предложение); Уже месяц, как он вернулся с юга (ср.: Он уже месяц как вернулся с юга — запятая перед союзом как «оторвала» бы сказуемое от подлежащего); Уже три недели, как мы здесь (ср.: Мы уже три недели как здесь — обстоятельство места выражено сочетанием как здесь); но: Третий день как он здесь — простое предложение, тогда как в приведенных выше примерах в главной части предложения подразумевались слова: прошло с того времени, с того момента;

2) неполное или близкое к неполному в придаточной части: Трудно было понять, в чём дело; Готов помочь, чем смогу; Постепенно научились разбираться, что к чему (ср.: Поймёшь, что к чему); Люди знают, что делают; Проходите, кто уже с чеками; Садитесь, где свободно; Делайте всё, что нужно; Поставьте, как вам удобно; Сообщите, кому следует; Ругали решительно все, кому не лень (с оттенком уточнения; ср.: Листовки свалены в кучу, их берут все кому не лень — фразеологический оборот со значением «всякий, кто хочет, кому вздумается»); Пошлите, куда необходимо; но: Делай что хочешь и т. п. (см. § 41, п. 2. Не разделяются запятой выражения с глаголом хотеть, образующие цельные по смыслу выражения: пиши как хочешь («пиши по-всякому»); над ним командует кто хочет; его не гоняет только кто не хочет; приходи когда хочешь; бери сколько хочешь; гуляй с кем хочешь; делай что хочешь; распоряжайтесь как хотите; напишет какую хочешь статью; выпьет какое хочешь вино; женись на ком хочешь (но: женился, на ком хотел; женится, на ком захочет — при расчлененном значении глаголов, образующих сказуемое неполного предложения)).

3. Если главная часть сложноподчиненного предложения находится внутри придаточной (в разговорном стиле речи), то запятая обычно ставится только после главной части (а перед ней не ставится); ср.: Хозяйством нельзя сказать, чтобы он занимался… (Г.) — Нельзя сказать, что бы он занимался хозяйством; Но слова эти мне неудобно, чтобы ты сказала… (Герц.) Но мне неудобно, чтобы ты сказала эти слова.

Не выделяются запятыми слова видишь, знаешь и т. п. в вопросительно-восклицательных предложениях типа: А он знаешь какой хороший!; А он видишь что делает? (см. § 25, п. 8).

4. Не ставится запятая между главной и следующей за ней придаточной частью сложноподчиненного предложения в случаях:

1) если перед подчинительным союзом или союзным словом стоит отрицательная частица не: В море, в качке, спишь не когда хочешь, а когда можешь (Гонч.); Попытайтесь выяснить не что они уже сделали, а что они собираются ещё сделать; Я пришёл не чтобы мешать вам в работе, а, наоборот, чтобы помочь; Римские полководцы считали важным установить не сколько войск противника перед ними, а где они; Он знает не только где водится дичь, но и какие её разновидности там обитают;

2) если перед подчинительным союзом или союзным словом стоит сочинительный союз и, или, либо и т. д. (обычно повторяющийся): Учтите и что он сказал, и как он это сказал; Он не слышал ни как сестра вошла в комнату, ни как потом бесшумно вышла; Я отвечу на ваш запрос или когда прибудет очередной номер информационного бюллетеня, или когда сам наведу нужную справку, ср. также при одиночном союзе: Не представлял себе и как выбраться из создавшегося положения; Я знаю и как это делается; Мальчика прощали и когда он никого не слушался, но (при обратном порядке главной и придаточной частей): Как звали этого мальчика, и не припомню;

3) если придаточная часть состоит из одного союзного слова (относительного местоимения или наречия): Я бы тоже желал знать почему (Л.Т.); Не знаю почему, но я его не понимал (Триф.); Он ушёл и не сказал куда; Он обещал скоро вернуться, но не уточнил когда; Трудно сказать почему; Мать определяла температуру ребёнка губами: приложит их ко лбу и сразу определит сколько; Кто-то подал больному чашку воды, он даже не взглянул кто; Я не скажу какое, я говорю — большое несчастье.

Не ставится запятая и если имеется несколько относительных слов, выступающих в роли однородных членов предложения: Не знаю почему и каким образом, но письмо вдруг исчезло; Позвонят — расспроси кто и зачем.

Если при союзном слове имеется частица, то постановка запятой факультативна; ср.: Я не помню, что именно; Он затрудняется сказать, что ещё; Эту цитату можно будет найти, я даже помню примерно где.

В условиях контекста возможна постановка запятой и перед одиночным союзным словом; ср.: Что же надо делать? Научите, что (усиленное логическое выделение местоимения). — Одно время он что-то шептал, не могли понять — что? (А.Т.) (постановка тире подчеркивает значение местоимения и оправдывается вопросительной интонацией).

5. Если перед подчинительным союзом стоят слова особенно, в частности, то есть, а именно, например, а также, а просто и т. п. с присоединительным значением, то запятая после этих слов не ставится (ср. § 24, п. 4): Не хочется школьникам весной учиться, особенно когда тепло и ярко светит солнце; Пришлось проводить дополнительную исследовательскую работу, в частности когда началась экспериментальная проверка действия станка; Автор имеет право на получение части гонорара в соответствии с условиями договора, то есть когда рукопись одобрена издательством; Экспедицию придётся закончить досрочно при неблагоприятных условиях, а именно когда начнётся сезон дождей; На всякий случай имейте при себе удостоверение личности, например когда будете получать деньги по почтовому переводу; Аспирант приехал в Москву для встречи со своим научным руководителем, а также чтобы поработать в архивах.

6. Если перед подчинительным союзом стоят усилительные частицы как раз, только, лишь, исключительно и т. п., то запятая ставится перед ними вопреки интонации (при чтении пауза перед ними не делается; ср. § 20): Катя вышла из столовой, как раз когда мы шагнули друг к другу через какие-то чемоданы (Кав.); Я эту работу выполню, только если буду свободен (ср.: …если только буду свободен); Он приехал, исключительно чтобы помочь мне (ср.: Он приехал не только чтобы повидаться со мной, но и чтобы оказать мне помощь — влияние отрицательной частицы не).

Не ставится запятая после выделительных частиц вот, ведь, стоящих перед подчинительным союзом в придаточной части, предшествующей главной: Хвастаться пока особо нечем, вот как работу выполним, тогда приезжайте.