Ва джазак. Пророк ﷺ знал, что они желают ему смерти. Ибн Усеймин (если кто еще знает других ученных можете привести, я только его нашел) разъясняя этот вопрос говорит: иудеи приветствовали Пророка ﷺ говоря: «Ассам алейкум йа Мухаммад» (Смерть тебе, о Мухаммад), молясь о том чтобы он умер. И Пророк ﷺ ответил: «Иудеи, говорят «ассам алейкум», а вы отвечая им говорите «ва алейкум»(И вам)».
А в отношении отвечать на салам или нет, есть разногласия. Лично я, когда искал доводы, запрещающие отвечать на салам, ничего вразумительного не услышал. А в отношении дозволенности говорится следующее
«Когда вас приветствуют, отвечайте еще лучшим приветствием или тем же самым. Воистину, Аллах подсчитывает всякую вещь» (4:86)
... Некоторые ученые сказали, что если иудей, христианин или другой не мусульманин четко скажет «Ассаламу алейкум», то разрешено ответить «алейкума салам»
Из тафсира Куртуби, аят 4/86
واختار ابن طاوس أن يقول في الرد عليهم : علاك السلام أي ارتفع عنك واختار بعض علماؤنا السلام ( بكسر السين ) يعني به الحجارة
Ибн Тавус предпочел, что им (зиммиям) нужно отвечать "Алякас-салям" то есть пусть поднимется (уйдет) от тебя салям. И некоторые ученые (маликиты) предпочли (говорить) "Ассилям (алейкум)", что означает (пусть на тебе будет) камень.