Для редактирования и компиляции NSIS скриптов есть замечательная программа Venis_IX.
Для шаблонной генерации скрипта установщика в программе присутствует Venis Install Wizard:
В основном окне можно создать / открыть скрипт (расширение .nsi), отредактировать его и откомпилировать. Результат компиляции отображается в консольном окне Compile Results. В случае успеха будет показан конечный размер установщика (Total size:) в байтах, как показано на изображении ниже:
В случае ошибки в консоли будет указана причина и строка на которой ошибка случилась.
К сожалению в программе нет привычного разработчикам дебаггера, поэтому отладка скрипта, как правило, осуществляется при его выполнении через всплывающие окна MessageBox или вывод в консоль с помощью DetailPrint.
Также в программе есть великолепная и подробная справка по языку, командам и макросам NSIS (NSIS User Manual):