Внешний вид вашей книги зависит не столько от используемого вами инструмента, сколько от ваших базовых знаний. Дизайнер-профессионал мог бы использовать прославленный текстовый редактор и все же сделать лучший макет, чем новичок, работающий с InDesign.
Тема, которую вы ищете, известна как "публикация на рабочем столе", сокращенно DTP. И да, кривая обучения LaTeX крутая, но усилия по изучению того, как сделать DTP с LaTeX, ничтожны по сравнению с усилиями по изучению того, что вам нужно сделать, чтобы книга выглядела хорошо.
Если вы действительно хотите учиться, используйте это руководство для LaTeX: http://www.ctan.org/tex-archive/info/beginlatex/beginlatex-3.6.pdf. Это бесплатно, и LaTeX также бесплатно. Он не научит вас, как делать красивые дизайны - для этого вам понадобится сначала немного таланта, а потом немало опыта. Но это научит вас технической стороне. Там вы также узнаете, какие проблемы нужно решить, если вы действительно серьезно относитесь к DTP. (Пример: что делать, если ваш автоматический разрыв страницы оставляет одну строку на новой странице с последующим заголовком?). И не просто читайте это и пытайтесь запомнить это, или просто делайте небольшие упражнения там; сделайте проект достаточной длины (возможно, 7-8 страниц текста), а затем попробуйте применить все, что вы изучаете. Тогда у вас будет достаточно технических знаний для создания любого макета, который вы пожелаете. Ваши единственные ограничения будут вашим собственным вкусом, талантом и воображением.
Конечно, есть много других программ для DTP, но те, которые действительно могут что-то сделать, также стоят несколько сотен долларов. И только потому, что они WYSIWYG, это не значит, что сделать хороший дизайн с ними проще. Это, конечно, быстрее, если вы профессионал, но вы, очевидно, нет. LaTeX является бесплатным, открытым, совместимым, а в некоторых областях (особенно в академических кругах) - квази-стандартом. Кроме того, руководство, которое я могу порекомендовать, предназначено для LaTeX;)
Удачи тебе!