Я пытался как-то делать ролевую игру с квестами, и нашел один вариант, взять за основу модель и логику игры Arcanum. Так как в ней была возможность самому добавлять свои квесты, также там был мануал. Система была расчитана на внутренний скриптовый язык. Он очень простой, но мне пока не удалось реализовать такой на ас3.0, диалоги хранились в текстовом формате, каждая строка диалога была под определенным номером, также в строке были определенные параметры, такие как минимальный уровень обояния и т.д, номер строки на которую нужно перейти, при выборе данного варианта ответа. Также с помощью скрипта определялось есть ли у героя какой либо предмет, убил ли он определенное число монстров. Можно будет скачать мануал к этому редактору, думаю он еще есть в интернете, изучить его. Если, конечно, этот вариант подходит для вашего квестостроительства.
Точнее, интересует хорошая ЛИТЕРАТУРА по квестостроению. Просто поисковики почти не дали сколь-либо ценной информации (был только один интересный пост про квест на php).