В index.php есть такое дело MODX_API_MODE. Может вам поможет.
Но самое надежное — это изучить классы xPDO и modX. Если вам нужна только работа с базой данных и небольшая часть API, то достаточно вызывать инстанс xPDO. Но если более расширенные возможности, то придется уже инстанс modX запускать, а вот там уже инициируется все до кучи, в том числе несколько классов, все расширения (extentionPackages), сессия и пользователь. (см modX::__construct() и modX::initialize()). И от этого без танцев никуда не деться. Хоть как вы это вызывайте. Так что если вы хотите это все облегчить, вам придется или расширять modX, или для надежности вообще его копировать и половину вырезать.