vSphereの付録のほうのVRを単体で使うためのAPIをお探しということですね。
正直わからないです。
下記のリンクにあるAPIやSDKのマニュアルをチェックしてみてはいかがでしょうか？
VMware API and SDK Documentation
やりたいことがわからないので、あくまで情報共有となりますがAPIやSDKを使って開発する場合、APIやSDKに関する内容は通常のサポートではお問い合わせすることができません。
代わりにSDKサポートという契約を締結してはじめてお問い合わせすることが可能になります。
このことから、スクラッチでAPIを使ってカスタマイズするのは工数がかかるうえに、製品側のエンハンスが開発した当時のAPIと上位互換という保証が無いためあまり得策では無いと思われます。