Красная материя в фильме - это вообще магия, авторы сами не очень понимали что придумали. Абрамс в интервью говорил что специально не хотел объяснять механику чтобы не залезать в дебри.

Если применять реальную физику: черная дыра с массой планеты это крошечный объект по астрофизическим меркам, радиус Шварцшильда там был бы около 9 миллиметров. Она бы никуда особо не пошла и просто висела бы на вулканианской орбите пока не испарилась через излучение Хокинга. Правда испарялась бы она миллиарды лет.

Главный вопрос не куда делась дыра а почему Спок не мог просто... не лететь на Вулкан с красной материей на борту если знал что Нерон охотится за ним? Дыры в сюжете там куда больше чем черные дыры в физике.