На глаз он обвязке питания относится, потому неудивительны проблемы старта компа
Проблемы были и до того, как...
А вообще, как вы правильно заметили, если конденсатор около разъёма питания, то он так называемый "сглаживающий" (броски по питанию) и запаян между "плюсом" и "землёй".
Лучше, конечно, припаять его обратно, хотя бы просто проводочками (соблюдая полярность) и приклеить термоклеем боком к плате.
И, скорее всего, ничего страшного не произойдёт, если его не будет. Так как по своему принципу действия в установившемся режиме конденсатор = изолятор.
Его работа - сглаживать резкие изменения напряжения питания, что не является жизненно важной функцией для работы видеокарты.