Такое осюсение, что 5970 у кого-то из соседей была!
Какого тесселятора там не хватает, если ДОФ выключают и все нормально работает с ВКЛЮЧЕННОЙ тесселяцией?
На радеонах память немного по другому используется, проверял на 512мб картах. Там где 512 на неВидии уже мало, на радеонах нормально работало. Разницу точно не вспомню, но точно не меньше 150мб.