Выбирай по 500 к примеру, немного дольше будет, но все равно быстрее чем искать решение этой проблемы
Смысла искать причину нет никакого, даже если все же удастся изменить кол-во скажем до 3к, админка просто зависнет. Такие вопросы с массовым изменением решаются простым SQL запросом в phpmyadmin. К примеру: снять с публикации все новости, которые относятся к категории 2 UPDATE `dle_post` SET `approve` = '0' WHERE `category` = '2' и т.д. в зависимости от того, что нужно сделать.