Согласно странице продукта Dell на Dimension E521, вы можете обновить до 4 ГБ.
В руководстве по обслуживанию показано, что у вас есть четыре слота DIMM, поэтому вы можете установить дополнительную пару стоек емкостью 1 ГБ. Я сомневаюсь, что в вашей системе четыре модуля по 256 МБ, поэтому вам не нужно ничего удалять. Вы, вероятно, в настоящее время либо один модуль 1 ГБ, либо два модуля 512 МБ.
Чтобы ответить на вторую часть вашего вопроса, нет, вы не можете смешивать DDR2 и DDR3. Ваш компьютер поддерживает только DDR2, поэтому убедитесь, что вы приобрели подходящий тип. Согласно Википедии:
DDR3 SDRAM является улучшением по сравнению с его предшественником, DDR2 SDRAM, и эти два несовместимы.