Я отказался от 98SE на 512 Мб после того, как увидел результат работы mem. Попробуйте запустить из коммандной строки, несуразица ещё та. А такое грозит непредвиденными глюками, если какая-то программа берёт значения памяти по такому же принципу.
А ещё тут верно сказали об отсутствии поддержки современным железом. Особенно этим грешат системы на базе Intel.
Рекомендую поставить виртуальную машинку и не мучиться. Для одной моей программы Dosbox'a хватает, для тяжёлых систем лучше VirtualPC или VMWare. Правда, если нужна полноценная работа с COM-портами, это не поможет.