ラジオシティで扱えるメモリには、確か上限があったと記憶しています。
swap込みでもWidowsでは2GBが上限になりますが、他のプログラムが動作しているようだと、もっと減るかと思います。

もし、分割数を下げて計算に成功するようでしたら、ポリゴンが増えないような工夫をして計算してみてください。
計算精度を変えずにラジオシティ計算のメモリ負荷を下げるには、拡散反射が黒に近い形状でブラウザのチェックボックスから
・光を受けない
・光を放射しない
設定を行うなど、モデリング以外でもいくつか方法があります。

以前、Shade6の最初の頃、園田氏の講習を聞く機会があり、
ラジオシティーについてもお話がありました。
その時の記憶なのですが、間違っていたらごめんなさい。
ラジオシティーの計算に時間がかかっている時点で、モデリングの何かがおかしいとのこと。　
私は今もそう思い込んでいるので、こういうときはモデリングのチェックをし直してます・・・

って、素人の私がやってることを言っても何の足しにもならないと思いますが、人事と思えなくて。
早く原因がわかるといいですね。

ラジオシティの計算中、残り５％位でエラーのため強制終了になってしまいます。
考えられる原因は何でしょうか？

ＤＥＬＬ　inspiron 5150
ＯＳ：ＸＰ
ＣＰＵ：ＰＥＮ４　3.0