Modell-iskola

Szakmai témák 1 013 hozzászólás
#234
Cauchy írta #233

Lehet, de mit értesz kellõ számítási kapacitáson. Egy 3 dimenziós rácson a szükséges számítási igény a finomítással köbösen emelkedik, a hiba - minél kisebb számokkal dolgozunk, annál nagyobb lesz (lebegõpontos…

"Lehet, de mit értesz kellõ számítási kapacitáson."

pl ha van elég kapacitás lehet növelni a számábrázolási ponotsságot. Nem 32 vagy 64 biten ábrázolsz egy lebegõpontos számot, hanem pl 256-on, így csökken a hiba.