Path: coconuts.jaist!cs.titech.ac.jp!ee.titech!titech.ac.jp!wnoc-tyo-news!etlnews.etl.go.jp!etlinn.etl.go.jp!etl.go.jp!trc.rwcp!rwc-tyo!nf4.iij.ad.jp!news.iij.ad.jp!news.sun.co.jp!sunj-gate.Japan.Sun.COM!news2me.EBay.Sun.COM!venus.sun.com!cs.utexas.edu!howland.erols.net!newsfeed.internetmci.com!news.kddnet.ad.jp!sinfony-news!news01.so-net.or.jp!infosphere!asakanet!axion!asakagw!fiaskry!sakunami!chiba-ns!news.chiba-u.ac.jp!eclnews!sinetnews!news.nacsis.ac.jp!alps!cryst!escargot!t-server!news.nc.u-tokyo.ac.jp!makino From: makino@chianti.c.u-tokyo.ac.jp (Jun Makino) Newsgroups: fj.comp.dsp Subject: Re: Squeare root bye +-x op. Followup-To: fj.comp.dsp Date: 28 Sep 1996 08:17:09 GMT Organization: College of Arts and Sciences, Univ. of Tokyo Lines: 23 Distribution: fj Message-ID: References: NNTP-Posting-Host: kaiji.c.u-tokyo.ac.jp In-reply-to: sfuji@ten.fujitsu.co.jp's message of 27 Sep 1996 08:05:40 GMT >>>>> On 27 Sep 1996 08:05:40 GMT, sfuji@ten.fujitsu.co.jp (FUJIMOTO Shoji) said: > 藤本s@富士通テンです。 > 平方根をライブラリやFPUなどを使わず、固定小数の加減乗算だけで計算す > る適当なアルゴリズムはありませんか? 古典的な方法は上から1ビットずつ決めていくやつ(手でやるのと同じ)だと 思いますが、、、ただ、 ・どのくらいの速さにしたいか ・テーブルとか使っていいか ・どのくらいの精度がいるか ・整数演算命令に例えば shift とか count leading zeros みたいのがあるか といったようなことによって最適な実現法は変わるのではないかと思います。 > 以前は浮動小数の特性を利用してなんとかなったんですが、固定小数のでいき > づまっています。 参考までにおうかがいしますが、浮動小数点のときはどんな方法を使っていた のですか? 牧野@東大駒場