网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
fluent吧 关注：18,634贴子：95,938
  • 11回复贴，共1页

浮点溢出具体原因

只看楼主收藏回复

为什么同样的模型，同样的边界条件，倒入同样的udf，网格skewness小的模型反而一直浮点溢出，另一个正常计算呢
IP属地:河北来自iPhone客户端1楼2023-06-30 15:19回复
    我计算的是多相流模型
    IP属地:河北来自iPhone客户端2楼2023-06-30 15:20
    回复
      可能是udf原因
      IP属地:安徽来自iPhone客户端3楼2023-06-30 17:34
      收起回复
        每次都是计算一千多步，浮点溢出
        IP属地:河北来自iPhone客户端4楼2023-06-30 22:15
        回复
          残差设置小一点，时间步长设置小一点（小数点后面多加几个0），然后再看看
          IP属地:江西来自Android客户端6楼2023-07-01 15:16
          收起回复
            请问你解决了吗？我现在遇到类似的问题，要疯了
            IP属地:上海7楼2024-11-26 14:31
            收起回复
              同一个cas，为什么前面刚算是没问题的，后面重新算什么都没改变，就浮点溢出了，这是怎么回事？请问有人遇到过吗？
              重新读网格，每个设置都重新点了一遍ok,apply啥的，也还是浮点溢出，真纳闷儿了😭
              cas我是保存的cas.gz格式，跟这个压缩有关系吗？
              IP属地:上海8楼2024-11-26 14:34
              回复

                扫二维码下载贴吧客户端

                下载贴吧APP
                看高清直播、视频！
                • 11回复贴，共1页
                发表回复
                发贴请遵守贴吧协议及“七条底线”贴吧投诉
                内  容:
                  查看全部
                发 表
                保存至快速回贴

                发布成功
                去贴吧APP订阅抽奖结果通知
                扫码进入贴吧APP
                ···········
                开奖后第一时间站内信通知
                ···········
                中奖结果全员公示