图拉丁吧 关注:7,728,826贴子:129,786,323
  • 9回复贴,共1

NVIDIA Chat with RTX,看眼前,战未来。AMD如何应对呢?

只看楼主收藏回复

最近老黄推出了个新玩意,NVIDIA Chat with RTX
一个利用RTX30 或 RTX40系显卡在电脑本地部署的AI大模型安装部署在电脑上之后可以在电脑本地检索总结文档,与聊天机器人对话,实现类似于ChatCPT的一部分AI功能。

先把显卡驱动更新安装为535.11 或更新版本,接着前往英伟达官网找到NVIDIA Chat with RTX
介绍页面,下载一个约35GB的安装包,双击解压后文件夹里的 “setup.exe”执行文件,开始安装。
安装时,按默认保存路径进行安装,不要自行修改路径。
如果中途出现安装失败,建议将防火墙和杀毒功能也暂时关闭掉。其次,确保安装保存的文件路径,
全部文件名与安装路径都是英文且没有空格。接着点击下一步,漫长的等待下载安装(具体看网速
情况)完全安装完毕后,确保整个程序部署完成。(咋感觉像安装硬盘游戏提示的一模一样呢。
哈哈哈。)
玩吧。这个功能AMD具体如何看待,作为一个吃瓜群众,我就静静的看热闹。


IP属地:河北1楼2024-04-27 06:41回复
    首先游戏卡能跑的llm没啥大用
    其次开源的llm框架太多了不差老黄这一个


    IP属地:四川来自Android客户端2楼2024-04-27 09:13
    回复
      如果开放世界游戏能够接入大模型还有点盼头,否则普通人用处不大。


      IP属地:山西来自Android客户端3楼2024-04-27 19:50
      回复
        不需要应对,除非老黄这个能远超其他的AI一大截


        IP属地:河南来自Android客户端4楼2024-04-27 22:36
        回复
          多少?35G笔记本硬盘不够大装不了了


          IP属地:黑龙江来自Android客户端5楼2024-04-28 13:58
          回复
            AMD也有一个适配npu的7b模型,不过完全没用就是了


            IP属地:广西来自Android客户端6楼2024-04-28 15:41
            回复
              那些说普通人用户不大的,蒸汽机出来的时候也有人说过一样的话,总感觉自己很聪明,完全不知道别人为什么要搞。永远不问为什么


              IP属地:江苏7楼2024-04-28 15:46
              回复
                用处不是很大说实话,现在ai除了ai采样和炼丹,确实没啥用,但炼丹要4090效率才高,ai采样用作游戏是真可以


                IP属地:贵州来自Android客户端8楼2024-04-29 07:11
                回复
                  啥时候能画涩图或者出小视频才行


                  IP属地:江苏来自iPhone客户端9楼2024-04-29 08:41
                  回复
                    神金


                    IP属地:湖南来自iPhone客户端10楼2024-04-30 12:56
                    回复