最近老黄推出了个新玩意,NVIDIA Chat with RTX
一个利用RTX30 或 RTX40系显卡在电脑本地部署的AI大模型安装部署在电脑上之后可以在电脑本地检索总结文档,与聊天机器人对话,实现类似于ChatCPT的一部分AI功能。

先把显卡驱动更新安装为535.11 或更新版本,接着前往英伟达官网找到NVIDIA Chat with RTX
介绍页面,下载一个约35GB的安装包,双击解压后文件夹里的 “setup.exe”执行文件,开始安装。
安装时,按默认保存路径进行安装,不要自行修改路径。
如果中途出现安装失败,建议将防火墙和杀毒功能也暂时关闭掉。其次,确保安装保存的文件路径,
全部文件名与安装路径都是英文且没有空格。接着点击下一步,漫长的等待下载安装(具体看网速
情况)完全安装完毕后,确保整个程序部署完成。(咋感觉像安装硬盘游戏提示的一模一样呢。
哈哈哈。)
玩吧。这个功能AMD具体如何看待,作为一个吃瓜群众,我就静静的看热闹。
一个利用RTX30 或 RTX40系显卡在电脑本地部署的AI大模型安装部署在电脑上之后可以在电脑本地检索总结文档,与聊天机器人对话,实现类似于ChatCPT的一部分AI功能。

先把显卡驱动更新安装为535.11 或更新版本,接着前往英伟达官网找到NVIDIA Chat with RTX
介绍页面,下载一个约35GB的安装包,双击解压后文件夹里的 “setup.exe”执行文件,开始安装。
安装时,按默认保存路径进行安装,不要自行修改路径。
如果中途出现安装失败,建议将防火墙和杀毒功能也暂时关闭掉。其次,确保安装保存的文件路径,
全部文件名与安装路径都是英文且没有空格。接着点击下一步,漫长的等待下载安装(具体看网速
情况)完全安装完毕后,确保整个程序部署完成。(咋感觉像安装硬盘游戏提示的一模一样呢。
哈哈哈。)
玩吧。这个功能AMD具体如何看待,作为一个吃瓜群众,我就静静的看热闹。