2月14日，英伟达推出了自己的ChatGPT，在本地RTX显卡上运行，命名为Chat with RTX，目前是早期版本Demo，一切都是在PC上本地运行，用户需要至少拥有8GB VRAM的30系或40系显卡，优点在于本地化运行响应速度极快，能够快速处理个人本地的文档，增强数据隐私性，降低使用门槛，但是模型准确性较差，对显卡要求较高。
目前LLM大模型领域各类玩家众多，在OpenAI山姆·奥特曼宣布进军AI芯片领域后，老黄也宣布进军AI聊天机器人领域，首先进入NVIDIA官网介绍页面，下载Chat with RTX。
除了8GB内存的RTX 30/40系显卡外，还要求WIndows 11系统，16GB的内存以及535.11更高版本的驱动。在众多聊天机器人应用中，老黄的Chat with RTX主打的是本地运行，不需要像ChatGPT那样联网使用，可以与自己电脑上的各种文本进行深度互动，支持文本、pdf、doc/docx 和 xml等格式文件，能够分析总结传给Chat with RTX的视频，用户仅需要提供网址即可给出答案。
但需要提醒的是，这个功能有时候容易出现事实性幻觉，突然胡说八道，Chat with RTX Demo下载完解压后差不多接近40G，直接进行Setup安装，我们可以看到其实Chat with RTX还是基于Llama2和Mistral等开源大型语言模型构建的。
然后可以看到Chat with RTX会下载Miniconda搭建环境，自动安装CUDA Toolkit，下载各种依赖包，不难看出Chat with RTX其实就是在PC本地搭建Python深度学习环境，再利用Mistral或Llama 2来处理数据，老黄ChatGPT优点在于可以充分利用RTX GPU上的Tensor核心来加快处理推理速度。
Chat with RTX使用检索增强生成 (RAG)，来提高LLM的生成质量，打开Chat with RTX能够快速找到个人PC中的各种文档，有意思的是老黄版ChatGPT，在处理PDF、Word文档等文件数据时，居然比微软自己的Copilot还要好用，响应速度极快（取决于本地显卡和内存），体验上没有ChatGPT或者Copilot那种回复延迟，也不用担心OpenAI服务器出问题，导致全球用户无法使用ChatGPT。
由于Chat with RTX是Demo测试版本，其最大的缺点在于没有上下文功能，且模型的输出并不太准确，老黄推出英伟达ChatGPT版本的意义，在于提供离线的大模型服务，在本地上可以定制化，而且隐私性更好，老黄希望英伟达不仅仅只是个“卖显卡的”，而是真正将AI计算能力应用到各行各业，引领大模型时代发展。
目前，Chat with RTX还远远没有达到成熟的GPT产品程度，英伟达与OpenAI在AI领域的竞争还将继续，两家公司近期都在推进AI从基础研发，到实用产品的转化，在未来随着模型和芯片技术的发展，期待更多AI的应用下放到个人设备进行本地计算，以达到更快的响应速度和更可靠的模型，笔者建议还是先用GPT-4、Llama2、Mistral等相对成熟的服务。
华为纯血鸿蒙：搭载盘古大模型，全线自研投资超百亿！
华为回归：上半年营收3100亿，净利润暴涨3倍！
华为问界：搭载十大黑科技，问界M9来了！
华为和小米：达成专利交叉许可，包含5G技术！
小米发布会：小米14起售3999元，小米14Pro起售4999元！
三星发布会：全新AI，安卓机皇5999元起售！
华为“纯血鸿蒙”：1.2亿行代码，生态设备超8亿！
国产之光：摩尔线程显卡骨折降价，2499元降至899元！
英伟达：老黄再放超级大招，史上最强AI芯片！
黄仁勋：给AI圈一点小小的英伟达震撼，11分钟训练ChatGPT！
英伟达重磅：史上最强AI算力芯片，老黄发布会终极大招！
英伟达重磅：AI读取视频，可直出3D游戏模型！
英伟达：单日疯涨2000亿美元，狂赚一个AMD市值！
CES科技春晚：英伟达、AMD、英特尔三大厂商汇总！
CES科技春晚：索尼、三星等十大黑科技亮相！
CES 2023：英伟达发布4070Ti，ROG全系40系笔记本配置！
CES 2023：索尼汽车官宣亮相，打造元宇宙进军太空！
英伟达GTC22：40系显卡参数解读，你打算购买哪一款？
英伟达GTC22：40系显卡价格过高，老黄剑指元宇宙AI！
英伟达GTC23：核弹级AI芯片，专供ChatGPT速度提升30倍！
CES 2021：AMD6000系处理器发布，轻薄本畅玩3A！
CES 2021：英特尔12代处理器发布，最快的游戏CPU！
CES 2021：英特尔游戏性能怪兽，RTX 3090Ti发布！
CES 2021：英特尔首款ARM架构CPU，超x86架构十倍性能
英伟达：预计显卡短缺的情况会持续到2021年底
英伟达：3080Ti价格跳水，以太坊2.0升级与显卡矿难
天价NFT：从290万美金到280块，一年缩水99.99%！
矿难来临：显卡接近原价，华人首富身价缩水6000亿！
以太坊升级：30系显卡滞销，价格会崩到什么程度？
亲儿子跳车：“北美七彩虹”怒刚NV，老黄吃相有多难看？
30系破发：比特币暴跌，矿场巨亏要“爆金币”了吗？
#gd硬件杂谈# #gd的ai&游戏杂谈#