[开源项目] 基于WebGPU的免安装本地AI聊天机器人 (开发中) – 蓝点网
发布时间：2025-04-04 04:01:39 作者：玩站小弟 
我要评论
我要评论早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目，该项目可以让开发者基于浏览器调用本机显卡算力。所以在 GitHub 上有开源团队构建了 Web-LLM 项目，即基
。
早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目，开源该项目可以让开发者基于浏览器调用本机显卡算力。项目
所以在 GitHub 上有开源团队构建了 Web-LLM 项目，基于机器即基于 Web 的安装大型语言模型，一切都在浏览器内运行，本地不需要服务器支持、聊天蓝点不需要安装、人开直接利用 WebGPU 特性运行。发中
这个项目可以大幅度简化搭建 AI 聊天机器人的开源步骤，而且可以保护隐私，项目因为这个 AI 模型是基于机器 “你” 控制的，你提交的安装数据不会被共享给开发者进行模型训练。
这个项目还在开发中，本地有兴趣的聊天蓝点开发者可以参与该项目。
![[开源项目] 基于WebGPU的人开免安装本地AI聊天机器人 (开发中)](https://img.lancdn.com/landian/2023/04/98381.png)
当然由于是相当于在本地运行的，所以显卡性能至关重要，根据开源团队说明， 显存至少需要 6.4GB，所以如果你的显卡显存比较小的话可能无法运行。
必要条件：Google Chrome 113.0+、显存至少为 6.4GB，使用不同的模型显存要求可能还会增加。
项目地址：https://github.com/mlc-ai/web-llm
演示地址：https://mlc.ai/web-llm/#chat-demo
注：演示聊天使用的模型是 vicuna-7b-v0。
相关文章
养生的措施良多，而最简略的就要数饮食养生了。下面，小编就来给巨匠介绍一下对于蛋包番茄奶酪火腿这道菜的做法。1.豫备好鸡蛋、番茄、火腿以及奶酪2.将番茄、火腿切成丁，鸡蛋打散，加大批盐3.在平底锅倒入大2025-04-04
时尚服饰美姿图片大全时尚服饰图片女装图片2020）源头：时尚服饰网浏览：2013女春装搭配图片大全一、浅驼色单品由于清新冶艳的颜色，能为咱们的春装带来一丝紧张与淑女感，当浅驼色单品以及深棕色单品在一起2025-04-04
做作周期中，假如卵泡不发育概况发育飞快，无意分可能经由转变匆匆排卵周期来增长卵泡妨碍。在妨碍匆匆排卵周期以前，个别会妨碍详细的魔难以及评估，以判断适宜的匆匆排光阴，并防止不良反映的爆发。同时，假如做作2025-04-04
摘要：9月12日，国铁总体宣告新闻，新建龙岩至龙川高铁梅州西至龙川西段下称“龙龙高铁梅龙段”）将于9月14日激进经营。 建树中的汕2025-04-04
克日，苹果与台湾提供商 Epistar 以及 AU Optronics睁开了相助，投资3.34 亿美元在台湾新竹迷信园区建树了全新的破费工场，该工场主要用于破费mini-LED以及 micro-LED2025-04-04
微综艺《今晚约宵夜》第二季开席在即 明星集合玩转深夜食堂2020-03-23 09:30:15 源头：公共娱乐网 责任编纂： saisai2025-04-04
最新评论