设为首页收藏本站 官方微信
开启辅助访问 切换到宽版

钢琴世界

 找回密码
 立即注册

只需一步,快速开始

扫一扫，极速登录

手机动态码快速登录

手机号快速注册登录

钢琴世界»钢琴世界社区 › › 钢琴品牌 › C › 长江钢琴 › 开源ChatGPT、Stable Diffusion本地部署，及关于国产AI ...
123
返回列表 发新帖
楼主: any941

开源ChatGPT、Stable Diffusion本地部署，及关于国产AI ...

[复制链接]
xo8CcA 社区微信达人

1

主题

299

帖子

218

积分

中级会员

Rank: 3Rank: 3

积分
218
发表于 2023-4-10 17:18:14 | 显示全部楼层 IP:北京
你的想法是用内存替代显存，有两种实现方法：
1、把一部分模型放在内存里用cpu计算；
2、把模型切成好几块，把暂时用不到的块放在内存，需要的时候再把内存里的块加载到显存里用gpu计算。

第一种方法慢是因为cpu不适合拿来计算模型，第二种方法慢是因为需要反复移动模型。不如直接买个显存足够的计算卡。
回复

使用道具 举报

123
返回列表 发新帖
 
 
点击这里给我发消息
点击这里给我发消息
官方微信

招募城市商务合作 电话/微信 18702940294
 

QQ|钢琴世界 ( 陕ICP备16012637号-2 )

GMT+8, 2025-5-4 18:50 , Processed in 1.702390 second(s), 35 queries .

Powered by 钢琴世界 PIANOWORLD.CN

Copyright © 2015-2022, Tencent Cloud.

快速回复 返回顶部 返回列表