|
54楼 kttell说: 我发现了,这不是一个人的不明白,所以看到有人连骂带挖苦再说的反对,本来不想搭理他的,不过还有耐着性子简单地说一下,各种AI大模型,他们是有硬件要求的,比如ChatGPT,有差不多接近100,000的gPU,这么庞大的算力,都不能在本地运行,所以他们都在互联网上运行因为在互联网上,可以方便很多的接入,有用户可以通过他们的网站或者他们的客户端,有些技术开发的可以接入他们的API因为一般人如果买上100,000张显卡,那不可能的但是现在不同,有一种蒸馏技术,用大模型训练小模型,小模型需要的硬件资源可以大幅度减少这不是理论上的,而是实际上已经有人这么做了,他就是deepseek你们可以看到很多相关视频,如何把这个模型放在本地运行,而要求延迟特别特别小的最好就在本地运行,那么这种可以在本地步数,,也就是说人工智能并不需要网络,网络只是一种连接的功能,如果我们把它下载到本地就没有这个需要了,他的本体是机房是各种显卡处理器及群,这时候你需要网络连接,如果把它蒸馏到本地那就简单了,不需要网络连接 |
|