标签:本地大模型

Ollama开源大模型推理框架 Go语言本地大模型部署源码

源码简介 Ollama是一款Go编写的开源大模型推理运行框架,能够在本地服务器部署、管理、运行各类开源大模型,支持模型拉取、启动推理、API接口调用,占用资源可控,部署便捷,可作为本地AI服务底座,对接各类应用系统,方便进行二次开发与私有化...