Docker 是一个容器化平台,可以把你的程序、依赖、配置一起打包成一个轻量、可移植的容器,保证:在开发机怎么跑,在服务器上就怎么跑,解决 “本地能跑、线上炸” 的环境不一致问题。
下面也使用 Docker 来部署 ChromaDB 服务。
在正式开始之前,请检查是否已经成功安装好 Docker 服务。
只需要一行命令就可以启动 ChromaDB 服务:
docker run -v ./chroma-data:/data -p 8000:8000 chromadb/chroma运行上面命令,如果本地没有 chromadb 镜像将自动拉取镜像,然后启动一个容器,端口是 8000,将本地 chroma-data 目录映射到容器的 /data 目录。效果如下:
root@localhost:~# docker run -v ./chroma-data:/data -p 8000:8000 chromadb/chroma
==========
persist_path: "/data"
==========
((((((((( (((((####
((((((((((((((((((((((#########
((((((((((((((((((((((((###########
((((((((((((((((((((((((((############
(((((((((((((((((((((((((((#############
(((((((((((((((((((((((((((#############
(((((((((((((((((((((((((##############
((((((((((((((((((((((((##############
(((((((((((((((((((((#############
((((((((((((((((##############
((((((((( #########
Saving data to: /data
Connect to Chroma at: http://localhost:8000
Getting started guide: https://docs.trychroma.com/docs/overview/getting-started
☁️ To deploy your DB - try Chroma Cloud!
- Sign up: https://trychroma.com/signup
- Copy your data to Cloud: chroma copy --to-cloud --all
No telemetry is configured.使用 docker exec -it jovial_sammet bash 命令进入到容器内部(jovial_sammet 是容器名称,可以通过 docker ps 查看正在运行的容器),查看 /data 目录的内容:
root@bfc7d08e0d6b:/# cd data/
root@bfc7d08e0d6b:/data# ls
06feaaa1-3fa5-4759-bf8a-4ebae49d4ef4 chroma.sqlite3
5633726c-165e-4203-ac8f-1e36bfacf560 dbe8c226-bec5-4fbe-97a0-3dea23689058
58140601-4e55-4fd1-be02-097fc3f1165f e1f8d8e8-e6ef-462a-94c4-288f954176a8
root@bfc7d08e0d6b:/data#数据落在宿主机的 ./chroma-data(容器里固定是 /data)。
使用 Docker 启动 chromadb 还可以添加配置,下面通过 -v 选项将容器内部的 /config.yaml 配置文件挂载到当前目录的 config.yaml 文件,这样就可以在本机修改配置,重启容器即可。
# 单独创建一个目录,存放 chroma 数据和配置
root@localhost:~# mkdir chroma-data
# 进入 chroma-data 目录
root@localhost:~# cd chroma-data/
# 当前目录创建 config.yaml 配置文件
root@localhost:~/chroma-data# echo "allow_reset: true" > config.yaml
root@localhost:~/chroma-data# ls
config.yaml
# 启动容器,记得挂载配置文件哦,容器名为 chroma
root@localhost:~/chroma-data# docker run \
--name chroma \
-v ./chroma-data:/data \
-v ./config.yaml:/config.yaml \
-p 8000:8000 \
chromadb/chroma
==========
allow_reset: true
==========
((((((((( (((((####
((((((((((((((((((((((#########
((((((((((((((((((((((((###########
((((((((((((((((((((((((((############
(((((((((((((((((((((((((((#############
(((((((((((((((((((((((((((#############
(((((((((((((((((((((((((##############
((((((((((((((((((((((((##############
(((((((((((((((((((((#############
((((((((((((((((##############
((((((((( #########
Saving data to: ./chroma
Connect to Chroma at: http://localhost:8000
Getting started guide: https://docs.trychroma.com/docs/overview/getting-started
☁️ To deploy your DB - try Chroma Cloud!
- Sign up: https://trychroma.com/signup
- Copy your data to Cloud: chroma copy --to-cloud --all注意,挂载到 /config.yaml 的配置会被自动加载,输出在“==========”之间的就是配置信息。
每次都要敲一大堆命令和参数启动 Docker,很麻烦,推荐使用 Docker Compose。
Docker Compose 是 Docker 官方轻量多容器编排工具,适合单机开发、测试、小体量部署。 用一份 docker-compose.yml(yaml)描述一组服务:镜像、端口、数据卷、环境变量、网络、依赖关系;一条命令批量启停整套服务,不用手动敲一堆 docker run。
假设我们有如下 docker-compose.yml 内容:
# docker-compose.yml
services:
chroma:
image: chromadb/chroma:latest
restart: unless-stopped
ports:
- "8000:8000"
volumes:
- ./chroma-data:/data
environment:
- CHROMA_PERSIST_PATH=/data
- CHROMA_ALLOW_RESET=false
- ANONYMIZED_TELEMETRY=false
healthcheck:
test: ["CMD", "curl", "-f", "http://localhost:8000/api/v2/heartbeat"]
interval: 30s
timeout: 10s
retries: 3使用上面的内容在当前目录创建 docker-compose.yml 文件:
root@localhost:~/chroma-data# ls
docker-compose.yml接着执行 docker compose up -d 命令,启动服务:
root@localhost:~/chroma-data# docker compose up -d
[+] up 2/2
✔ Network chroma-data_default Created 0.0s
✔ Container chroma-data-chroma-1 Started 0.3s如果要查看日志信息,可以执行 docker compose logs -f chroma 命令:
root@localhost:~/chroma-data# docker compose logs -f chroma
chroma-1 |
chroma-1 | ==========
chroma-1 | persist_path: "/data"
chroma-1 |
chroma-1 | ==========
chroma-1 |
chroma-1 |
chroma-1 | ((((((((( (((((####
chroma-1 | ((((((((((((((((((((((#########
chroma-1 | ((((((((((((((((((((((((###########
chroma-1 | ((((((((((((((((((((((((((############
chroma-1 | (((((((((((((((((((((((((((#############
chroma-1 | (((((((((((((((((((((((((((#############
chroma-1 | (((((((((((((((((((((((((##############
chroma-1 | ((((((((((((((((((((((((##############
chroma-1 | (((((((((((((((((((((#############
chroma-1 | ((((((((((((((((##############
chroma-1 | ((((((((( #########
chroma-1 |
chroma-1 | Saving data to: /data
chroma-1 | Connect to Chroma at: http://localhost:8000
chroma-1 | Getting started guide: https://docs.trychroma.com/docs/overview/getting-started
chroma-1 |
chroma-1 | ☁️ To deploy your DB - try Chroma Cloud!
chroma-1 | - Sign up: https://trychroma.com/signup
chroma-1 | - Copy your data to Cloud: chroma copy --to-cloud --all
chroma-1 |
chroma-1 | No telemetry is configured.到这里,你应该使用 Docker 成功部署了你的 ChromaDB 服务。
但是,需要注意 chroma 镜像 tag。用 latest 虽然方便但升级时可能踩到不兼容变更(latest 下载的是最新版本),生产环境建议锁版本,比如 chromadb/chroma:1.5.9。