Toonflow-app 本地部署与配置完整笔记

一、硬件环境

• 操作系统：Windows 11
• 内存：32GB
• 显卡：NVIDIA RTX 3060 12GB显存
• Docker环境：采用两个独立的Docker Compose项目分别运行Ollama和Toonflow

二、部署方案选择

最终采用混合部署方案（方案B）：

• 本地Ollama + Qwen2.5:14B作为大语言模型（LLM），用于文本生成
• 云端API（API易平台）用于图片和视频生成

三、网络配置与连通性

3.1 初始状态

• Ollama容器IP：172.19.0.2
• Toonflow容器IP：172.21.0.2
• 两个容器位于不同的Docker网络，默认无法直接通信

3.2 解决方案

采用宿主机IP直连方式，避免跨容器网络配置复杂性：

• 宿主机IP：192.168.10.185
• Ollama端口：11436（非默认11434端口）
• Toonflow通过宿主机IP访问Ollama服务

3.3 连通性验证命令

# 从Toonflow容器测试Ollama连通性
docker exec toonflow-local wget -qO- http://192.168.10.185:11436
# 返回结果：Ollama is running

# 查看Ollama可用模型列表
docker exec toonflow-local wget -qO- http://192.168.10.185:11436/v1/models
# 返回结果：{"object":"list","data":[{"id":"Qwen2.5:14B","object":"model","created":1772714629,"owned_by":"library"}]}

四、模型配置与问题处理

4.1 初始尝试与错误

• 初始使用模型：Qwen2.5:14B
• 错误信息：registry.ollama.ai/library/Qwen2.5:14B does not support tools
• 尝试更换为：Qwen2.5:14b-instruct-q4_K_M
• 结果：同样报错 does not support tools

4.2 问题分析

1. 网络层连通性已验证正常
2. Ollama服务运行正常
3. 问题核心：Toonflow的工具调用检测机制与Ollama返回的模型信息格式不兼容
4. 模型本身很可能支持工具调用，但Toonflow的检测方式存在问题

4.3 解决方案（按优先级排序）

方案一：在Toonflow配置中使用OpenAI兼容模式

1. 接口地址保持不变：http://192.168.10.185:11436/v1

2. 模型名称改为Toonflow已知支持工具的模型名，例如：

   • gpt-4
   • gpt-3.5-turbo
   • claude-3-opus
3. Toonflow按模型名判断工具支持，但实际请求仍转发给Ollama处理

方案二：手动修改Toonflow配置

1. 进入Toonflow容器：

   docker exec -it toonflow-local bash

2. 查找模型配置文件：

   find /app -name "*.py" -o -name "*.json" | grep -i model

3. 在模型定义文件中添加自定义模型支持或修改检测逻辑

方案三：查看详细日志定位问题

# 查看Toonflow容器日志
docker logs toonflow-local --tail 50
# 实时查看日志
docker logs -f toonflow-local

五、API易平台成本参考

5.1 图片生成模型价格

5.2 视频生成模型价格

5.3 成本对比示例

生成15秒720p视频：

• OpenAI官方按秒计费：$1.50
• API易 (sora_video2-15s)：$0.25
• 节省比例：83%

5.4 成本优化建议

1. 图片生成阶段：分镜设计、角色测试时使用标准质量档位，最终输出使用高清版
2. 视频生成：测试工作流时优先使用快速选项（如VEO 3.1的-fast系列）
3. 关注平台充值优惠活动

六、关键命令汇总

# 测试Ollama服务是否运行
docker exec toonflow-local wget -qO- http://192.168.10.185:11436

# 查看Ollama已加载模型列表
docker exec toonflow-local wget -qO- http://192.168.10.185:11436/v1/models

# 查看Toonflow容器日志
docker logs toonflow-local --tail 50

# 进入Toonflow容器
docker exec -it toonflow-local bash

七、待解决问题

Toonflow与Ollama模型之间的工具调用兼容性问题，需要采用配置层面的绕过方案解决。推荐优先使用OpenAI兼容模式（方案一）进行处理。