本地部署ai大模型v1.10.13

软件介绍

PocketPal AI是一款专为iOS和Android设备打造的本地AI大模型助手，支持离线运行多种开源语言模型，如Danube、Phi、Gemma2、Qwen、DeepSeek等。用户可以在无网络环境下与AI进行对话，所有数据处理均在本地完成，保障隐私安全。应用内置HuggingFace模型库，支持模型搜索、下载与管理，同时提供参数自定义、性能监控等功能，打造个性化AI体验。

软件优势

1. 完全离线运行，无需网络连接。
2. 隐私安全有保障，所有对话数据保留在本地。
3. 支持多模型切换，满足多样化需求。
4. 自动内存管理，提升设备运行效率。
5. 界面友好，支持参数自定义与性能可视化。

使用教程

1. 首次使用需联网在应用内下载所需模型。
2. 点击右下角“添加”按钮可手动导入本地模型文件。
3. 模型加载完成后可在设置中调整系统提示、温度、BOS令牌等参数。
4. 进入聊天界面即可与AI进行离线对话。
5. 后台运行时会自动卸载模型以节省内存资源。

更新日志

v1.10.13版本修复了useChatSession中聊天消息重复的问题。