PocketPal ai

PocketPal AI 是一款专为手机设计的离线AI助手，支持 iOS 和 Android 系统。它由 LLM Ventures 开发，主打本地运行大语言模型，无需联网也能聊天、推理或写代码。目标用户是重视隐私、需要安全处理敏感信息的商务人士、研究人员和普通用户。

软件功能

1. 支持在手机上直接运行多种开源大模型，比如 Qwen、Gemma、Phi、DeepSeek 和 Llama-3.2，全部以 GGUF 格式加载。

2. 提供完整的离线对话能力，下载模型后无需网络即可使用 AI 功能。

3. 用户可自定义生成参数，包括温度（Temperature）、预测长度（NPredict）、Top-K 等，调整 AI 回答风格。

4. 允许设置模型运行参数，如上下文长度、cpu 线程数、批处理大小，适配不同手机性能。

5. 内置角色创建功能，可自定义虚拟角色的性格、语气、背景故事等，用于角色扮演对话。

6. 提供“基准测试”模块，可在设备上测试模型推理速度，并将结果分享到社区。

7. 支持从应用内直接下载模型，也允许手动添加本地已下载的模型文件。

软件特色

1. 所有数据处理完全在设备本地完成，对话内容不会上传到云端，保障用户隐私。

2. 智能内存管理机制会自动卸载不常用的模型释放 RAM，再次使用时快速重载，兼顾性能与资源占用。

3. 深度集成 Hugging Face 平台，用户可通过镜像站或手动方式灵活加载各类开源模型。

4. 软件基础功能免费，无强制订阅，仅部分高级功能可能涉及内购（当前版本未强制）。

5. 界面支持简体中文，操作逻辑清晰，适合非技术用户快速上手部署本地 AI。

PocketPal ai本地ai大模型加载方式

1、用户可以在app中直接下载模型，下载时需要连接到互联网

2、比如这里可以下载到谷歌ai大模型Gemma，阿里通义千问的大模型Qwen等

3、其它ai大模型，比如DeepSeek的可以点击右下角的添加按钮，将手机里下载好的模型加载进来即可

4、模型加载后设置完成后可进入设置界面进行相关设置，设置完成后即可进行诸如随时随地与模特进行私密的离线对话等相关操作

更新日志

1. v1.11.11 版本优化了用户界面，滑动和切换更流畅。

2. 修复了部分机型加载大型模型时偶发卡死的问题。

3. 改进了模型管理页面的排序逻辑，方便查找已下载模型。

4. 调整了默认上下文长度设置，减少低端设备内存溢出风险。

5. 根据用户反馈，在设置中增加了语言切换提示，中文选项更醒目。