

aiuAI聊天是一款由aiuAI团队开发的本地化AI对话工具。它主打离线运行、隐私安全,适合需要在无网络或敏感环境下使用大模型的用户。核心目标是让用户在自己的设备上流畅运行开源语言模型,无需依赖云端服务。
1. 支持加载多种开源大语言模型(如Llama、Qwen、Phi等),用户可自由选择模型文件。
2. 提供简洁的聊天界面,输入问题后即时生成回复,支持多轮对话上下文记忆。
3. 可在windows、macOS和Linux系统上运行,适配主流cpu和NVIDIA/AMD显卡加速。
4. 允许用户调整推理参数,比如温度、最大生成长度、top-p等,控制回答风格。
5. 内置模型管理器,方便导入、切换或删除本地模型文件。
1. 完全离线运行,所有数据处理都在本地完成,不上传任何内容到服务器。
2. 对硬件要求相对友好,低至8GB内存的电脑也能运行量化后的轻量模型。
3. 启动快、响应及时,相比同类工具减少了不必要的后台进程和资源占用。
4. 开源免费,代码托管在GitHub,社区可参与改进和反馈问题。
5. 支持中文优化模型,对中文语境下的问答、写作、总结等任务表现更自然。
1、点击软件主页下方功能栏、中间的+加号按键

2、接着用户选择你要创建的角色性别

3、然后用户还需要描述一下角色的形象,便于生成

4、然后再选择想要生成的AI风格

5、当然,用户也可以选择AI辅助生成功能,让AI一键生成内容

6、点击生成按键,用户只需等待片刻后就会出现几个AI角色供自己选择

7、挑选了喜欢的角色后,输入AI角色的昵称,角色背景,开场语和语音,调整标签,是否公开等等设置
8、输入各种设置后,用户就可以点击确认,与角色进行互动了
1. 新增对Qwen3系列模型的支持,包括4bit和GGUF格式。
2. 修复了在macOS Sonoma系统下窗口缩放异常的问题。
3. 优化了显存释放逻辑,长时间对话后不再频繁卡顿。
4. 聊天记录现在默认自动保存,重启软件后可恢复最近会话。
5. 根据用户反馈,简化了首次启动时的模型导入引导流程。