

aiuAI聊天是由aiuai团队开发的一款本地化AI对话工具,主打离线运行和隐私安全。它适合需要在无网络或敏感环境下使用大模型的用户,核心目标是在个人设备上流畅运行开源语言模型,不依赖云端服务。
1. 支持加载多种开源大语言模型,比如llama、qwen、phi等,用户可自由选择本地模型文件。
2. 提供简洁聊天界面,输入问题后即时生成回复,并支持多轮对话上下文记忆。
3. 兼容windows、macOS和Linux系统,适配主流cpu以及NVIDIA/AMD显卡加速。
4. 允许用户调整推理参数,如温度、最大生成长度、top-p等,灵活控制回答风格。
5. 内置模型管理器,方便导入、切换或删除本地模型文件。
1. 完全离线运行,所有数据处理都在本地完成,不会上传任何内容到服务器。
2. 对硬件要求友好,8GB内存的电脑也能运行量化后的轻量模型。
3. 启动快、响应及时,相比同类工具减少了不必要的后台进程和资源占用。
4. 开源免费,代码托管在GitHub,社区可参与改进和反馈问题。
5. 支持中文优化模型,在中文语境下的问答、写作、总结等任务表现更自然。
1. 修复了在低内存设备上加载大模型时可能卡死的问题。
2. 新增对AMD显卡ROCm推理加速的支持。
3. 优化了模型管理器的文件扫描逻辑,导入速度提升约30%。
4. 根据用户反馈,简化了角色创建流程,现在只需三步就能完成自定义AI角色设置。
5. 修复了部分Linux发行版下界面字体显示异常的问题。
1、点击软件主页下方功能栏、中间的+加号按键

2、接着用户选择你要创建的角色性别

3、然后用户还需要描述一下角色的形象,便于生成

4、然后再选择想要生成的AI风格

5、当然,用户也可以选择AI辅助生成功能,让AI一键生成内容

6、点击生成按键,用户只需等待片刻后就会出现几个AI角色供自己选择

7、挑选了喜欢的角色后,输入AI角色的昵称,角色背景,开场语和语音,调整标签,是否公开等等设置
8、输入各种设置后,用户就可以点击确认,与角色进行互动了