综合介绍

On Device AI 是一款可以在本地设备上离线运行主流AI大模型的应用程序，支持在 iOS、macOS和visionOS上使用，这意味着AI模型处理数据时无需联网，也保证了用户数据的私密性。这款应用程序可以让用户在没有网络连接的情况下，使用例如Llama、Gemma、Phi、Qwen等多种AI模型进行文本生成、语音识别和内容摘要等工作，同时还支持创建不同角色的AI助手来协同处理复杂任务。On Device AI 强调其完全的隐私保护，由于所有计算都在用户自己的设备上完成，所以用户的对话、语音记录和个人数据都不会离开设备，从而避免了数据泄露的风险。

功能列表

• 100%本地处理: 所有AI计算都在用户设备上进行，不需要网络连接，确保了数据的私密性。
• 支持多种AI模型: 可以在设备上运行 Llama, Gemma, Phi, Qwen, DeepSeek 等多种大型语言模型。
• 语音转文本: 能够实时将语音备忘录转录为文字，并支持摘要和翻译，整个过程在设备上完成，保护隐私。
• 协作式AI团队: 用户可以创建由不同专业领域的AI智能体组成的团队，共同完成复杂任务。
• 内置网页搜索: 在应用内直接搜索网页，并利用AI分析将搜索结果整理成连贯的摘要。
• 自定义AI角色: 用户可以创建具有独特个性、专业知识和首选模型的自定义AI角色，方便在不同任务场景中切换。
• 智能上下文集成: 支持导入PDF、网站、图片等内容到AI对话中，AI可以基于这些内容提供有来源可溯的回答。
• 跨设备同步: 通过加密的云同步功能，可以在iOS、macOS和visionOS设备之间无缝切换。
• 远程连接Mac: 可以将iOS或Vision Pro设备连接到Mac，以利用更强的处理能力运行更大的模型。

使用帮助

On Device AI 的核心优势在于它完全在你的设备上运行，无需连接互联网，这使得它在处理敏感信息时非常安全。 以下是如何使用这款应用的主要功能：

开始使用

1. 下载与安装:
   • 从 App Store 下载 On Device AI 应用程序。该应用于iOS、macOS和visionOS系统兼容。
   • 打开应用后，你可以根据设备性能选择下载不同大小和类型的AI模型。请注意，高性能的模型需要较新的设备支持，例如拥有至少6GB RAM的iPhone 14或更新款的iPad。

核心功能操作

1. AI聊天:
   • 打开应用后，主界面即为AI聊天窗口。
   • 在文本框中输入你的问题或指令，然后发送。AI会根据你选择的模型在本地生成回复。
   • 你可以通过设置选项切换不同的AI模型，例如Llama 3或Phi 3，来体验不同的回答风格和能力。
2. 语音备忘录与转录:
   • 点击界面上的麦克风图标开始录制语音。
   • 录制结束后，应用会自动将你的语音转录成文字。这个过程是离线的，所以你的语音数据不会上传到任何服务器。
   • 转录完成后，你可以要求AI对文本进行总结、翻译或提取关键信息。
3. 创建AI团队:
   • 进入“AI团队”或相关设置菜单。
   • 在这里，你可以创建新的AI团队，并为团队中的每个AI智能体分配不同的角色和专业领域，例如一个用于编程，一个用于写作。
   • 在与AI团队对话时，你可以直接@某个特定的AI智能体，让它来回答专门领域的问题。
4. 使用网页搜索:
   • 在聊天界面，你可以输入需要搜索的问题，并告知AI使用网页搜索功能。
   • AI会访问互联网获取信息，并将搜索到的多个结果进行分析和总结，然后给出一个整合后的答案，而非简单的链接列表。
5. 导入文件和图片:
   • 在聊天框旁边，通常会有一个附件或导入按钮。
   • 你可以选择导入PDF文档、图片或网页链接。
   • 导入后，你可以就该文件的内容向AI提问，例如“总结这份PDF的主要观点”或“描述这张图片里的内容”。AI的回答会基于文件内容，并能提供答案来源。

高级功能：远程连接到Mac

如果你的iPhone或iPad性能有限，但你有一台Mac电脑，你可以使用远程连接功能来获得更强的处理能力：

1. 在你的Mac和iOS设备上都安装On Device AI。
2. 在Mac上打开应用，并启用远程连接功能。
3. 在你的iOS设备上，通过应用的设置菜单找到并连接到你的Mac。
4. 连接成功后，你可以在手机上运行需要更高性能的大型AI模型，而实际的计算任务则由你的Mac来完成。

注意事项

• 硬件要求: 运行大型AI模型对设备的硬件有一定要求。如果你的设备内存较小，可能会在运行8B（80亿参数）以上级别模型时遇到性能问题，例如生成速度慢或应用卡顿。
• 模型下载: 首次使用某个AI模型时，需要先从应用内下载模型文件。这些文件可能较大，建议在Wi-Fi环境下下载。
• 离线与在线功能: 核心的AI聊天和语音转录功能完全离线。但网页搜索等功能则需要网络连接。

应用场景

1. 注重隐私的个人助理在日常工作中，你可能需要处理包含个人或公司敏感信息的邮件和文档。使用On Device AI，你可以直接将这些内容输入给AI，让它帮你起草回复、总结要点或进行翻译，而不必担心数据被上传到云端服务器。所有处理都在你的手机或电脑上完成，确保了信息的私密性。
2. 离线环境下的信息处理当你在飞机上、地铁里或在网络信号不佳的地区时，传统的云端AI工具会无法使用。而On Device AI 可以在完全离线的状态下继续为你服务。例如，你可以用它来整理会议的语音记录，或者在你灵感涌现时，让AI帮你构思和撰写文章的初稿。
3. 多领域任务协作假设你正在筹备一个项目，需要同时进行市场研究、技术方案设计和营销文案撰写。你可以在On Device AI中创建一个AI团队，其中包含市场分析师、程序员和文案撰稿人等不同角色的AI智能体。然后，你可以将任务分配给这个团队，让它们协同工作，为你提供一个包含多方面建议的综合方案。
4. 快速学习和研究当你需要快速了解一个新的领域或一篇复杂的学术论文时，可以使用On Device AI的智能上下文集成功能。你只需导入相关的PDF文档或网页链接，然后就可以像与专家对话一样，向AI提问关于这些材料的任何问题。AI会基于你提供的上下文进行回答，并能指出答案的具体来源，大大提高了学习和研究的效率。

QA

1. On Device AI是免费的吗？应用可以免费下载，并且提供了一些基础的免费功能。
2. 为什么在我的旧款iPhone上运行很慢？On Device AI的运行效率很大程度上取决于你的设备硬件。大型语言模型（LLMs）需要较多的内存（RAM）和强大的处理器。如果你的设备（如内存小于6GB的iPhone）硬件配置较低，在运行较大的模型时可能会出现速度慢或卡顿的情况。
3. 我的数据真的安全吗？是的，这款应用的核心设计理念就是隐私保护。所有的AI处理都在你的设备本地进行，你的个人数据，如聊天记录和语音，不会被发送到任何外部服务器。
4. 这款应用支持哪些AI模型？On Device AI支持多种流行的开源大型语言模型，包括Llama、Gemma、Phi、Qwen和DeepSeek等。用户可以根据自己的需求和设备性能选择合适的模型。
5. 是否所有功能都可以离线使用？核心的AI聊天、语音转录和本地文件处理等功能都可以在完全离线的状态下使用。但是，像“内置网页搜索”这样需要从互联网获取信息的功能，则需要有效的网络连接。