AI对话聊天

Jan

免费开源工具,本地运行大模型,实现高效AI对话。

标签:

Jan(Jan.ai)是一款免费开源的工具,旨在为用户提供在本地计算机上运行大型语言模型的能力。这款工具兼容Windows、Mac和Linux等操作系统,支持多种开源大模型,如LLaMa、Mistral、Phi-2等,总计超过20个模型。此外,用户还可以输入自己的OpenAI API Key以运行GPT。与此前介绍的Ollama相比,Jan不仅提供了简洁的对话界面,还内置了API服务器,非常适合开发者、研究人员和AI爱好者在本地体验开源大模型。

Jan

Jan的主要功能

  • 本地运行开源大模型:支持LLaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型,用户可以选择手动导入或从模型库下载。
  • 简洁易用的聊天界面:软件界面干净简洁,用户可以轻松与本地运行的开源大模型进行对话。
  • 多平台支持:Jan可在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统上运行,未来还将推出移动应用。
  • 内置API服务器:与OpenAI API兼容,用户可以通过API获取模型信息、下载、启动、停止模型及聊天等操作。
Jan

如何使用Jan

  1. 访问Jan的官方网站,选择适合您操作系统的版本,点击下载。
  2. 安装并打开软件,在界面左下角点击“下载您的第一个模型”。
  3. 进入模型库页面,选择您感兴趣的模型进行下载。下载完成后,点击“使用”以启动该模型。
  4. 在对话界面中输入您的问题或指令,即可与所选模型进行交流。

Jan仍在持续开发中,未来将添加更多功能,如移动应用、创建AI助手、推理引擎和插件扩展等。

相关导航