Termux上搭建Ollama本地AI助手并配置浏览器插件

前言

在移动设备上运行本地AI助手已经成为许多开发者的追求。通过Termux，我们可以在Android设备上搭建一个轻量级的AI环境，并通过浏览器插件与之交互。本教程将指导你如何在Termux上安装Ollama、运行Qwen模型，并配置环境变量，同时安装Kiwi Browser和Page Assistant插件，实现本地AI助手的完整搭建。

一、安装Termux

打开Google Play商店，搜索并安装Termux应用。
打开Termux应用，点击屏幕以显示键盘。
输入以下命令更新包管理器：

pkg update && pkg upgrade -y

二、安装Ollama

在Termux中输入以下命令安装Ollama：

pkg install -y ollama

等待安装完成。

三、运行Qwen模型

输入以下命令下载并运行Qwen2.5:3b模型：

ollama run qwen2.5:3b

该命令会自动下载模型并启动服务。

四、启动Ollama服务

输入以下命令启动Ollama服务：

ollama serve &

这将在后台运行Ollama服务。

五、配置环境变量

输入以下命令编辑~/.bashrc文件：

nano ~/.bashrc

2. 在文件末尾添加以下内容：

export OLLAMA_HOST=0.0.0.0

export OLLAMA_PORT=11434

3. 按Ctrl+O保存文件，按Enter确认，然后按Ctrl+X退出编辑器。

4. 输入以下命令使环境变量生效：

source ~/.bashrc

六、验证环境变量

输入以下命令验证环境变量是否正确设置：

echo $OLLAMA_HOST

echo $OLLAMA_PORT

如果输出为：

0.0.0.0

11434

则说明环境变量设置成功。

七、安装Kiwi Browser

打开Google Play商店，搜索并安装Kiwi Browser。
打开Kiwi Browser，点击右上角的菜单图标，选择“扩展程序”。

八、安装Page Assistant插件

在Kiwi Browser中访问Chrome Web Store（https://chrome.google.com/webstore）。
搜索引擎中输入“Page Assistant”，找到插件并点击“添加到Chrome”。
确认安装后，插件将自动添加到Kiwi Browser中。

九、验证插件功能

打开Kiwi Browser，访问Ollama服务的地址：http://localhost:11434
在浏览器中使用Page Assistant插件与Qwen模型进行交互，测试AI助手的功能。

注意事项

网络连接：确保设备连接到稳定的网络，以便下载模型和插件。
存储空间：Ollama模型可能占用较多存储空间，请确保设备有足够的存储容量。
权限问题：如果遇到权限问题，可以在Termux中运行以下命令：

termux-setup-storage

然后授予Termux访问存储的权限。

总结

通过以上步骤，你已经成功在Termux上搭建了Ollama本地AI助手，并配置了Kiwi Browser和Page Assistant插件。现在你可以随时随地使用本地AI助手进行交互，享受无需网络的AI服务。如果遇到任何问题，可以参考Ollama的官方文档或社区支持。

install_ollama.sh脚本内容：

# 更新Termux包管理器

pkg update -y && pkg upgrade -y

# 安装Ollama

pkg install -y ollama

# 下载并运行Qwen2.5:3b模型

ollama run qwen2.5:3b

# 启动Ollama服务

ollama serve &

# 验证服务是否正常运行

sleep 5
curl http://localhost:11434

# 提示用户安装浏览器插件

echo "请手动安装Kiwi Browser和Page Assistant插件："
echo "1. 安装Kiwi Browser：从Google Play商店下载并安装。"
echo "2. 安装Page Assistant插件：访问 https://chrome.google.com/webstore ，搜索并添加插件。"

将电脑中的脚本传输到 Termux 的主目录可以通过 SSH 传输脚本：

手机端Termux
termux-setup-storage

pkg install openssh -y

passwd
输入密码123456

sshd

一键修改命令
sed -i 's/^#\?PermitRootLogin ./PermitRootLogin yes/' /data/data/com.termux/files/usr/etc/ssh/sshd_config && sed -i 's/^#\?Port ./Port 8022/' /data/data/com.termux/files/usr/etc/ssh/sshd_config

编辑 SSH 配置文件
nano /data/data/com.termux/files/usr/etc/ssh/sshd_config

Windows端
ssh -p 8022 root@192.168.1.175

scp -P 8022 G:/install_ollama.sh root@192.168.1.175:/data/data/com.termux/files/home/

transfer_file.bat

@echo off

:: 设置 .ssh 目录路径
set SSH_DIR=%USERPROFILE%.ssh

:: 判断 .ssh 目录是否存在文件，如果存在则删除
if exist "%SSH_DIR%" (
echo .ssh 目录存在，删除其中的文件…
del /Q "%SSH_DIR%*"
echo 文件已删除
) else (
echo .ssh 目录不存在
)

:: 执行 SCP 命令
echo 开始通过 SCP 传输文件…
scp -P 8022 G:\install_ollama.sh root@192.168.1.175:/data/data/com.termux/files/home/

:: 等待用户查看输出
pause

手机端Termux

chmod +x install_ollama.sh

./install_ollama.sh

前言