分享
7.手机AI新时代:轻松运行小型模型
输入“/”快速插入内容
7.手机AI新时代:轻松运行小型模型
飞书用户2644
5月1日修改
最近
微软发布Phi-3 Mini:性能媲美GPT-3.5,
都宣传说可以塞进手机。那到底如何塞进手机里面呢?
近期作者研究一系列的各种方案,踩各种坑,最终研究出小白都能将phi-3、llama3-8B等模型轻松运行在手机中。
人的注意力只有十分钟,十分钟内实操完成,废话不多说,我们就开始实践操作整个过程。
温馨提示:整个操作过程尽量使用
魔法,
下载速度会快很多。
AnLinux 安装
什么是AnLinux?
AnLinux就像是一个魔法盒子,它能让你的安卓手机或平板电脑变身为一台小型的Linux电脑。AnLinux就是一个让安卓设备变得更加多才多艺的工具,可以随身携带的多功能电脑(模型)。
有条件自行下载termux,软件地址
https://github.com/EXALAB/AnLinux-App
,也可以选择以下安装包自行安装,以下安装包是经过验证可行。
app-release.apk
8.02MB
termux安装
什么是termux?
termux 是一款基于 Android 平台的开源 终端模拟器,使用进行软件包的管理。可以使用手机操作相关命令,使得能正常跑通大模型。
有条件自行下载termux,软件地址
https://termux.dev/en/
,也可以选择以下安装包自行安装,以下安装包是经过验证可行。
termux-app_v0.118.0+github-debug_arm64-v8a.apk
29.93MB
安装系统过程
1.
自行termux与Anlinux安装完成,同时给必要的权限。
2.
打开termux软件,执行
pkg update && pkg upgrade
命令,安装过程中需要enter键确认。
3.
安装wget 命令
pkg install wget
4.
打开Anlinux软件,准备安装操作系统环境。同时复制下载操作系统命令。
25%
25%
25%
25%