手机本地跑Gemma 4!谷歌最强开源模型,保姆级部署指南
一款能在手机上运行本地AI模型的免费开源软件问世,名为PocketPal AI,支持iOS和Android双系统,目前在GitHub上已收获6.4k星标。
其核心优势在于完全无需网络连接。
目前,该软件已支持运行谷歌于四月份发布的新一代Gemma 4大语言模型。
无论是提问还是发送图片,所有操作均在设备内部完成,数据不会上传云端,确保了绝对的隐私安全,即便身处无信号的高铁或飞机中,也能正常使用。
软件内置了多种主流AI模型,并且数据持续更新。你可以依据手机性能,挑选占用空间较小的蒸馏版模型。
比如经过蒸馏的Gemma 4,仅占用6GB左右的内存。此外,软件还允许从社区下载或手动导入自定义模型文件。
如果官方下载速度慢,你可以从网盘获取模型,然后手动导入软件中即可。
使用时,你可以为不同场景创建专属的AI助手,例如专门负责润色文章或解决复杂问题的助手。
用户可以自由调节AI回答的创造性和严谨程度,同时支持将对话历史导出备份到本地。