LLaMA-Factory
操作系统
Linux 22.04.3-Ubuntu x86_64 GNU/Linux
系统镜像选择
需要在晨涧云使用LLaMA-Factory Ubuntu系统,从大算力市场创建系统实例,选择安装的系统实例镜像如下图
该系统已经安装有LLaMA-Factory 以及 Ollama 运行需要的环境
默认安装的工具或软件包括显卡驱动,PyCharm,VS Code,百度网盘,Anaconda,FireFox, Google Chrome 等
系统连接
创建实例之后,在控制台可以看到,实例系统在创建中,一般需要5分钟左右,等待实例状态变成运行中,就可以开始连接并使用该系统
Ubuntu系统默认提供以下两种连接使用方式
一、SSH连接
所有支持SSH协议的工具或者命令行,都可以通过SSH连接系统,包括Terminal、shell 、VS Code 、Pycharm、ftp、sftp等,只要是支持SSH谢谢等工具都可以连接
滚动到实例显示连接方式的列,点开SSH可以看到连接信息如下图
二、图形界面
晨涧云默认提供WebUI,就是用浏览器使用Ubuntu操作系统用户界面,由于各种原因,专业的远程连接软件(ToDesk、向日葵、AnyDesk、连连控)等不能预先安装,用户需要通过WebUI 先登入系统,再安装任一远程连接软件
模型下载
默认的HuggingFace模型下载存储在 /home/linux/.cache/huggingface 目录
数据集下载
数据集可以通过HuggingFace下载,或者github命令下载,下载到 /home/linux/LLaMA-Factory/data 目录,并修改dataset_info.json 就可以使用
训练的产出和日志
如下图所示,安装目录和启动目录是 /home/linux/LLaMA-Factory, webUi启动的训练,日志和产出都在这个目录里
webui训练日志文件是 llama-factory-webui.log
训练过程如果想在命令行看日志,可以在此目录下输入如下命令
训练过程的产出和结果,包括checkpoints, 都位于LLaMA-Factory目录里面的outputs