MorningAI

首页

目录

LLaMA-Factory

操作系统

Linux 22.04.3-Ubuntu x86_64 GNU/Linux

系统镜像选择

需要在晨涧云使用LLaMA-Factory Ubuntu系统,从大算力市场创建系统实例,选择安装的系统实例镜像如下图
image.png#572px #390px
该系统已经安装有LLaMA-Factory 以及 Ollama 运行需要的环境
默认安装的工具或软件包括显卡驱动,PyCharm,VS Code,百度网盘,Anaconda,FireFox, Google Chrome 等

系统连接

创建实例之后,在控制台可以看到,实例系统在创建中,一般需要5分钟左右,等待实例状态变成运行中,就可以开始连接并使用该系统
Ubuntu系统默认提供以下两种连接使用方式

一、SSH连接

所有支持SSH协议的工具或者命令行,都可以通过SSH连接系统,包括Terminal、shell 、VS Code 、Pycharm、ftp、sftp等,只要是支持SSH谢谢等工具都可以连接
滚动到实例显示连接方式的列,点开SSH可以看到连接信息如下图
image.png#446px #256px

二、图形界面

晨涧云默认提供WebUI,就是用浏览器使用Ubuntu操作系统用户界面,由于各种原因,专业的远程连接软件(ToDesk、向日葵、AnyDesk、连连控)等不能预先安装,用户需要通过WebUI 先登入系统,再安装任一远程连接软件

模型下载

默认的HuggingFace模型下载存储在 /home/linux/.cache/huggingface 目录

数据集下载

数据集可以通过HuggingFace下载,或者github命令下载,下载到 /home/linux/LLaMA-Factory/data 目录,并修改dataset_info.json 就可以使用

训练的产出和日志

如下图所示,安装目录和启动目录是 /home/linux/LLaMA-Factory, webUi启动的训练,日志和产出都在这个目录里
webui训练日志文件是 llama-factory-webui.log
训练过程如果想在命令行看日志,可以在此目录下输入如下命令

tail -f llama-factory-webui.log

训练过程的产出和结果,包括checkpoints, 都位于LLaMA-Factory目录里面的outputs
image.png#784px #566px