大语言模型概念

定义： 通常指具有超大规模参数的预训练模型

架构：主要为transformer解码器架构

训练：

• 预训练（base model) 建立模型的基础能力
  • 数据： 海量文本数据
  • 优化：预测下一个词
• 后训练 (instruct model) 增强模型的任务能力
  • 数据： 大量指令数据
  • 优化： SFT、RL等方法
• 下游应用
  • 测速（推理）

在 Git Bash 中安装 pacman 的步骤如下：

1. 安装 Git for Windows

2. 打开 Git Bash 终端，右键选择"以管理员身份运行"

3. 运行下面的安装脚本，复制并粘贴以下命令到 Git Bash 中执行

   curl -s https://www.geekery.cn/sh/LinuxCTS/os/msys2/install-pacman-git-bash.sh | bash

4. 更新 pacman 的 repo：在更新之前，需要初始化 msys key。 首先要以管理员权限打开 Git-Bash。执行以下命令。下面命令的作用是初始化 msys keyring，更新包源，并同步包数据库。

   pacman-db-upgrade
   pacman-key --init
   pacman-key --populate msys2
   yes | pacman -Syuu

5. 安装必要的依赖：由于 Git 已经帮我们安装了一部分依赖，我们只需要安装 msys2-keyring 和 pacman-mirrors

6. 将安装的 pacman、msys2-keyring 和 pacman-mirrors 及其版本号写入 /etc/package-versions.txt，并用 pacman 将其写入数据库中。如果遇到未找到目标的错误，删除对应行即可

7. 修改 /etc/pacman.conf：关闭除 mingw64 和 msys 以外的所有软件源

Gitlab在mac下环境变量和用户环境变量不一致的问题

解决方法

编辑服务的plist文件，新增环境变量，

编辑服务文件 /Users/mac/Library/LaunchAgents/gitlab-runner.plist

Docker Compose File

version: "3"
services:
    kwaivgi-liveportrait:
        stdin_open: true
        tty: true
        deploy:
            resources:
                reservations:
                    devices:
                        - driver: nvidia
                          count: all
                          capabilities:
                              - gpu
        ports:
            - 7860:7860
        restart: always
        container_name: kwaivgiliveportrait
        image: jokerdragon/kwaivgi-liveportrait:latest
        command: python app.py

支持Docker Desktop 和 Linux Docker CE

配置多架构构建环境

安装CPU指令集模拟平台

在中国网络环境下使用 Flutter: https://docs.flutter.cn/community/china/

选择镜像站

清华大学 TUNA 协会

上海交通大学 *nix 用户组

报错处理

Flutter获取依赖报错Got TLS error trying to find package xxx

假设你使用的镜像站是清华开源镜像站

打开 Chrome 浏览器，访问镜像站：https://mirrors.tuna.tsinghua.edu.cn/dart-pub/

Anacond安装包太大了，不方便下载和安装，每次安装conda工具都很麻烦，于是我写了个脚本。 这个脚本实现了一键安装miniconda，跟conda功能一样，安装包体积减小了很多。

一键安装脚本

curl -sSL https://www.geekery.cn/sh/LinuxCTS/os/all/miniconda.sh | bash