如何使用 Git 管理二进制大对象

5 位读者喜欢这篇文章。
Databases as a service

Jason Baker。CC BY-SA 4.0。

阅读

在本系列的前六篇文章中,我们学习了如何使用 Git 管理文本文件的版本控制。但是二进制文件呢?Git 具有处理二进制大对象(例如多媒体文件)的扩展,因此今天我们将学习如何使用 Git 管理二进制资产。

每个人似乎都同意的一件事是,Git 不太适合大型二进制大对象。请记住,二进制大对象与大型文本文件不同;你可以在大型文本文件上使用 Git 而不会出现问题,但是 Git 对不可渗透的二进制文件无能为力,只能将其视为一个大的实心黑匣子并按原样提交。

假设你有一个复杂的第一人称解谜游戏的新 3D 模型,并将其保存为二进制格式,生成一个 1 吉字节的文件。你执行 git commit 一次,向仓库的历史记录中添加了一个吉字节。稍后,你给模型换了一个不同的发型并提交了更新;Git 无法区分头发与头部或模型的其余部分,因此你刚刚又提交了一个吉字节。然后你更改了模型的眼睛颜色并提交了那个小的更改:又一个吉字节。这只是一个模型的三吉字节,只做了一些细微的随意更改。将此扩展到游戏中的所有资产,你就会遇到严重的问题。

将此与 .obj 格式的文本文件进行对比。一次提交存储所有内容,就像其他模型一样,但是 .obj 文件是一系列描述模型顶点的纯文本行。如果你修改模型并将其保存回 .obj,则 Git 可以逐行读取两个文件,创建更改的差异,并处理一个相当小的提交。模型越精细,提交就越小,这是一个标准的 Git 用例。它是一个大文件,但是它使用一种覆盖或稀疏存储方法来构建数据当前状态的完整图片。

但是,并非所有内容都以纯文本形式工作,并且现在每个人都希望使用 Git。需要一个解决方案,并且已经出现了几个。

Git Large File Storage (LFS) 是 GitHub 的一个开源项目,最初是 git-media 的一个分支。Git-media 和 git-annex 是 Git 的扩展,旨在管理大型文件。它们是解决同一问题的两种不同方法,并且各有优势。这些不是项目本身的官方声明,但根据我的经验,每个项目的独特之处在于

  • Git-annex 倾向于分布式模型;你和你的用户创建仓库,每个仓库都有一个本地 .git/annex 目录,用于存储大型文件。附件定期同步,以便所有用户根据需要可以使用所有资产。除非使用 annex-cost 另行配置,否则 git-annex 优先考虑本地存储而不是异地存储。

  • Git-portal 也是分布式的,并且像 Git-annex 一样,可以选择同步到中央位置。它使用你可能已经安装的常用实用程序(特别是 Bash、Git、rsync)。

  • Git-LFS 是一个集中式模型,是常用资产的仓库。你告诉 Git-LFS 你的大型文件存储在哪里,无论是硬盘驱动器、服务器还是云存储服务,并且你的项目上的每个用户都将该位置视为大型资产的中央主位置。

git-portal

Git-portal 使用标准的 UNIX 工具(如 Bash、Git 本身以及可选的 rsync)为 Git 提供简化的 blob 管理。它将大型二进制文件复制到本地或远程存储,并用符号链接替换它们,你可以将它们与项目的其余文件一起提交。

Git-portal 很简单,但有时需要更多手动操作(例如,它没有自动垃圾回收)。对于需要管理通常不适合 Git 管理的大型文件,但又不想学习全新系统的用户来说,它是理想的选择。Git-portal 模仿 Git 本身,因此学习曲线非常小。

你可以从 Gitlab 上的项目页面 Gitlab 安装 Git-portal。

所有 Git-portal 命令都镜像 Git 本身。要在项目中使用 Git-portal

$ git-portal init

要添加文件

$ git-portal add bigfile.png

一旦文件被“通过门户发送”(在项目的术语中),你与 Git 的交互与往常完全相同。你像往常一样添加文件,相对地忽略了其中一些文件实际上是指向 _portal 目录的符号链接。

_portal 目录中的所有内容(Git 完全忽略),都可以单独备份到你喜欢的任何类型的存储中,无论是 USB 驱动器还是远程服务器。由于 Git-portal 提供了一些 Git 钩子(由特定 Git 操作(如推送或拉取)触发的自动脚本),你甚至可以设置一个特殊的 Git 远程条目,以便你的 _portal 目录与远程位置自动同步

$ git remote add _portal alice@myserver.com:/home/alice/umbrella.git/_portal

Git-portal 的优点是它是一个简单且 Linux 原生的系统。使用相当少的常用实用程序堆栈和只需记住的几个额外命令,你就可以管理大型项目依赖项,甚至在协作者之间共享它们。Git-portal 已用于媒体项目、独立视频游戏和游戏博客,以管理从小型启动图像到大型 PDF 甚至更大的 3D 模型的所有内容。

git-annex

git-annex 具有稍微不同的工作流程,并且默认使用本地仓库,但是基本思想是相同的。你应该能够从发行版的仓库安装 git-annex,或者你可以根据需要从网站获取它。与 git-media 一样,任何使用 git-annex 的用户都必须在其机器上安装它。

初始设置比 git-media 更简单。要在服务器上创建裸仓库,请运行以下命令,替换为你自己的路径

$ git init --bare --shared /opt/jupiter.git

然后将其克隆到你的本地计算机上,并将其标记为 git-annex 位置

$ git clone seth@example.com:/opt/jupiter.clone 
Cloning into 'jupiter.clone'... warning: You appear to have cloned
an empty repository. Checking connectivity... done. 
$ git annex init "seth workstation" init seth workstation ok 

无需使用过滤器来识别媒体资产或大型文件,你可以通过使用 git annex 命令来配置什么被归类为大型文件

$ git annex add bigblobfile.flac
add bigblobfile.flac (checksum) ok
(Recording state in Git...) 

提交照常完成

$ git commit -m 'added flac source for sound fx'

但是推送是不同的,因为 git annex 使用自己的分支来跟踪资产。你进行的第一次推送可能需要 -u 选项,具体取决于你如何管理仓库

$ git push -u origin master git-annex 
To seth@example.com:/opt/jupiter.git 
* [new branch] master -> master 
* [new branch] git-annex -> git-annex 

git-media 一样,普通的 git push 不会将你的资产复制到服务器,它只会发送有关媒体的信息。当你准备好与团队的其余成员共享你的资产时,请运行 sync 命令

$ git annex sync --content

如果其他人已将资产共享到服务器,并且你需要拉取它们,则 git annex sync 将提示你的本地检出拉取你的机器上不存在但在服务器上存在的资产。

Git annex 是一个经过微调的解决方案,灵活且用户友好。它既强大又经过良好测试。

git-lfs

git-lfs 是用 Go 编写的,你可以从源代码或作为可下载的二进制文件安装它。说明在 网站 上。每个想要使用 git-lfs 的用户都需要安装它,但它是跨平台的,因此通常不会造成问题。

安装 git-lfs 后,你可以设置要 Git 忽略并由 Git-LFS 管理的文件类型。例如,要让 Git-LFS 跟踪所有 .png 文件

$ git lfs track "*.png"

每次你为 Git-LFS 跟踪添加文件类型时,都必须添加然后提交文件 .gitattributes

$ git add .gitattributes
$ git commit -m "LFS track *.png"

当你暂存这些类型的文件时,该文件将被复制到 .git/lfs

Git-LFS 是 Github 的一个项目,并且与 Github 的基础设施紧密相关。如果你想运行允许 Git-LFS 集成的 Git 服务器,你可以研究 Git-LFS 服务器规范(也是用 Go 编写的)并实现 API。

git-portalgit-annex 都很灵活,并且可以使用本地仓库而不是服务器,因此它们对于管理私有本地项目也同样有用。

大型文件和 Git

虽然 Git 是为文本文件设计的,但这并不意味着仅仅因为你有二进制资产就不能使用它。有很多很好的解决方案可以帮助你管理大型文件。如果你想使用 Git,真的没有太多借口不使用它,所以今天就试试吧!

标签
Seth Kenlon
Seth Kenlon 是一位 UNIX 极客、自由文化倡导者、独立多媒体艺术家和 D&D 爱好者。他曾在电影和计算机行业工作,并且经常同时进行。

8 条评论

我对任何大型文件支持方案的困难在于(据我所知),你实际上并没有对任何资产进行版本控制。当然,你有大型文件,并且有你所做更改的日志,但是除非我误解了一些基本的东西,否则没有机制可以将这些大型二进制文件回滚到以前的版本。这对我来说是决定性因素,因为分支和回滚能力是我使用版本控制的两个主要原因。

简而言之,请告诉我我错了。Git LFS、git-media 或 git-annex 是否支持分支和回滚大型二进制文件,而文档只是非常晦涩难懂?或者,可悲的是,我是否正确地阅读了文档?

进行了一些研究,但事实证明我错了。大型文件*已*版本化...修订版只是单独存储。我现在明白了。当你进行检出时,你只会获得该修订版/分支所需的文件。但是,如果你在没有中央服务器的情况下进行临时版本控制(即,就地版本控制项目,而不一定与任何人共享/协作),则设置起来可能会有些麻烦...也许。我想只有一种方法可以确定。:)

回复 ,作者:Alexander Teterkin

是时候变得迂腐了:有版本控制,然后还有版本控制。对于我管理的大对象,当其他所有内容都在 33md6465b3 时,让 git“意识到”昨天发生了某些更改对我几乎没有好处。我不需要我的图形或视频的版本与昨天的提交相匹配。我不需要能够逐步浏览我的项目并查看视觉效果的不同阶段。我想要备份,以防我完全毁掉一个图形,但除此之外,我不需要版本。然而,git-lfs 确实对大型文件进行版本控制,这很酷,但这不是我需要的。实际上,当 git-media 和 git-annex 过度杀伤时,我实际上推出了自己的 BASH 解决方案来简化该过程。

回复 ,作者:Jason van Gumster

你知道吗?“blob”代表“二进制大对象”。

“二进制大对象”因此是二进制二进制大对象

这对我来说是决定性因素,因为分支和回滚能力是我使用版本控制的两个主要原因。对于我管理的大对象,当其他所有内容都在 33md6465b3 时,让 git“意识到”昨天发生了某些更改对我几乎没有好处

知识共享许可协议本作品根据知识共享署名-相同方式共享 4.0 国际许可协议获得许可。
© 2025 open-source.net.cn. All rights reserved.