KASAN(2)-自测试模块

KASAN(1)-简单实践

Debian系列的操作系统默认使用apt来进行包管理，而apt安装软件包是基于某个固定的apt源来拉取包的。那么合理的产生一个疑问：

有没有办法让Debian系列的系统从零开始，通过apt构建一个定制的版本出来呢？  

答案是肯定的，我详细分析过livebuild的运行机制，结论是只要是基于livebuild发行的操作系统，那么只要提供你apt源地址，你就有办法复刻一个操作系统，例如Debian13，Ubuntu2404等。

基于本文内容，可以根据麒麟提供的外网源地址从头构建一个适用于RK3588芯片的麒麟系统。

# 什么是从头构建
什么是从头构建，一般来说，例如android，openharmony， gentoo这类从源码构建的肯定叫做从头构建， 那如果能够将一个二进制发行的系统，如debian系统，从零构建组装，从而生成一个操作系统，是否也称为从头构建呢。

个人认为是可以的，因为从头构建并没有告诉你一定要从源码构建。即使通过二进制安装的方式构建，只要能够让整个系统是从零开始诞生的就行。

与gentoo这类源码构建的系统不同的是，debian系统默认是预先发布二进制，然后在集成阶段由集成人员通过livebuild机制进行组装发行。这样的好处有如下：   
1. 稳定性高  由操作系统发行方预编译，验证的二进制，相比于源码发行来说运行更稳定
2. 适用性强  操作系统人员给你匹配好了软件版本之间的依赖关系，无需关心源码编译的api兼容
3. 软件丰富  所有开发者基于平台构建的二进制，能够轻松的发布给系统使用者，无需提供软件源码
4. 易用性好  对于非研发人员，如果为操作系统添加功能，只需要安装软件，无需从源码构建

所以我们经常能够看到ubuntu这种系统，默认按照2004，2204，2404发布稳定版本提供出来。

但是在嵌入式领域，如果大部分系统使用ubuntu，如果想要进行定制化操作，非常不方便，因为ubuntu提供的是完整的二进制, 此时如果需要为此系统进行功能定制，那么就需要先安装一个完整的系统版本，然后再在这个版本上做加法。

所以针对Linux嵌入式操作系统而言，基于二进制发行的操作系统厂商，提供可模块化，通过组积木来构建系统的方式还是有一定意义的。

# 仓库
为了完成RK3588的从零构建，我开源了一个仓库，可以如下克隆获取
```
git clone https://github.com/tangfeng-648/unibuilder.git
```

当然，如果不想定制麒麟的系统，那么推荐一个开源仓库定制ubuntu，建议可以试试
```
git clone https://github.com/mvallim/live-custom-ubuntu-from-scratch.git
```

# 使用步骤
下载后，直接运行build.sh
```
# ./build.sh
```
此时选择麒麟发行版。

![image.png](/static/img/0b0b8a92d5a3f01a729719c5b4c207ea.image.webp)

然后选择适用于rk3588的apt源地址

![image.png](/static/img/e73702782a976d81788569a94745ee1e.image.webp)

选择第三方安装包，这里什么都可不选择

![image.png](/static/img/adbe245c52e7a656ee3d1cc9c53c690b.image.webp)

选择芯片平台，这里是rk3588

![image.png](/static/img/68777a3174a0800baf9a76b87aaaf19f.image.webp)

选择根文件系统(rootfs)的输出格式

![image.png](/static/img/ca4504b585514b1460a61d7935c7fb85.image.webp)

选择主板型号

![image.png](/static/img/813e0f842e7ac72bc714ff34e8416bef.image.webp)

到这里，交互式界面就完成了，可以看到选择了如下环境内容
```
# cat .config
#
# Automatically generated file; DO NOT EDIT.
#
BOARD: roc-rk3588s-pc
ARCH: arm64
CHIP: rk3588
SUITE: 10.1-rk3588b03
PLATFORM: rockchip
ROOTFSTYPE: squashfs
DISTRO: kylin
```
此时日志大概信息如下
```
[🦄] create-rootfs.sh [ Creating a new chroot for kylin ]
ii  debootstrap                                                        1.0.118kylin2                                                    all          Bootstrap a basic Debian system
ii  mtools                                                             4.0.24-1                                                         arm64        Tools for manipulating MSDOS files
```
等待30分钟，系统构建完成，大概信息如下
```
[🦄] create-rootfs.sh [ Make update.img successfully. file: /path/to/out/Kylin-Desktop-V10-RK3588-date-arm64-rc1-update.img ]
[🦄] unibuild.sh [ The kylin distribution build has been completed!!! ]                                                      
real    52m5.787s                                                      
user    0m0.296s                                                      
sys     0m0.770s                             
```
这里自动生成了update镜像，直接点击升级烧录即可

![image.png](/static/img/30d579c6e96bff1cc8256245f5554b8c.image.webp)

# 注意事项
## 板卡二进制
因为RK平台的启动镜像不一定一致(板子不一样,我只开源了一款)，但是我在`config/board/rk3588/roc-rk3588s-pc/README.md `也说明了处理办法。

简单来说，建议自行在config/board/rk3588上新建自己板卡的目录，将自己的开机镜像打包成`boardname-binary_all.deb`的deb包放置此目录即可。构建时会主动获取其内容，进行打包update.img用于启动

deb包的打包方法在`script/binary_to_deb.sh`提供了脚本

## 默认配置
系统启动之前，会主动为FOTA进行一次同步，可以看到屏幕上转圈大概1分钟，这个不需要奇怪。当转圈完成之后自动登录进入界面如下

![2025-09-16_09-20-23.png](/static/img/6b31472aa542fa04af64c1e115d19321.2025-09-16_09-20-23.webp)

如果需要手动登录，其账号密码如下
> account: kylin  
> password: qwer1234

# 总结
通过上述步骤，能够轻松的从零构建RK3588的麒麟版本，后续定制系统就会变得非常轻松，只需要针对此脚本修改，就能完成操作系统的定制化工作。


从零构建RK3588的麒麟系统

LLaVA是一种多模态大模型，其可以将输入的视觉特征提取成本文信息，jetson ai lab提供了相关教程，本文实践一下

Jetson-Orin-Nano-Super(10) Live LLaVA 实战

之前几个文章把几个热门的模型都在orin上跑起来试用了一下，分别是 qwen3，diffusion，yolo，这是嵌入式项目中很常见实际应用，现在再基于jetson ai lab的tutorial，实战一下rag，关于rag我这里直接使用jetson开源的rag来实战，而不是通用的llamaindex。当然jetson ai lab的教程也有llamaindex的示例。
# 安装
默认copilot需要chromium和docker安装，这个之前的文章就已经安装好了，这里直接运行即可
```
# ./launch_jetson_copilot.sh
```
启动日志如下
```
Status: Downloaded newer image for dustynv/jetson-copilot:r36.4.0

Starting ollama server

Couldn't find '/root/.ollama/id_ed25519'. Generating new private key.
Your new public key is:

ssh-ed25519 AAAAC3NzaC1lZDI1NTE5AAAAIGy9+RxSNWAVS6zF32ZnHVF/LSr0I+pCnwmhtbZx6a2y

2025/09/11 09:09:42 routes.go:1158: INFO server config env="map[CUDA_VISIBLE_DEVICES: GPU_DEVICE_ORDINAL: HIP_VISIBLE_DEVICES: HSA_OVERRIDE_GFX_VERSION: HTTPS_PROXY: HTTP_PROXY: NO_PROXY: OLLAMA_DEBUG:false OLLAMA_FLASH_ATTENTION:false OLLAMA_GPU_OVERHEAD:0 OLLAMA_HOST:http://0.0.0.0:11434 OLLAMA_INTEL_GPU:false OLLAMA_KEEP_ALIVE:5m0s OLLAMA_LLM_LIBRARY: OLLAMA_LOAD_TIMEOUT:5m0s OLLAMA_MAX_LOADED_MODELS:0 OLLAMA_MAX_QUEUE:512 OLLAMA_MODELS:/data/models/ollama/models OLLAMA_MULTIUSER_CACHE:false OLLAMA_NOHISTORY:false OLLAMA_NOPRUNE:false OLLAMA_NUM_PARALLEL:0 OLLAMA_ORIGINS:[http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:* app://* file://* tauri://*] OLLAMA_SCHED_SPREAD:false OLLAMA_TMPDIR: ROCR_VISIBLE_DEVICES: http_proxy: https_proxy: no_proxy:]"
time=2025-09-11T09:09:42.176Z level=INFO source=images.go:754 msg="total blobs: 0"
time=2025-09-11T09:09:42.176Z level=INFO source=images.go:761 msg="total unused blobs removed: 0"
time=2025-09-11T09:09:42.176Z level=INFO source=routes.go:1205 msg="Listening on [::]:11434 (version 0.0.0)"
time=2025-09-11T09:09:42.177Z level=INFO source=common.go:135 msg="extracting embedded files" dir=/tmp/ollama1274236136/runners
time=2025-09-11T09:09:43.569Z level=INFO source=common.go:49 msg="Dynamic LLM libraries" runners="[cpu cuda_v12]"
time=2025-09-11T09:09:43.570Z level=INFO source=gpu.go:199 msg="looking for compatible GPUs"
time=2025-09-11T09:09:43.579Z level=WARN source=gpu.go:669 msg="unable to locate gpu dependency libraries"
time=2025-09-11T09:09:43.579Z level=WARN source=gpu.go:669 msg="unable to locate gpu dependency libraries"
time=2025-09-11T09:09:43.579Z level=WARN source=gpu.go:669 msg="unable to locate gpu dependency libraries"
time=2025-09-11T09:09:43.699Z level=INFO source=types.go:107 msg="inference compute" id=GPU-d03db7ac-e66d-56fe-ae22-93568383bf53 library=cuda variant=jetpack6 compute=8.7 driver=12.6 name=Orin total="7.4 GiB" available="5.6 GiB"

OLLAMA_MODELS /data/models/ollama/models
OLLAMA_LOGS   /data/logs/ollama.log

ollama server is now started, and you can run commands here like 'ollama run llama3'


Collecting usage statistics. To deactivate, set browser.gatherUsageStats to false.


  You can now view your Streamlit app in your browser.

  Local URL: http://localhost:8501
  Network URL: http://192.168.31.55:8501
  External URL: http://hide:8501
```
登录这个链接看到如下

![image.png](/static/img/ded64aba1a3f5ed582b2b292798b054a.image.webp)

可以看到正在下载llama3模型，其实之前的文章我们本地已经下载ollama并安装了qwen3了，但是这里因为是容器，其实llm相关的动作又重新做了一遍。

因为是跟着tutorial在实战，尽量还是不要自己去发挥。等一会儿就好，完成之后，显示如下

![image.png](/static/img/e50cf42ce9b1ba049d4f08d81ad6117d.image.webp)

完成之后，回到主页面可以开始提问

![image.png](/static/img/81824004b90acc38a31a6cb77c31c827.image.webp)

# 演示
为了实践RAG，我以最近在阅读的Linux memory manager的pdf作为rag的文库，导入到RAG中，然后不使用rag和使用rag来对比，如下

点击`Build a new index`，这里起名是LMM

然后进入docker容器内部，准备上传文档
```
# docker exec -it kind_blackburn /bin/bash
# mkdir /opt/jetson_copilot/Documents/LMM
# scp root@kylin:~/_EA_Linux_Memory_Manager_21025.pdf .
```
然后在网页的`Local documents`选中LMM目录，可以看到需要新增一个文档，点击`Build index`

![image.png](/static/img/8830072f7a8f38481a406fb95e5873a8.image.webp)

等待其生成index完成之后，回到主页面可以开始使用了。这里以linux内核的内存规整作为提问来测试rag的作用。

下面是不使用rag的问答

![image.png](/static/img/0d5a60a7bea60bb2531a8a16d48773ce.image.webp)

可以看到，这个回答没有技术细节。接下来使用带上Linux Memory Manager书籍的RAG问答

![image.png](/static/img/eb9f1b4d7d6be51d973bb503665203eb.image.webp)

可以看到，这次回答引用了LMM书上的内容，并提供了部分代码细节

# 总结
本文基于Copilot进行了实战，通过容器运行了llama3大语言模型，然后加载LMM书籍作为RAG的素材，生成index后，对比了使用rag和不使用rag的效果。可以发现rag作为团队或个人的内部知识库还是很不错的。