分类：Linux

大模型本地部署必读：参数量、精度、量化、显存需求全解析

大模型本地部署必读：参数量、精度、量化、显存需求全解析在本地部署大语言模型（LLM）的过程中，我们常会遇到「到底要多少显存」「参数数量和模型大小的关系」「量化会带来什么影响」这些问题。本文就来系统、简单地讲清楚： ✅ 什么是模型参数量 ✅ 浮点精度（FP）意味着什么 ✅ 量化（Q）的原理和效果

Linux AI

crontab不生效的原因与解决方法

crontab不生效的原因与解决方法在 Linux 服务器运维中，很多人会遇到一个非常常见、但也很坑的问题： ✅ crontab 明明加上了任务，语法也正确，crontab -l 能看到，cron 服务也在运行，但是任务就是没有执行。更糟糕的是，/var/log/cron 里会出现类似下面的错误

Linux

Git设置和取消代理

Git设置和取消代理查看当前的 Git 代理配置要查看当前 Git 配置的代理，可以使用以下命令： git config --global --get http.proxy git config --global --get https.proxy 查看 Git 的所有配置信息 git conf

Linux

基于Chrony时间同步

基于Chrony时间同步服务端安装chrony yum install -y chrony 启动服务并且加入开机自启 systemctl enable chronyd.service && systemctl restart chronyd.service && systemctl status

Linux

Centos7永久禁ping

Centos7永久禁ping 永久禁用ping 设置禁ping vim /etc/sysctl.conf net.ipv4.icmp_echo_ignore_all = 1 刷新配置 sysctl -p 永久启用ping设置

Centos

OpenLDAP命令大全

OpenLDAP命令大全查询所有用户的所有信息 ldapsearch -x -LLL -b "dc=example,dc=com" "(objectClass=posixAccount)" 查询用户 sunty 是否存在以及其详细信息 ldapsearch -x -LLL -b "dc=examp

Rocky Centos

Rocky8.9进入单用户模式

Rocky8.9进入单用户模式启动系统，在选择 kernel 启动菜单按键盘'e' 找到启动参数文本中的”rhgb quiet”，将它修改为”init=/bin/bash”，表示直接启动 bash

Rocky

Rocky8.9普通用户安装Singularity

Rocky8.9普通用户安装Singularity 创建存放安装包的目录 mkdir ~/pkg && cd ~/pkg 下载最新版本的Singularity包 wget https://github.com/sylabs/singularity/releases/download/v4.1.2/s

Rocky

Rocky8.9普通用户安装Go语言

Rocky8.9普通用户安装Go语言创建存放安装包的目录 mkdir ~/pkg && cd ~/pkg 下载最新版本的Go包 wget https://dl.google.com/go/go1.22.2.linux-amd64.tar.gz 创建安装Go包的目录 mkdir -p ~/softw

Rocky

Rocky8.9安装Munge

Rocky8.9安装Munge 下载最新的munge，下载地址：https://github.com/dun/munge/releases/tag/munge-0.5.15 安装依赖 dnf -y ins

Rocky