Ollama是建立在`llama.cpp`开源推理引擎基础上的大模型推理工具框架。得益于底层引擎提供的高效模型推理，以及多硬件适配，Ollama能够在包括CPU、GPU在内的，不同的硬件环境上，运行各种精度的GGUF格式大模型。通过一个命令行就能拉起LLM模型服务。通过Ollama，开发者可以更好的...

一、LoRALoRA，英文全称`Low-Rank Adaptation of Large Language Models`，直译为大语言模型的`低阶适配`，是微软的研究人员为了解决大语言模型微调而开发的一项技术。例如，GPT-3有1750亿参数，为了让它能干特定领域的活儿，需要做微调，但是如果直接...

大模型的微调（Fine-tuning）和 RAG（Retrieval-Augmented Generation）是两种常见的提升大语言模型能力的方法，但它们的思路和使用场景不同。下面是它们的对比说明： 一、微调（Fine-tuning） 定义：在一个已经训练好的大语言模型基础上，继续用特定领域的数据...

Bash 脚本：删除超过 90 天的 `logstash-*` 索引```bash!/bin/bashES_HOST="11.96.40.4"PORT=9200THRESHOLD=$(date -d "90 days ago" +%Y.%m.%d) 列出所有 logstash-* 索引curl -...

在 Kubernetes 中查看每个容器使用的 **ephemeral-storage（临时存储）**大小，可以通过以下几种方法来实现：Kubernetes 的 ephemeral-storage 实际上是容器在 Node 上的 `/var/lib/kubelet/pods/` 目录里。你可以用下面...

先在home目录下创建一个可以读写的目录，例如，创建一个`data`目录：```mkdir /Users/aaaaa/data```接下来，将创建的地址写入到`synthetic.conf`中，用来做为`/data`实际存储的目录。```sudo vim /etc/synthetic.conf```...

扩展一下项目，添加一个 **“关于我们”页面** 和一个简单的 **表单提交页面**（比如留言功能）。 一、更新项目结构：```myapp/├── app.py├── templates/│ ├── index.html│ ├── about.html│ └── contact.html...

下面是一个完整的 Flask 项目示例，包含基本的目录结构、主页和静态资源（CSS）。 一、项目结构如下：```myapp/├── app.py├── templates/│ └── index.html├── static/│ └── style.css``` 二、代码文件内容： 1. `...

Flask 是一个用 **Python 编写的轻量级 Web 应用框架**，适合构建小型到中型的 Web 项目。它设计简单，易于扩展，非常适合初学者和快速开发原型。 一、Flask 的核心特点：* **轻量**：核心只包含最基本功能，其他功能可通过插件添加。* **灵活**：你可以按自己喜好组织项目...

Go Modules 下载的依赖默认被缓存到本地的 **模块缓存目录**，在 macOS 上通常是：```bash~/go/pkg/mod```你可以通过以下命令查看当前的模块缓存路径：```bashgo env GOMODCACHE```--- 一、依赖下载目录详解以下载 `github.com/...