博客 欲望文字 那年花开 开发笔记 日志

langgraph - 基于图结构的智能体编排框架，用于构建稳定可控的AI工作流当你想用大语言模型构建一个复杂的AI应用时，是否遇到过这样的困境：简单的链式调用无法处理分支逻辑，基础智能体难以保证执行的可控性，复杂的业务场景需要精细化的流程控制？langgraph正是为了解决这些问题而生的。它是langchain生态中的明星项目，将智能体的执行过程建模为有向图，通过节点和边的组合，让你可以用代码的方式精确控制AI应用的状态流转、分...

langchain - AI应用开发框架，用于构建基于大语言模型的智能应用如果你曾经尝试过用大语言模型开发应用，你一定遇到过这样的问题：如何让模型访问外部数据？如何管理多轮对话的记忆？如何让模型调用外部工具？这些看似基础的需求，如果用原始API实现，需要编写大量重复的代码。langchain正是为了解决这些问题而生的。它是目前最流行的大语言模型应用开发框架，通过提供一系列标准化的组件和抽象，让你可以用最少的代码构建功能强大的AI应...

AutoGPT - 自主AI智能体框架，用于自动化执行复杂任务和工作流程想象一下，你只需要告诉AI一个目标，比如“研究最新的AI论文并写一份总结报告”，它就能自己思考、规划步骤、搜索信息、撰写内容，最终交付完整的结果。这就是AutoGPT带来的革命性体验。作为开源AI智能体领域的先驱项目，AutoGPT让大语言模型不再是被动响应的对话工具，而是能够主动执行任务的自主智能体。它能够分解复杂目标、制定执行计划、调用各种工具、反思执行结...

axolotl - 大语言模型微调工具，用于在消费级硬件上高效训练开源模型你是否曾经想过用自己收集的数据微调一个开源大模型，却被复杂的训练配置和漫长的调试过程困扰？axolotl正是为了解决这个问题而生的。它像一个精心设计的工具箱，将模型微调过程中所有复杂的技术细节都封装在简洁的配置文件中，让你可以用几行YAML代码就能完成从数据准备到模型训练的全过程。无论是想在单张显卡上微调70亿参数的模型，还是想在多卡集群上训练千亿参数的大模...

unsloth - 本地大模型训练与运行工具，用于在个人电脑上微调和部署开源模型你是否曾经想过在自己的电脑上微调一个像DeepSeek或Qwen这样的开源大模型，却被复杂的部署流程和昂贵的硬件需求劝退？unsloth就是为了解决这个痛点而生的。它提供了一个简单直观的Web界面，让你无需编写代码、无需配置复杂的训练环境，就能在自己的电脑上轻松训练和运行主流开源模型。无论是想在个人项目中使用定制化的AI助手，还是想在本地私有化部署大模...

ColossalAI - 大规模AI模型训练与部署框架，用于在有限算力下高效开发大模型大语言模型的浪潮席卷全球，但高昂的训练成本和复杂的分布式技术让大多数开发者和中小企业望而却步。你是否想过，用一块消费级显卡也能训练出百亿参数的模型？用几行代码就能实现分布式训练？ColossalAI正是为此而生。这个由加州大学伯克利分校团队打造的开源项目，以“让大模型更便宜、更快、更易用”为使命，通过创新的并行技术和内存优化，将大模型训练的门槛从...

Megatron-LM - 大规模Transformer模型训练框架，用于在超算集群上训练千亿参数大模型想象一下，训练一个拥有1750亿参数的GPT-3模型需要多少计算资源？OpenAI用了数千块GPU花费数周时间。而NVIDIA开源的Megatron-LM，正是为了在超大规模GPU集群上高效训练这类巨型模型而生的框架。它融合了模型并行、数据并行和流水线并行的先进技术，让数千块GPU能够协同工作，将训练时间从数月缩短到数天。如果你...

DeepSpeed - 深度学习优化库，用于高效训练和部署千亿参数大模型训练一个大语言模型需要多少块GPU？如果你问OpenAI训练GPT-4时用了多少块，答案可能是数以万计。但对于大多数开发者来说，我们并没有这样的资源。那么，有没有一种技术可以让普通规模的GPU集群也能训练出超大模型？答案就在DeepSpeed中。这是微软开源的一个深度学习优化库，它通过创新的内存优化和分布式训练技术，让单卡就能训练数十亿参数的模型，让多卡集群能...

llama.cpp - 本地大语言模型推理框架，用于在消费级硬件上高效运行LLM大语言模型正在改变我们与计算机交互的方式，但通常运行这些模型需要昂贵的云端GPU和复杂的部署流程。如果你拥有一台普通的个人电脑，甚至是一台树莓派，是否也能体验和运行这些先进的AI模型？答案是肯定的。llama.cpp项目正是为了解决这个问题而生。它让你可以在自己的设备上，无需联网、无需昂贵硬件，就能运行强大的开源大语言模型，将AI能力真正掌握在自己手中...

TensorRT-LLM - 高性能大语言模型推理加速工具，适用于NVIDIA GPU上的AI部署与优化在人工智能迅猛发展的今天，大语言模型（LLM）正在深刻改变我们与技术互动的方式。然而，随着模型规模的指数级增长，如何高效地在硬件上执行推理成为一大挑战。NVIDIA 推出的 TensorRT-LLM，正是为了解决这一难题而生。它不仅为开发者提供了简洁直观的 Python API 来定义和运行 LLM，还通过一系列尖端优化，让模型...

Continue - 源码控制的AI检查工具，适用于CI中强制执行AI代码质量与安全审查 在 AI 编程助手日益普及的今天，很多团队已经开始在开发流程中引入 AI 生成或修改代码的环节。但随之而来的挑战是：如何确保 AI 的输出符合项目的编码规范、安全标准与架构原则？ 如果仅依赖人工 Code Review，效率和一致性难以保证。Continue 正是为此而生——它是一个源码控制的 AI 检查工具，能够将 AI 代码检查规则写入...

Deptrac - PHP依赖分层检查工具，适用于架构规则验证与代码解耦分析 在现代 PHP 项目中，随着业务增长，模块与层之间的依赖关系往往会变得混乱，导致代码耦合度高、维护困难。Deptrac 的出现，就是为了让开发者可视化并强制实施架构依赖规则，通过分析类之间的引用关系，发现违反既定分层策略的情况。例如，它可以阻止控制器直接依赖数据持久层，确保系统遵循“上层不越界访问下层”的设计原则。虽然原仓库已迁移至 https://g...
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. ...
  9. 18