WMW

Menu

WMW itsWMW

Archives

2024 / 09

如何构建高效的AI Agent：全面教程与代码示例

2024-09-15

有句非洲谚语非常著名：“一个人可以走得很快，而一群人才能走得更远。”这句话传达了团队合作的重要性，强调了分工明确和协同合作的力量。正如这句话所示，只有在团队成员各尽其职、共同努力时，才能真正取得成功。 这个理念同样适用于大型语言模型（LLM）。我们不必期望一个单一的 LLM 能够处理所有复杂的任务。
苹果对英伟达的逐渐冷漠：人工智能市场的变革

2024-09-15

深入分析中国芯片行业的现状 苹果已开始逐渐抛弃英伟达。 18个月前，ChatGPT的推出引发了人工智能的热潮，英伟达成为这一浪潮的领头羊。其市值超过苹果，成为全球最大的市值公司，股价上涨了600%。首席执行官黄仁勋因此被称为“科技界的泰勒·斯威夫特”，众多硅谷巨头纷纷希望能与其见面。 然而，历史的恩
英伟达：是否会重演思科的辉煌与衰退？

2024-09-15

**“在互联网泡沫之前，我们也相信思科会一直涨下去。”**这句话曾是华尔街投资人对思科的评价。或许由于思科带来的创伤过于深刻，英伟达在2025财年第二季度公布财务数据后，尽管各项业务都在提升，投资者却纷纷选择撤离。 原因在于，英伟达的增速显著放缓。 **本季度英伟达实现营收300.4亿美元，同比增长
PyTorch推出无CUDA加速推理，告别英伟达的时代

2024-09-15

最近，PyTorch官方发布了关于无CUDA计算的实现方法，并对各个内核进行了微基准测试比较，探讨了未来如何进一步优化Triton内核，以缩小与CUDA的性能差距。 在训练、微调和推理大语言模型（LLM）时，使用英伟达的GPU和CUDA已经成为一种普遍做法。同样，在更广泛的机器学习领域，CUDA的依
5个受欢迎的开源AI工作流项目：图形化界面与自定义Agent

2024-09-15

开源AI工作流项目，这些项目的GitHub星标数量均超过一万。它们的共同特点包括：1. 提供友好的图形化界面，支持拖拉拽操作，适合没有编程基础的业务人员；2. 支持自定义知识库、工作流、自定义插件和大型模型；3. 提供多种预设的应用模板和API工具。其中，前三个项目均由国内公司开发，Dify和Flo
深入了解英伟达CUDA技术：高性能计算的未来

2024-09-15

在当今数据驱动的时代，计算能力已成为科技进步的重要推动力。GPU曾经专注于图形渲染，但如今已成为高性能计算的核心力量。这一转变离不开英伟达革命性的技术——CUDA。 什么是CUDA？ CUDA，全称为Compute Unified Device Architecture，即统一计算设备架构，是英伟达
深入了解英伟达CUDA：核心技术与应用详解

2024-09-15

什么是CUDA CUDA（Compute Unified Device Architecture）是英伟达推出的基于其GPU的通用高性能计算平台和编程模型。通过CUDA，开发者能够有效利用英伟达GPU的强大计算能力，以加速各种计算任务。 软件生态的基石 CUDA构成了英伟达软件生态的基础，许多前沿技
Comprehensive Guide to Getting Started with CUDA Programming

2024-09-15

Introduction Understanding the Basics of CUDA GPU programming involves multiple components such as the CPU, GPU, memory, and video memory. It's crucia
自进化智能体：具备反思与记忆增强的创新框架

2024-09-15

在动态环境中，大型语言模型（LLMs）在持续决策、长期记忆和有限上下文窗口等方面仍存在诸多挑战： 通过元学习和多任务学习等方法，增强LLMs的迁移能力和适应性； 针对有限记忆存储的问题，MemGPT和MemoryBank采用了不同的策略进行记忆管理； 然而，这些方法通常专注于特定任务或场景，缺乏通用
如何搭建FRP内网穿透环境：详细步骤指南

2024-09-15

环境介绍 在本指南中，我们将使用三台设备进行FRP内网穿透的搭建，包括：本地攻击机、远程跳板机和远程目标服务器。首先，请根据目标服务器的操作系统环境下载相应版本的FRP（推荐为0.46.0版本）。 请确保下载安装Proxifier，并使用工具 python Proxifier_Keygen.py -
LitServe：快速、灵活的开源AI模型部署引擎（性能提升2倍，比FastAPI更优）

2024-09-15

欢迎阅读本期文章！ LitServe是一款灵活且易于使用的服务引擎，专为基于FastAPI构建的AI模型而设计。其具备批处理、流式处理和GPU自动扩缩等功能，无需为每个模型重复搭建FastAPI服务器。 LitServe的优势特性
GPU性能对比：NVIDIA L40s、A10、A40、A100和A6000在AI推理中的适用性分析

2024-09-15

近年来，随着人工智能技术的不断演进，尤其是深度学习模型的广泛应用，GPU（图形处理单元）作为加速计算的重要硬件在AI领域发挥着越来越重要的作用。AI推理即已训练好的模型对新数据进行预测的过程，其对GPU的需求与训练阶段有所不同，更加关注能效比、延迟及并发处理能力。本文将基于这些因素，对NVIDIA的
深入解析AutoGen多Agent框架：构建高效AI合作解决方案

2024-09-15

概述 AutoGen是一个开源编程框架，旨在构建AI Agent并促进多个Agent之间的协作，以解决各种任务。该框架的目标是为人工智能开发和研究提供一个灵活且易于使用的环境，类似于深度学习领域的PyTorch。AutoGen具备多个功能，包括可交互的Agent、LLM和工具的支持、自主与人机循环工
TorchChat：PyTorch推出的强大语言模型框架

2024-09-15

PyTorch最近推出了TorchChat，一个允许用户在本地台式机、笔记本电脑或移动设备上下载和运行大型语言模型的框架。这不禁让人联想到Ollama。TorchChat的设计旨在增强在多种硬件平台上大型语言模型（LLMs）的效率，使其能够在各种设备上高效运行本地模型。此框架通过支持GGML生态系统
如何构建基于知识图谱的高效RAG系统：Neo4j与LangChain的完美结合

2024-09-15

Neo4j与LangChain的集成概述 自从Neo4j宣布与LangChain的整合以来，许多使用Neo4j和大语言模型（LLM）构建检索增强生成（RAG）系统的用例纷纷涌现。这一整合促使知识图谱在RAG中的应用急剧增加。基于知识图谱的RAG系统在处理幻觉问题时，似乎表现得更加优越于传统RAG系统
2024与2025年出生人口预测分析-中国

2024-09-15

近期，民政部发布了2024年上半年结婚对数的数据。 根据往年数据，上半年结婚对数通常占全年结婚对数的约51%。如果我们假设2024年上半年结婚对数同样占全年结婚对数的51%，那么可以推算出全年结婚对数的预期。 考虑到大多数人在结婚后通常会在次年生育，因此，可以将每年结婚对数与下一年的出生人口数建立关
中日房价泡沫：历史走势的惊人相似性

2024-09-15

我们都知道，日本在1990年出现过房价泡沫。因此，我收集了东京历史上各年的房价、租金以及日本民众收入情况，并尝试进行图表绘制。 这是一份1955-2023年东京的房价图表。
在树莓派 5 上成功部署 Mistral 和 Qwen2 的边缘设备大模型指南

2024-09-15

一、引言 2024 年被广泛认为是 AI 硬件的元年。随着大模型成本的持续降低，边缘设备上的大模型解决方案也不断涌现。此外，私有化部署大模型的过程已经变得相对简单（如使用 Ollama、Docker 和 Open WebUI）。因此，本文将探讨是否可以在参数量大约为 7B 的 LLM 上成功部署在边
Previous 22 / 27 Next