最近在部署 SyncTalk 虚拟数字人项目时，需要安装很多依赖项，在执行到pip install --no-index --no-cache-dir pytorch3d -f https://dl.fbaipublicfiles.com/pytorch3d/packaging/wheels/py3 ...

llama.cpp是一个高性能的CPU/GPU大语言模型推理框架，适用于消费级设备或边缘设备。开发者可以通过工具将各类开源大语言模型转换并量化成gguf格式的文件，然后通过llama.cpp实现本地推理。经过我的调研，相比较其它大模型落地方案，中小型研发企业使用llama.cpp可能是唯一的产品落地 ...

目前通过 runfile(local) 方式安装，最终 nvcc -V 看到的版本有偏差（安装12.4，显示12.0），但不影响使用 llama-factory, llama.cpp 等使用（llama-cpp-python 的 cuda 版本 会安装失败，原因尚未深究） 如果需要 nvcc -V ...

0 引言 GoogLeNet，它是一种深度卷积神经网络，由Google研究人员在2014年提出，用于图像识别任务。 CIFAR-10是一个常用的图像识别数据集，包含10个类别，每个类别有6000张32x32的彩色图像。 本文使用Pycharm及Pytorch框架搭建GoogLeNet神经网络框架，使 ...

首先在这里感谢一下这位大佬：学不会电磁场的个人空间-学不会电磁场个人主页-哔哩哔哩视频 (bilibili.com) 这里使用的代码是从手把手教你使用c++部署yolov5模型，opencv推理onnx模型_哔哩哔哩_bilibili处来的我这里只记录下更换成自己的模型的应用以及提供一份全注释的版本 ...

源码详细讲解 pdf 及教学视频下载链接：点击这里下载 FunctionCalling的单一函数调用 天气预报查询（今天长沙的天气如何？） 1 import json 2 import requests 3 from openai import OpenAI 4 5 client = OpenAI( ...

FaceFusion 在这次重大更新中带来了许多全新的功能与改进，旨在提升用户体验并为面部处理任务提供更强大的工具。无论你是初次使用者还是经验丰富的开发者，这次更新都包含了众多值得关注的亮点，下面我们一一解析。 亮点更新 换脸器像素增强功能：换脸器的强力升级 FaceFusion 引入了换脸器像素增 ...

大家好，我是晓凡。 作为一名搬了很多年砖的码农，深知求职和编程路上的各种辛酸与艰辛。 你是否也曾在面试前夜，疯狂刷题却完全记不住，收效甚微？ 是否也曾在深夜凌晨一个人对着电脑屏幕，苦苦思索一个bug的解决方案？ 是否看着前人留下的屎山代码而无从下手，最后也只能留下只要屎山不倒，就继续接着码的感叹？ ...

导言 ​ 在参加东南大学网络安全学院夏令营的契机下，我第一次接触大模型安全领域。L老师是网络安全领域的一位大牛，在和L老师交流期间，被告知需要准备一次paper presentation介绍四大会中感兴趣的一篇文章，我选择了汇报这篇来自NDSS2024的《MASTERKEY: Automated J ...

Open WebUI (Formerly Ollama WebUI) 也可以通过 docker 来安装使用 1. 详细步骤 1.1 安装 Open WebUI # 官方建议使用 python3.11（2024.09.27），conda 的使用参考其他文章 conda create -n open-w ...

1. 详细步骤 1.1 安装 # CUDA/CPU pip install "xinference[transformers]" pip install "xinference[vllm]" pip install "xinference[sglang]" # Metal(MPS) pip inst ...

首先给大家介绍一个很好用的学习地址：https://cloudstudio.net/columns 在之前的学习中，我们学习了直线线性回归与多项式回归，我们今天的主题则是逻辑回归，我记得在前面有讲解过这两个回归的区别，那么今天我们主要看下逻辑回归有哪些特征需要我们识别的。 逻辑回归 逻辑回归主要用于 ...

RAG这一章我们集中看下精排的部分。粗排和精排的主要差异其实在于效率和效果的balance。粗排和精排的主要差异其实在于效率和效果的balance。粗排模型复杂度更低，需要承上启下，用较低复杂度的模型 ...

这次是KDD 2024专场。 目录： Deep Bag-of-Words Model: An Efficient and Interpretable Relevance Architecture for Chinese E-Commerce 【词袋模型和语言模型结合，构建可解释的相关性计算方法】 U ...

关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。 利用Ollama本地LLM（大语言模型）搭建AI的REST API服务是一个实用的方法。下 ...

随着大语言模型 (LLMs) 规模和复杂性的增长，寻找减少它们的计算和能耗的方法已成为一个关键挑战。一种流行的解决方案是量化，其中参数的精度从标准的 16 位浮点 (FP16) 或 32 位浮点 (FP32) 降低到 8 位或 4 位等低位格式。虽然这种方法显著减少了内存使用量并加快了计算速度，但往 ...

首先给大家介绍一个很好用的学习地址：https://cloudstudio.net/columns 在之前的学习中，我们已经对数据的准备工作以及数据可视化有了一定的了解。今天，我们将深入探讨基本线性回归和多项式回归的概念与应用。 如果在过程中涉及到一些数学知识，大家也不必感到畏惧，我会逐步为大家进行 ...

1 Agent/Function Call 的定义 Overview of a LLM-powered autonomous agent system： Agent学会调用外部应用程序接口，以获取模型权重中缺失的额外信息（预训练后通常难以更改），包括当前信息、代码执行能力、专有信息源访问权限等。 2 ...

本文主要介绍 Qwen2.5-Math 特点和能力，并在本地进行部署和数学推理，最后验证小学和初中的奥数题目，Qwen2.5-Math 不仅解题步骤清晰明了，正确率也达到惊人的 100%…… ...

Deepseek的代码AI能力智能助手在代码生成与补全、代码修复与优化、智能问答。似乎是替代Cursor AI的方案，以下介绍是VS CODE中安装插件Continue准备工作 Deepseek API access Key申请配置config.json配置如下{ "completionOption ...