ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境

首先我们来探究下为什么要设计大模型+工作流

一、大模型+工作流的优势主要有四点:

1. 降低任务门槛:工作流可以将复杂任务分解成多个小任务,降低每个任务的复杂度,从而减少对提示词和大模型推理能力的依赖。这样可以提升大模型处理复杂任务的性能和容错能力。

2. 提升任务效率:工作流可以实现自动化处理,减少重复劳动和纠正。只需提供必要元素,工作流就可以直接输出结果,提高效率和稳定性。

3. 提高任务的一致性:工作流可以确保任务的执行是一致的,减少人为错误和偏差,提高任务的可靠性和质量。

4. 实现任务的可重复性:工作流可以实现任务的可重复性,减少重复劳动和开发时间,提高开发效率和生产力。

好了接下来我们开始正式实践。

二、安装docker desktop + wsl2

dockerdesktop下载地址:Docker Desktop: The #1 Containerization Tool for Developers | Docker

安装步骤就省略咯,可以百度。

推荐博客: 0基础基于最新WSL2的Window Docker安装及搭建内网穿透保姆级教程_wsl 镜像网络-CSDN博客

三、安装ollama

1、安装ollama

下载ollama官方windows安装程序,下载后直接双击应用程序安装。

地址: Ollama

安装完成后进行更换ollama的存储位置

(设置环境变量--不明白就百度一下windows设置环境变量,这里就不过多讲解。):

设置完成后重启电脑。

2、下载模型

ollama官网顶部Models,进入模型列表界面。

复制完成后进入cmd,并开始下载模型,将复制的模型 粘贴并回车。

上图为拉取进度,完成后会自动进行编译,然后本地cmd方式即可进行对话。

经过以上步骤本地大模型llama3以安装完成,接下来我们通过dockerdesktop进行搭建fastgpt。

四、安装部署Fastgpt

1、部署fastgpt到dockerdesktop

Fastgpt开源项目地址: https://github.com/labring/FastGPT

Fastgpt官方docker模式部署地址: Docker Compose 快速部署 | FastGPT

方法如下:

启动 dockerdesktop。

依次执行下面命令,创建 FastGPT 文件并复制docker-compose.ymlconfig.json的内容并创建两个一模一样的文件,执行完后目录下会有 2 个文件。

文件创建好并拷贝出git上对应的两个文件内容,并cmd进入当前文件夹执行代码:docker-compose up -d

然后等待安装完成(由于我电脑已经完成安装,就不演示了)。完成后dockerdesktop会显示如下信息:

文件夹内容:

dockerdesktop内容:

2、启动并配置one api模型:

访问本地部署好的one api: http://localhost:3001/channel

初始化的    用户名:root   密码:123456

进入后会叫修改密码之类的,完成后点击“渠道”,配置你的大语言模型。首次登录进来渠道是空的,需要自己添加自己的大模型。

那接下来我们怎么配置刚刚安装的本地大模型llama3呢?

第一步:先点击 底部“添加新的渠道”,然后选择“Ollama”。

第二步:配置本地llama3:8b大模型

查询本地ollama中的模型名称,填入模型的时候用到

完整的配置界面

完成后测试通过,下图中有时间返回,就说明模型链接成功。

oneapi还有最后一步,就是将模型加入到咱们的令牌中,点击顶部“令牌”导航进入。选默认的令牌信息,并添加llama3:laest 模型。

五、配置Fastgpt

接下来配置Fastgpt并使用咱们导入的本地大模型llama3来进行创建chat 或者 agent了。

1、配置fastgpt的模型

进入最开始的fastgpt文件夹。找到config.json,配置llama3模型,位置和代码如下:

完成配置后需要重新启动dockerdesktop里面的oneapi和fastgpt。

2、访问fastgpt

地址: http://localhost:3000/login,默认用户名:root  密码:1234

2、配置应用chat、agent等:

输入chat名字,选择类型。

选择一个大模型,配置到你创建的应用中。

完成模型选择后进行 发布,发布后即可在右变边的聊天框中输入信息,进行对话。

第一个聊天应用就搞定了。后续还有知识库上传和导入,导入完成后即可配置本地RAG检索agent配置了。

下期再写吧,感谢各位耐心观看。

Ainnle
关注 关注
  • 48
    点赞
  • 78
    收藏
    觉得还不错? 一键收藏
  • 9
    评论
毕业设计 基于单片机智能语音药箱系统(源码+硬件+论文)
DD学长的博客
03-03 2983
毕业设计 基于单片机智能语音药箱系统(源码+硬件+论文)
基于STM32单片机智能快递柜储物柜扫码取件语音播报设计169
单片机设计开发
01-01 1030
基于STM32单片机物联网智能家居储物柜快递柜扫码取件设计矩阵键盘输入舵机设计语音播报无线蓝牙/WiFi手机APP/视频监控快递员SNR6813语音识别169。
基于STM32单片机语音识别 智能衣柜控制系统 除湿换气消毒成品 语音识别 蓝牙传输控制 红外感应 光敏照应 DIY成品 实物+源程序+原理图+仿真+其它资料
最新发布
qq_24269417的博客
09-07 1760
以32单片机为内核进行数据处理,通过DHT11温湿度传感器采集当前衣柜的温度和湿度,按键用来进行设置湿度上限,如果超过上限将驱动继电器闭合开启风扇进行除湿防止衣服发霉,并且我们直接可以ULN2003来驱动步进电机进行开门关门,每次关门后蓝色led灯进行消毒。红外可以分为自动额手动模式,自动模式下红外感应后自动开门,并且光线暗开灯进行照明,通过WIFI进行无线传输控制。本次设计解决了市场上衣柜功能的单一性,增加了对衣物的烘干、消毒、杀菌、通风,给人们的生活带来了极大的便利,具有现实意义。
使用stm32F103C8T6做类似快递柜的功能板
m0_67560139的博客
03-15 73
今天学的是STM32 CubeMx。第一个字符P就是个人的意思。第二个字符取的是功能区的前几个字母。如题,从零开始做起。
基于单片机STM32智能衣柜设计(可以写进毕设与简历的项目)
WangXJ_In_Guilin的博客
09-14 5229
基于stm32智能衣柜设计(紫外线杀菌+除湿风扇+加温+语音助手+wifi模块+人体感应模块等)
一款基于stm32智能衣柜
qq_48196968的博客
06-23 6397
设计一款基于 STM32智能衣柜,在普通衣柜的基础上增加智能化功能, 该智能衣柜是由 STM32 单片机为控制中心,控制衣柜的各种功能模块,实现衣柜的智 能化。通过臭氧发生器和电热式除湿棒进行衣柜的消毒除潮,内置的 WiFi 模块可以 连接服务器将温湿度模块采集到的温湿度上传至服务器再由微信小程序显示,微信小 程序还可以远程控制衣柜的消毒除潮。设计该作品对现在智能衣柜的发展具有很大 的意义......
基于STM32单片机衣柜系统
XCHardware的博客
07-21 1804
本次衣柜系统设计使用STM32单片机作为控制中心,系统通过DHT11进行温湿度检测,通过MQ-2进行烟雾浓度检测,通过DS1302进行时钟检测,检测到的数据通过OLED显示,通过ESP8266模块进行数据的上传和下发,通过继电器控制风扇进行降温、开关门和除湿,通过蜂鸣器报警。
毕业设计】基于单片机智能衣柜系统设计 - 物联网 stm32 嵌入式
热门推荐
m0_71572576的博客
07-02 1万+
Hi,大家好,这里是丹成学长,今天向大家介绍一个 单片机项目基于物联网的智能衣柜系统设计大家可用于 课程设计毕业设计单片机-嵌入式毕设选题大全及项目分享:https://blog.csdn.net/m0_71572576/article/details/125409052在科技高速发展、日新月异的今天,人们越来越注重生活舒适度和安全卫生。一切在曾经不曾注意到的微生物也引起了人们的广泛关注,螨虫,细菌,病毒纷纷进入人们的视线,如何消灭它们让生活更安全卫生就成了人们生活中的一件大事,这就促发了消毒衣柜的诞
毕业设计 基于stm32智能衣柜系统(源码+硬件+论文)
m0_71572576的博客
07-13 6219
🔥这两年开始毕业设计和毕业答辩的要求和难度不断提升,传统的毕设题目缺少创新和亮点,往往达不到毕业答辩的要求,这两年不断有学弟学妹告诉学长自己做的项目系统达不到老师的要求。为了大家能够顺利以及最少的精力通过毕设,学长分享优质毕业设计项目,今天要分享的是🚩毕业设计 基于stm32智能衣柜系统(源码+硬件+论文)🥇学长这里给一个题目综合评分(每项满分5分)难度系数:3分工作量:3分创新点:4分🧿主程序为程序的入口函数,该函数的函数名为main();
基于stm32单片机高精度电流电压温度检测(实物图+源码+原理图+PCB+全套资料).zip
11-07
该项目包括实物图、源码原理图PCB设计以及全套相关资料,为学习者或开发者提供了一个全面的参考实例。 1. **STM32单片机基础**: STM32系列是基于ARM Cortex-M内核的微控制器,具有高性能、低功耗的特点。...
基于STM32F103单片机+ENC28J60以太网接口继电器控制板评估板硬件原理图+PCB+KEIL软件源码)文件.zip
02-23
该资源包包含了一套完整的基于STM32F103单片机的以太网继电器控制板评估系统硬件设计和软件源码。这个系统利用了STM32F103微控制器的强大功能,结合ENC28J60以太网接口芯片,实现了通过网络远程控制继电器的功能。...
基于单片机智能衣柜系统设计-论文
05-15
基于单片机智能衣柜系统设计
基于STM32的自动化衣柜程序设计
06-23
作品介绍 1.衣物使用衣挂挂放在衣柜顶部的两个转轮上,在挂放衣物后需要及时关上衣柜门。 2.衣柜的显示屏上半部分显示衣柜的实时温湿度,下半部分是衣柜的功能操作区: ①触摸显示屏消毒右边打开按钮,即可打开衣柜的消毒功能,当消毒功能打开后点击消毒的关闭即可关闭衣柜的消毒功能。 ②触摸显示屏除潮右边打开按钮,即可打开衣柜的除潮功能,当除潮功能打开后点击除潮的关闭即可关闭衣柜的出除潮功能。 ②触摸显示屏转轮右边打开按钮,即可打开衣柜的转轮功能,当转轮功能打开后点击转轮的关闭即可关闭衣柜的出转轮功能(注:衣柜的转轮由电机进行控制,在电机运作时,衣服也会随之转动,这样做的目的是为让衣柜对衣服的消毒杀菌、防潮去臭的效果更好)。 3.在衣柜显示屏中间有着连接WiFi的按键,如果需要对衣柜进行远程控制,则需要连接家用WiFi或者手机热点。按照提示输入用户名和密码点击连接,当WiFi连接成功后界面会返回初始界面并且连接WiFi按键消失原位置显示成功连接WiFi。 4.微信小程序的使用:打开微信搜索微信小程序“衣柜小助手”,打开界面显示如图右图,当界面的温湿度有所改变即可说明小程序已经成功和衣柜建立通讯。
基于STM32智能衣柜.rar
09-29
基于STM32智能衣柜.rar
基于stm32单片机智能鱼缸设计(实物+原理图+源码+全套资料).zip
11-08
在本项目中,"基于stm32单片机智能鱼缸设计(实物+原理图+源码+全套资料)" 提供了一整套实现智能鱼缸自动化控制的方案,涵盖了硬件设计、软件编程和系统集成等多个方面。下面将详细阐述其中涉及的主要知识点。 ...
基于STM32F103单片机设计 USB转CANBUS应用接口板硬件原理图+PCB)+STM32单片机软件源码.zip
03-13
总的来说,这个项目涵盖了嵌入式系统设计的关键环节:硬件设计原理图PCB)、微控制器编程以及通信协议的实现。通过学习这个设计,开发者可以深入了解STM32单片机的使用,USB与CAN总线的接口设计,以及软件源码的...
STM32F103C8T6+NRF24L01+MPU6050设计空中鼠标AD原理图+PCB+STM32单片机软件源码.zip
06-01
STM32F103C8T6+NRF24L01+MPU6050设计空中鼠标AD原理图+PCB+STM32单片机软件源码,硬件采用ALTIUM软件设计,2款硬件,分别为空中鼠标端和空中鼠标USB端,包括原理图PCB文件,软件也为2版工程源码文件,为分别对应...
毕业设计STM32衣柜系统
2301_79003325的博客
07-25 966
本次衣柜系统设计使用STM32单片机作为控制中心,系统通过DHT11进行温湿度检测,通过MQ-2进行烟雾浓度检测,通过DS1302进行时钟检测,检测到的数据通过OLED显示,通过ESP8266模块进行数据的上传和下发,通过继电器控制风扇进行降温、开关门和除湿,通过蜂鸣器报警。
毕设分享 基于STM32毕业设计题目项目汇总 - 100例
DD学长的博客
02-07 4120
以下是学长亲手整理的STM32相关的毕业设计选题,都是经过学长精心审核的题目,适合作为毕设,难度不高,工作量达标,对毕设有任何疑问都可以问学长哦!相对容易工作量达标题目新颖,含创新点🧿。
基于stm32智能蓝牙电子秤设计(源码+原理图等)
07-23
### 回答1: 基于STM32智能蓝牙电子秤设计源码原理图等是一个将传统电子秤与蓝牙技术相结合的项目。该项目主要包括硬件设计和软件开发两个方面。 在硬件设计方面,项目采用STM32微控制器作为主控芯片,配合其它硬件模块,如称重传感器、LCD屏幕、蓝牙模块等,构成了完整的电子秤设备。在原理图设计上,需要根据硬件模块的特性和接口要求进行布线和连接,同时考虑到电源管理和保护等关键问题。在PCB设计中,需要根据原理图进行布板,使得各个模块可以良好地连接并协同工作。 在软件开发方面,项目主要涉及到嵌入式软件的编写和调试。首先,需要根据硬件设计的接口要求,编写STM32的驱动代码,使得其可以正确地控制和处理各个硬件模块。其次,需要编写相应的算法和逻辑,将传感器采集到的数据转化为实际的重量值,并通过LCD屏幕进行显示。最后,需要编写蓝牙通信的相关代码,将电子秤的数据通过蓝牙无线传输给其他设备。 总结起来,基于STM32智能蓝牙电子秤设计涉及到硬件设计和软件开发两个方面。在硬件设计中,需要考虑模块的连接和布线,保证各个硬件模块的正常工作。在软件开发中,需要编写嵌入式软件的驱动代码、算法以及蓝牙通信代码。这样才能实现电子秤的功能,使其能够通过蓝牙无线传输数据给其他设备,实现智能化的功能。 ### 回答2: 基于STM32智能蓝牙电子秤是一种集蓝牙功能和电子称功能于一体的智能设备。该设备基于STM32单片机进行设计和开发,结合了电子秤的重量测量功能和蓝牙通信功能,能够通过蓝牙将测得的重量数据传输到智能手机、平板电脑等移动设备上进行显示和存储。 在硬件设计方面,智能蓝牙电子秤采用了STM32系列单片机作为主控芯片,并使用AD模数转换器来进行重量数据的采集。设计中需要考虑到秤台的材质和结构,选用合适的传感器来实现重量的测量,同时还需要一个合适的显示模块来显示测量结果。蓝牙模块负责与外部设备进行无线通信,并传输测量数据。 在软件开发方面,首先需要编写固件程序来控制STM32的各个模块和进行重量数据的采集和处理。可以利用STM32提供的开发工具和库函数进行开发,编写相应的驱动程序和算法。同时,需要编写蓝牙通信相关的代码,实现与移动设备的连接和数据传输。在移动设备上,可以开发相应的应用程序,接收和解析蓝牙传输的数据,并进行显示和存储。 整个设计过程中,需要进行电路设计PCB布局及焊接、固件编程、调试等多个环节。同时,也需要进行严格的测试和验证,确保设备的准确和可靠性。最终,设计完成后,还可以根据需求进行功能扩展,如添加温湿度传感器、数据存储等功能模块,实现更加智能化的应用。 总的来说,基于STM32智能蓝牙电子秤设计需要一定的硬件和软件开发能力,同时需要充分考虑到电子秤和蓝牙通信的特性和要求,以确保设计的稳定性和可用性。 ### 回答3: 基于STM32智能蓝牙电子秤设计是一种使用STM32微控制器开发的电子秤产品。该设计通过集成蓝牙模块,可以方便地将测量结果传输到移动设备,实现了智能化的功能。 在这个设计中,首先需要进行硬件设计和连接。设计采用STM32微控制器作为处理器,利用其丰富的接口和功能,可以实现测量传感器的数据采集、数据处理和控制功能。除此之外,还需要添加蓝牙模块以实现与移动设备的通信。根据具体需求,还可以添加LCD显示屏、按键、背光等外设。 其次,需要编写嵌入式软件程序。在程序中,需要使用相应的编程语言,如C语言,来编写各种功能的代码。核心代码包括测量传感器的数据采集和处理、蓝牙模块的通信和数据传输等等。此外,还需要为用户提供界面友好的操作界面,使用户可以方便地操作和查看测量结果。 最后,整个设计需要进行测试和调试。测试应包括硬件和软件的功能测试,确保电子秤的测量结果准确可靠,并且蓝牙通信功能正常。同时,还需要进行性能测试,以确保电子秤在长时间使用和不同环境下的稳定性和可靠性。 总结而言,基于STM32智能蓝牙电子秤设计是一种通过利用STM32微控制器和蓝牙模块实现的电子秤产品。通过硬件设计、嵌入式软件编程和测试调试等过程,可以实现测量结果的即时传输和智能化操作,为用户提供更加便捷和智能的使用体验。
写文章

热门文章

  • ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境 9200
  • 在windows 11本地搭建RAG数据查询的AI大模型环境 3393
  • AI赋能自媒体进化:利用Coze打造微信公众号智能知识问答客服bot 2282
  • Cursor 使用技巧指南 1538
  • 探索AI大语言模型Prompt(提示词)的力量 1292

分类专栏

  • 人工智能 1篇

最新评论

  • ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境

    qq_45697532: 建议配置config.json里关于gpt4的模型,我删除默认的两个gpt4模型,成功了

  • ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境

    追风少年+1: 文章详细介绍了整合大模型与工作流的优势,如降低任务壁垒、提升效率和确保一致性。通过清晰步骤指导,教你如何在Windows环境下,利用Docker Desktop和WSL2安装Ollama,本地部署模型,以及在Docker中设置fastGPT。最后,还手把手教你配置oneapi和fastGPT,用本地大模型llama3打造聊天或智能体,很实用。

  • ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境

    jackly_: [Error] 2024-07-24 09:59:16 sse error: do_request_failed do request failed: Post "http://host.docker.internal:6008/v1/embeddings": EOF (request id: 2024072409591632521542312001222),请问这个fastgpt报错应该怎么解决呢

  • ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境

    小火狐: 我用应用接口调用返回对话接口报错,然后查看ollama后台发现请求的接口是这个 ollama[390244]: [GIN] 2024/07/23 - 16:02:42 | 200 | 678.047364ms | 172.19.0.6 | POST "/api/chat",, api/chat 这个接口不对,在哪里可以修改嘛

  • ollama + fastgpt搭建本地私有AI大模型智能体工作流(AI Agent Flow)-- windows环境

    小火狐: w'y'po ollama[390244]: [GIN] 2024/07/23 - 16:02:42 | 200 | 678.047364ms | 172.19.0.6 | POST "/api/chat",

大家在看

  • 分布式事务解决方案(三):方案类型 634
  • sql-labs靶场第二十一关测试报告 307
  • NO J-Link found 的一种解决方法
  • 香港大带宽服务器和普通服务器的区别?
  • 自主可控的操作系统--天脉

最新文章

  • Dify工作流实现OpenAI O1的替代方案随想
  • Cursor 使用技巧指南
  • OpenAI的o1模型:迈向超级智能的新里程碑
2024年12篇

目录

目录

评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

玻璃钢生产厂家菏泽小区玻璃钢雕塑定做甘肃卡通造型玻璃钢雕塑邵阳玻璃钢牛雕塑玻璃钢花盆改造厨房尉氏玻璃钢雕塑设计河北周年庆典商场美陈售价镜面校园玻璃钢雕塑制作厂家商场中庭美陈吊挂效果商场虎年新年美陈镇平玻璃钢雕塑定制定做小型玻璃钢花盆卡通雕塑玻璃钢专业厂家九江个性化玻璃钢雕塑上街玻璃钢雕塑定制沧州江西玻璃钢造型雕塑钦州玻璃钢卡通雕塑玻璃钢雕塑天壶摆件深圳玻璃钢雕塑订做价格玻璃钢雕塑色彩榆树玻璃钢雕塑工程报价河北周年庆典商场美陈厂家供应玻璃钢抽象动物雕塑开封制作玻璃钢雕塑厂价格表郑州玻璃钢景观雕塑通道商场美陈批发价锦州玻璃钢形象雕塑无锡玻璃钢雕塑咨询电话惠州玻璃钢花盆厂家吕梁玻璃钢雕塑定制深圳大象玻璃钢卡通雕塑香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声单亲妈妈陷入热恋 14岁儿子报警汪小菲曝离婚始末遭遇山火的松茸之乡雅江山火三名扑火人员牺牲系谣言何赛飞追着代拍打萧美琴窜访捷克 外交部回应卫健委通报少年有偿捐血浆16次猝死手机成瘾是影响睡眠质量重要因素高校汽车撞人致3死16伤 司机系学生315晚会后胖东来又人满为患了小米汽车超级工厂正式揭幕中国拥有亿元资产的家庭达13.3万户周杰伦一审败诉网易男孩8年未见母亲被告知被遗忘许家印被限制高消费饲养员用铁锨驱打大熊猫被辞退男子被猫抓伤后确诊“猫抓病”特朗普无法缴纳4.54亿美元罚金倪萍分享减重40斤方法联合利华开始重组张家界的山上“长”满了韩国人?张立群任西安交通大学校长杨倩无缘巴黎奥运“重生之我在北大当嫡校长”黑马情侣提车了专访95后高颜值猪保姆考生莫言也上北大硕士复试名单了网友洛杉矶偶遇贾玲专家建议不必谈骨泥色变沉迷短剧的人就像掉进了杀猪盘奥巴马现身唐宁街 黑色着装引猜测七年后宇文玥被薅头发捞上岸事业单位女子向同事水杯投不明物质凯特王妃现身!外出购物视频曝光河南驻马店通报西平中学跳楼事件王树国卸任西安交大校长 师生送别恒大被罚41.75亿到底怎么缴男子被流浪猫绊倒 投喂者赔24万房客欠租失踪 房东直发愁西双版纳热带植物园回应蜉蝣大爆发钱人豪晒法院裁定实锤抄袭外国人感慨凌晨的中国很安全胖东来员工每周单休无小长假白宫:哈马斯三号人物被杀测试车高速逃费 小米:已补缴老人退休金被冒领16年 金额超20万

玻璃钢生产厂家 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化