百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

大模型应用设计思考:大模型+bi,TFlowAI如何让大模型来检索数据

haoteby 2024-12-29 03:21 3 浏览

TFlowAI提出了一种基于大模型的解决方案,通过理解业务、查找数据、分析处理的过程编排,实现模型自主的基于数据库的数据查询与分析。这种方法不仅降低了开发成本,还提升了使用体验。

在B端的助手agent中,有一个重要的场景既数据的分析!那如何让模型能够理解产品的数据,理解数据结构、理解业务,准确的去数据库中查找数据,并给他客户展示呢?我们来看TFlowAI给出的解决方案

一、用户现状场景

如客服主管的Agent助手,只需一句话,Ai帮助用户快速找到想要的数据: 如:

  • 今天客服接待的满意度咋样?
  • 用户投诉最多的问题是那些?
  • 从官网来的咨询量有多少?满意度怎样?

这些数据的查找、获取在原有产品设计中,有2个体验不好的点:

  1. 开发成本:新统计维度、数据项的增加,需要开发进行计算&编排
  2. 使用体验:数据分析维度,查看维度等等都受制于产品界面的限制;

那是否借助大模型的理解能力,来实现模型自主的基于数据库的数据查询与分析,生成报表,从而摆脱通过系统开发的方式实现数据的统计与分析。

二、解决方法

解决方法的设想:参考rag的面向过程编排的方法,将模型处理理解业务,查找数据,分析处理的过程通过workflow得形式编排,用大模型进行串联处理。

1. rag的流程

1)流程

2)流程说明

  1. 用户提问向量化,index检索相似片段
  2. 通过提示词+用户提问+check片段 打包发给大模型
  3. 模型进行解答

2. 大模型+BI的过程编排流程

1)流程设计

整个过程会经历问题的反写,表结构的理解,SQL的生成,SQL的执行,数据的可视化五个阶段。依次讲解下每个环节做什么。

(1)问题反写:让大模型理解query,通过提示词,让模型理解意图,当前产品有关的数据维度解释说明,计算规则等。从而将用户的需求完整的描述处理。

  • 用户提问:官网线索转换了是多少?
  • 模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数

(2)理解表结构:让模型知道从那张表中获取相关的数据。通过补充表+字段的方法,让模型知道数据库中有哪些表,从而推测要用到哪些表

  • 比如表结构理解输出:模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数,要统计从线索表中筛选来源为“官网”的线索数,统计从成交订单中筛选来源为“官网”的订单数

(3)SQL生成:接住大模型或者txt2SQL等模型,将文本转为可执行的SQL

(4)执行SQL:执行上一步生成的SQL,获取其结果

(5)数据可视化:借助绘图工具,绘制趋势图等图表。同时模型对于数据进行简单的分析说明

(6)输出:对用户输出可视化的内容

整个过程的关键环节在于问题的反写与表结构的理解,需要在这个环节中用提示词给模型正确的引导,让模型能够理解清楚业务,以及用户的意图、计算逻辑。同时对于喂给大模型的内容,进行选择性的拼接。

同时也可以考虑增加娇艳环节,降低理解的出错率。

3. 进阶:融入Agent

更深度的应用,可以将大模型+bi的环节,变成Action事件,嵌入到已有的Agent当中

三、优势与问题

1. 优势

  • 开发成本低:只需要数据库增加字段,提示词增加说明,即可满足用户对于数据分析的数据,开发成本大幅降低;
  • 使用体验:基于模型的理解去分析,查找数据、分析数据,实时绘图,摆脱原有数据报表的限制,可以自定义进行深度的分析。

2. 问题

  • 复杂数据的处理不确定,可能需要借助增加过程、借助agent等提高模型对复杂数据的处理;
  • 存在幻觉、异常数据排查难度较大,过程黑盒无法排查!

本文由 @易俊源 原创发布于人人都是产品经理。未经许可,禁止转载

题图来自 Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

相关推荐

单点登录(SSO)解决方案介绍(单点登录概念)

一、单点登录的介绍单点登录(SingleSignOn),简称为SSO,是目前比较流行的企业业务整合的解决方案之一。SSO的定义是在多个应用系统中,用户只需要登录一次就可以访问所有相互信任的应用系...

系统登录的三种方式,哪一种更安全?

登录是一个高频的动作,笔者抓住这一个小点,分析了系统登录的几种方式和对应的场景。今天谈谈登录。登录即用户输入用户名和密码登录进系统中。B端系统,对于登录的业务场景有两种(可能不止,目前遇到过这两种):...

到底什么是单点登录(SSO)?(什么叫做单点登录)

什么是单点登录?单点登录(SingleSign-On,简称SSO)是一种集中式的身份验证和授权机制,用户只需在一处输入一次凭证(例如用户名和密码)就可以访问多个相关但独立的软件系统。在数字化时代,...

5年稳如老狗的单点登录系统,到底是怎么搞出来的?

说到单点登录(SingleSign-On,简称SSO),大家的第一反应可能是——啊不就是登录一次,能到处串门儿嘛?别说,还真差不多,就是这么个意思。但真要搭一套好用、耐造、还能扛住公司里各种奇奇怪...

这些负载均衡都解决哪些问题?服务、网关、NGINX?

在微服务项目中,有服务的负载均衡、网关的负载均衡、Nginx的负载均衡,这几个负载均衡分别用来解决什么问题呢?一、服务的负载均衡先抛出一个问题:...

Nginx负载均衡最全详解(4大算法原理机制)

Nginx在大型网站架构很重要,也是大厂重点考察方向,今天我就重点来详解Nginx负载均衡@mikechen本篇已收于mikechen原创超30万字《阿里架构师进阶专题合集》里面。Nginx负载均衡N...

负载均衡 Nginx Session 一致性(nginx 负载均衡 会话保持)

HTTPS请求跳转...

监控Oracle Cloud负载均衡器:Applications Manager释放最佳性能

设想你正在运营一个受欢迎的在线学习平台,在考试前的高峰期,平台流量激增。全球的学生同时登录,观看视频、提交作业和参加测试。如果OracleCloud负载均衡器不能高效地分配流量,或者后端服务器难...

Nginx负载均衡:nginx.conf配置文件说明!

大家好,欢迎来到程序视点!我是你们的老朋友.小二!在此记录下Nginx服务器nginx.conf负载均衡的配置文件说明,部分注释收集与网络.关于nginx.conf基本的配置,请查看上一篇文章!Ng...

Java高可用系统架构中的负载均衡策略

Java高可用系统架构中的负载均衡策略在现代的分布式系统中,负载均衡策略是构建高可用系统的基石。Java开发者需要深刻理解这些策略,以便打造稳定且高效的系统。接下来,让我们一起揭开负载均衡的神秘面纱。...

深入对比Nginx、LVS和HAProxy,选择最合适负载均衡方案!

关注...

Spring Boot3 客户端负载均衡全解析:从原理到实战

在当今互联网大厂后端技术开发的激烈竞争环境中,构建高效、稳定的微服务架构是核心诉求。其中,SpringBoot3作为热门开发框架,其客户端负载均衡功能对于提升系统性能、保障服务稳定性起着关键作用。...

MySql高可用集群MySQL Router负载均衡读写分离

名词解释MGR:MysqlGroupReplication组复制,多台MySQL服务器在同一组中会自动保持同步状态,当某台服务器故障时,整个复制组依然可以保持正常并对外提供服务。...

性能测试之tomcat+nginx负载均衡(nginx tomcat)

nginxtomcat配置准备工作:两个tomcat执行命令cp-rapache-tomcat-8.5.56apache-tomcat-8.5.56_2修改被复制的tomcat2下con...

win10/11双网卡链路聚合叠加负载均衡提升网速解决网卡网速瓶颈!

双网卡链路聚合一种网络配置技术,通过将多个物理网卡绑定在一起,形成一个逻辑上的网络接口,以提高网络的可靠性、可用性和性能。这种技术通常用于服务器和网络设备中,以实现负载均衡、冗余和高可用性。本机环境:...