百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

大模型应用设计思考:大模型+bi,TFlowAI如何让大模型来检索数据

haoteby 2024-12-29 03:21 10 浏览

TFlowAI提出了一种基于大模型的解决方案,通过理解业务、查找数据、分析处理的过程编排,实现模型自主的基于数据库的数据查询与分析。这种方法不仅降低了开发成本,还提升了使用体验。

在B端的助手agent中,有一个重要的场景既数据的分析!那如何让模型能够理解产品的数据,理解数据结构、理解业务,准确的去数据库中查找数据,并给他客户展示呢?我们来看TFlowAI给出的解决方案

一、用户现状场景

如客服主管的Agent助手,只需一句话,Ai帮助用户快速找到想要的数据: 如:

  • 今天客服接待的满意度咋样?
  • 用户投诉最多的问题是那些?
  • 从官网来的咨询量有多少?满意度怎样?

这些数据的查找、获取在原有产品设计中,有2个体验不好的点:

  1. 开发成本:新统计维度、数据项的增加,需要开发进行计算&编排
  2. 使用体验:数据分析维度,查看维度等等都受制于产品界面的限制;

那是否借助大模型的理解能力,来实现模型自主的基于数据库的数据查询与分析,生成报表,从而摆脱通过系统开发的方式实现数据的统计与分析。

二、解决方法

解决方法的设想:参考rag的面向过程编排的方法,将模型处理理解业务,查找数据,分析处理的过程通过workflow得形式编排,用大模型进行串联处理。

1. rag的流程

1)流程

2)流程说明

  1. 用户提问向量化,index检索相似片段
  2. 通过提示词+用户提问+check片段 打包发给大模型
  3. 模型进行解答

2. 大模型+BI的过程编排流程

1)流程设计

整个过程会经历问题的反写,表结构的理解,SQL的生成,SQL的执行,数据的可视化五个阶段。依次讲解下每个环节做什么。

(1)问题反写:让大模型理解query,通过提示词,让模型理解意图,当前产品有关的数据维度解释说明,计算规则等。从而将用户的需求完整的描述处理。

  • 用户提问:官网线索转换了是多少?
  • 模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数

(2)理解表结构:让模型知道从那张表中获取相关的数据。通过补充表+字段的方法,让模型知道数据库中有哪些表,从而推测要用到哪些表

  • 比如表结构理解输出:模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数,要统计从线索表中筛选来源为“官网”的线索数,统计从成交订单中筛选来源为“官网”的订单数

(3)SQL生成:接住大模型或者txt2SQL等模型,将文本转为可执行的SQL

(4)执行SQL:执行上一步生成的SQL,获取其结果

(5)数据可视化:借助绘图工具,绘制趋势图等图表。同时模型对于数据进行简单的分析说明

(6)输出:对用户输出可视化的内容

整个过程的关键环节在于问题的反写与表结构的理解,需要在这个环节中用提示词给模型正确的引导,让模型能够理解清楚业务,以及用户的意图、计算逻辑。同时对于喂给大模型的内容,进行选择性的拼接。

同时也可以考虑增加娇艳环节,降低理解的出错率。

3. 进阶:融入Agent

更深度的应用,可以将大模型+bi的环节,变成Action事件,嵌入到已有的Agent当中

三、优势与问题

1. 优势

  • 开发成本低:只需要数据库增加字段,提示词增加说明,即可满足用户对于数据分析的数据,开发成本大幅降低;
  • 使用体验:基于模型的理解去分析,查找数据、分析数据,实时绘图,摆脱原有数据报表的限制,可以自定义进行深度的分析。

2. 问题

  • 复杂数据的处理不确定,可能需要借助增加过程、借助agent等提高模型对复杂数据的处理;
  • 存在幻觉、异常数据排查难度较大,过程黑盒无法排查!

本文由 @易俊源 原创发布于人人都是产品经理。未经许可,禁止转载

题图来自 Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

相关推荐

一日一技:用Python程序将十进制转换为二进制

用Python程序将十进制转换为二进制通过将数字连续除以2并以相反顺序打印其余部分,将十进制数转换为二进制。在下面的程序中,我们将学习使用递归函数将十进制数转换为二进制数,代码如下:...

十进制转化成二进制你会吗?#数学思维

六年级奥赛起跑线:抽屉原理揭秘。同学们好,我是你们的奥耀老师。今天一起来学习奥赛起跑线第三讲二进制计数法。例一:把十进制五十三化成二进制数是多少?首先十进制就是满十进一,二进制就是满二进一。二进制每个...

二进制、十进制、八进制和十六进制,它们之间是如何转换的?

在学习进制时总会遇到多种进制转换的时候,学会它们之间的转换方法也是必须的,这里分享一下几种进制之间转换的方法,也分享两个好用的转换工具,使用它们能够大幅度的提升你的办公和学习效率,感兴趣的小伙伴记得点...

c语言-2进制转10进制_c语言 二进制转十进制

#include<stdio.h>intmain(){charch;inta=0;...

二进制、八进制、十进制和十六进制数制转换

一、数制1、什么是数制数制是计数进位的简称。也就是由低位向高位进位计数的方法。2、常用数制计算机中常用的数制有二进制、八进制、十进制和十六进制。...

二进制、十进制、八进制、十六进制间的相互转换函数

二进制、十进制、八进制、十六进制间的相互转换函数1、输入任意一个十进制的整数,将其分别转换为二进制、八进制、十六进制。2、程序代码如下:#include<iostream>usingna...

二进制、八进制、十进制和十六进制等常用数制及其相互转换

从大学开始系统的接触计算机专业,到现在已经过去十几年了,今天整理一下基础的进制转换,希望给还在上高中的表妹一个入门的引导,早日熟悉这个行业。一、二进制、八进制、十进制和十六进制是如何定义的?二进制是B...

二进制如何转换成十进制?_二进制如何转换成十进制例子图解

随着社会的发展,电器维修由继电器时代逐渐被PLC,变频器,触摸屏等工控时代所替代,特别是plc编程,其数据逻辑往往涉及到数制二进制,那么二进制到底是什么呢?它和十进制又有什么区别和联系呢?下面和朋友们...

二进制与十进制的相互转换_二进制和十进制之间转换

很多同学在刚开始接触计算机语言的时候,都会了解计算机的世界里面大多都是二进制来表达现实世界的任何事物的。当然现实世界的事务有很多很多,就拿最简单的数字,我们经常看到的数字大多都是十进制的形式,例如:我...

十进制如何转换为二进制,二进制如何转换为十进制

用十进制除以2,除的断的,商用0表示;除不断的,商用1表示余0时结束假如十进制用X表示,用十进制除以2,即x/2除以2后为整数的(除的断的),商用0表示;除以2除不断的,商用1表示除完后的商0或1...

十进制数如何转换为二进制数_十进制数如何转换为二进制数举例说明

我们经常听到十进制数和二进制数,电脑中也经常使用二进制数来进行计算,但是很多人却不清楚十进制数和二进制数是怎样进行转换的,下面就来看看,十进制数转换为二进制数的方法。正整数转二进制...

二进制转化为十进制,你会做吗?一起来试试吧

今天孩子问把二进制表示的110101改写成十进制数怎么做呀?,“二进制”简单来说就是“满二进一”,只用0和1共两个数字表示,同理我们平常接触到的“十进制”是“满十进一”,只用0-9共十个数字表示。如果...

Mac终于能正常打游戏了!苹果正逐渐淘汰Rosetta转译

Mac玩家苦转译久矣!WWDC2025苹果正式宣判Rosetta死刑,原生游戏时代终于杀到。Metal4光追和AI插帧技术直接掀桌,连Steam都连夜扛着ARM架构投诚了。看到《赛博朋克2077》...

怎么把视频的声音提出来转为音频?音频提取,11款工具实测搞定

想把视频里的声音单独保存为音频文件(MP3/AAC/WAV/FLAC)用于配音、播客、听课或二次剪辑?本文挑出10款常用工具,给出实测可复现的操作步骤、优缺点和场景推荐。1)转换猫mp3转换器(操作门...

6个mp4格式转换器测评:转换速度与质量并存!

MP4视频格式具有兼容性强、视频画质高清、文件体积较小、支持多种编码等特点,适用于网络媒体传播。如果大家想要将非MP4格式的视频转换成MP4的视频格式的话,可以使用MP4格式转换器更换格式。本文分别从...