现状

AI的长链记忆，目前是各大模型公司,一个比较棘手的问题,也是一个非常热门的讨论点。

我在长时间,高强度使用了各个代码助手,模型以后,对于长链记忆,提一些不一样的思考和角度.

长链记忆的现象

我在过去的一段时间,在大范围,高强度的使用各种代码助手和模型,在使用过程中就发现如下问题

1. 在某一个需求占用较多的上下文以后,原本AI的输出是中文,突然会在某一个对话返回后变成英文.
2. 目前的AI助手都带有记忆功能,但是在多次交互以后,特别是一个复杂的功能,执行到一半,后续还有步骤没有执行完,但是当前执行的步骤已经出问题,如果这个时候用多轮对话解决当前问题,AI很容易就忘记原来的步骤.
3. 在复杂的场景下,假设最开始已经提示AI注意 前后端请求采用POST+JSON的方式,而AI在执行过程中,如果页面生成不是在一起,后面的页面就会出现Restful的调用方式.

目前的现状

现在说到软件就是AI.

软件行业中一直存在一个无所不能的位置.曾几何时,这个位置上坐着的是SOA,后面又换成了微服务,中台.当然,也曾经坐过区块链,web3.0等等.

只不过现在这个位置上坐着的,是AI而已.

笔者正好最近稍微研究了一下,谈谈感受.

AI的问题

AI的性能

到目前为止,人类最牛逼的AI模型,和AI交互的,都是文字.和所谓的大模型,从算法和本质上看,也是一个猜字游戏.

那么好了,因为AI只能处理文字,所以AI的性能和传统应用的性能差距不是一般的大.如果把AI的输入和输出,看成是一个完整的交互的话,那么这个输入和输出的性能和传统的计算机软件相比,是要被喷死的.传统软件的输入输出性能都是按照毫秒为单位的,而AI的输入输出是按照秒为单位的.在不看数字,只看单位就相差1000倍.

目前的现状

现在说到软件就是AI.

软件行业中一直存在一个无所不能的位置.曾几何时,这个位置上坐着的是SOA,后面又换成了微服务,中台.当然,也曾经坐过区块链,web3.0等等.

只不过现在这个位置上坐着的,是AI而已.

笔者正好最近稍微研究了一下,谈谈感受.

AI的问题

AI的性能

到目前为止,人类最牛逼的AI模型,和AI交互的,都是文字.和所谓的大模型,从算法和本质上看,也是一个猜字游戏.

那么好了,因为AI只能处理文字,所以AI的性能和传统应用的性能差距不是一般的大.如果把AI的输入和输出,看成是一个完整的交互的话,那么这个输入和输出的性能和传统的计算机软件相比,是要被喷死的.传统软件的输入输出性能都是按照毫秒为单位的,而AI的输入输出是按照秒为单位的.在不看数字,只看单位就相差1000倍.