AI工作流调用问题

Blade 未结 1 16

一、该问题的重现步骤是什么?

1.  在flow的文档中有这样一句

**注意**: 由于流程内部已设定了执行的大模型,故此处 `model` 名称仅做调用展示,不会影响到流程内部的设置。

2. 但事实上代码中: 

!.isEnabled;
= .;
== .warn, ;
    ;
!..name.equalsIgnoreCase.getType;
!= && .getModel!= = .getChatModel.getModel;
    != ;
    ;

以及配置文件application.yml中

      #是否启用大模型增强
      enabled: true

导致后续调用中根据传入的模型ID调用,去调用了实际不存在的模型,该文档说明有问题


二、你期待的结果是什么?实际看到的又是什么?

需要回复: 是否是文档说明的问题。
当前的请求能够复用openai的langchain4j的实现,但是返回是冲突的,
官方希望后续能够提供一个能够直接调用的sdk出来或者考虑与langchain4j的调用兼容


三、你正在使用的是什么产品,什么版本?在什么操作系统上?

blade-ai: 4.8.0,  windows


四、请提供详细的错误堆栈信息,这很重要。


五、若有更多详细信息,请在下面提供。

1条回答
  • 文档的意思是外部设定的model不会影响到内部流程节点预设好的大模型,比如你的工作流编排,里面有llm节点,llm节点设置了model,那么外部的model不会替换掉节点的model。


    但是流程编排结束后,需要进行输出,那么这个最终做总结输出,用的就是调用接口时的model来的,这个model需要在【大模型配置】里配置好。


    后续版本会优化下文档说明,把具体调用步骤截图展示出来。

    0 讨论(0)
提交回复