AI 工具调用

工作原理

  1. 大语言模型必须具备"Function Call"功能。
  2. 你可以随意编写一个方法,但关键在于让大型模型了解哪些方法是可以做为工具使用的。
  3. 要让模型知道有哪些方法可以做为工具使用,需要按照模型熟悉的数据格式来提供信息,具体如下:
    • system_info = {"role": "system", "content": "尽可能回答以下问题。你可以利用以下工具:", "tools": tools}
  4. 结合用户提问的提示词,由大型模型来判断并决定使用哪个方法以及为哪些参数进行赋值。
  5. 模型会指导你使用哪些工具方法来获取所需数据。
  6. 利用Python的动态执行函数功能,执行指定的工具方法。
  7. 将工具方法返回的信息追加到历史记录中,并返回给模型,以供后续推理任务使用。

必要条件

大语言模型本身必须要支持这样的能力

适用场景

让大语言模型通过模型自身对提示的理解,自主选择调用合理的函数来满足提问需求

应用开发

关注后解锁

分类: 人工智能

毛巳煜

高级软件开发全栈架构师