AI 工具调用
工作原理
- 大语言模型必须具备
"Function Call"
功能。- 你可以随意编写一个方法,但关键在于让大型模型了解哪些方法是可以做为工具使用的。
- 要让模型知道有哪些方法可以做为工具使用,需要按照模型熟悉的数据格式来提供信息,具体如下:
system_info = {"role": "system", "content": "尽可能回答以下问题。你可以利用以下工具:", "tools": tools}
- 结合用户提问的提示词,由大型模型来判断并决定使用哪个方法以及为哪些参数进行赋值。
- 模型会指导你使用哪些工具方法来获取所需数据。
- 利用Python的动态执行函数功能,执行指定的工具方法。
- 将工具方法返回的信息追加到历史记录中,并返回给模型,以供后续推理任务使用。
必要条件
大语言模型本身必须要支持这样的能力
适用场景
让大语言模型通过
模型自身对提示
的理解,自主选择调用合理的函数来满足提问需求
应用开发
关注后解锁