清华系面壁智能给大模型接入16000+真实API,开源ToolLLM效果直逼ChatGPT

人工智能 新闻
近日,李学龙教授团队在大模型驱动多智能体协作方面取得重大进展,实现了大模型对无人机集群、机器狗、机械臂的真机协同控制。该成果展示了大模型在智能体控制方面的能力,也为智能无人系统的研究提供了无限可能。

在人工智能领域,大模型控制智能体是大势所趋。智能体赋予大模型物理实体,使其具备与真实物理世界感知交互的能力。同时,借助于大模型,智能体能够获得更强大的感知、决策和执行能力,使其具备更高的自主性和适应性。这项研究能够推动机器人和自动化行业的发展,从而创造出更多的就业机会和经济增长。 

在此背景下,李学龙团队提出了一种大模型驱动的异构智能体协同控制算法框架,利用大模型调度多种智能体自主协作,实现了「机器人总动员」。

所提框架可将一个跨场景、跨智能体的复杂任务,通过语义任务解析拆分成异构智能体协同执行的多个子任务,然后通过无人机集群、机器狗、机械臂的联合控制,共同完成指定任务,具备高层语义理解能力、自身技能认知能力和复杂任务执行能力。

懂所思、知所能、行所意,是大模型驱动多智能体协作的主要能力。

懂所思:高层语义理解能力

如何充分发挥大模型的语义理解能力,让无人机、机器狗、机械臂等人造智能体能够根据输入的自然语言分工合作,是智能体在现实场景中执行复杂任务的前提条件。

针对该问题,团队利用国产大模型作为语义理解底座,以无人机集群、机器狗、机械臂三种异构智能体作为协同控制平台,设计了融合环境信息与自身状态的多模态大模型交互框架,实现了对任务理解、硬件控制、协调合作等复杂需求的语义解析。

知所能:自身技能认知能力

智能体的行为能力易受周围环境、自身机械结构等限制因素的影响。如何在多变的外界环境下让智能体准确地认知当前自身的行为能力,是多种智能体协同的关键环节。

为了实现这一目标,团队提出了异构智能体通用中层技能认知算法,实现了异构智能体集群的精细协同控制。在此基础上,智能体通过自主环境感知、自身状态建模、协同运动规划,自适应地调整多种智能体的技能执行。

行所意:复杂任务执行能力

为了完成复杂任务目标,异构智能体协作需要依据子任务间的依赖关系和环境约束,设计安全合理的子任务执行次序和方式。

针对该问题,团队设计了多智能体闭环反馈的任务协作机制,实现了异构智能体在任务执行层面的自主协同。

在多种智能体集群协作过程中,智能体向任务语义解析模块报告子任务执行状态,形成任务分配与执行动态闭环,实现任务目标导向的智能体高效协同。

图片

该成果是大模型算法和智能体硬件交叉的创新性研究,实现了用更自然、更直观的方式进行多种智能体集群控制,降低了人机交互的门槛。

同时,该研究也将促进异构智能体之间协作的自主性和流畅度,对人工智能在灾难救援、工业生产等复杂场景下的灵活应用具有重要意义。

研究团队

图片

李学龙教授团队主要开展临地安防(Vicinagearth Security)技术体系的人才培养、科研与工程,依托两个理论:「信容(Information Capacity,信息与数据的比值)」与「正激励噪声(Positive-incentive Noise,Pi/π-Noise,有用的噪声,通过增加噪声或利用噪声让任务做得更好)」,面向低空安防、水下安防、跨域安防,进行多模态认知计算、跨域遥感、稳定探测、涉水光学、群体智能决策、相干光探测的技术创新,服务于高水平人才培养和国家重大战略需求。

责任编辑:张燕妮 来源: 新智元
相关推荐

2023-08-02 13:50:06

2023-07-03 16:27:24

模型AI

2023-10-17 12:33:27

AI模型

2023-05-15 15:08:34

2023-08-22 14:18:49

2023-03-15 09:36:14

模型

2023-06-06 07:03:02

2023-04-21 15:54:46

AI开源

2024-02-05 13:24:51

GPUNLP芯片

2024-04-19 09:17:33

AI模型

2024-02-27 09:14:01

AI模型

2023-05-18 17:28:31

开源人工智能

2023-08-18 14:34:00

研究模型

2023-03-14 22:19:36

PaLMOpenAI

2024-04-19 14:52:13

MetaGPT-4模型

2023-10-30 09:42:29

自动驾驶模型

2024-01-10 17:25:00

AI数据

2023-03-28 10:09:56

ChatGPT开源库漏洞

2024-04-23 08:16:21

点赞
收藏

51CTO技术栈公众号