您现在的位置是：首页 快讯快讯

科学家们开发了一种人工智能监控代理，用于检测并阻止有害输出

网络 2023-11-21 08:10:11 快讯已有人查阅

导读由人工智能公司AutoGPT、东北大学和微软研究团队的研究人员共同开发了一种工具，用于监控大型语言模型（LLMs）的潜在有害输出并阻止其执行。该工具在一份名为“在野外安全测试语言模型代理”的预印研究论文中进行了描述。根据研究，该代理足够灵活，可以监控现有的LLMs，并阻止潜在的有害输出，如代码攻击，防患于未然。

由人工智能公司AutoGPT、东北大学和微软研究团队的研究人员共同开发了一种工具，用于监控大型语言模型（LLMs）的潜在有害输出并阻止其执行。该工具在一份名为“在野外安全测试语言模型代理”的预印研究论文中进行了描述。根据研究，该代理足够灵活，可以监控现有的LLMs，并阻止潜在的有害输出，如代码攻击，防患于未然。