Ferramentas para agir

Um modelo de linguagem só produz texto. Para pesquisar na web, fazer um cálculo exato, ler um ficheiro ou enviar um e-mail, apoia-se em ferramentas. O princípio é simples: o modelo escreve um pedido de chamada de ferramenta, com os respetivos parâmetros, o sistema executa a ferramenta e coloca o resultado no contexto, e depois o modelo continua.

Em 2022, a abordagem ReAct mostrou que um modelo que alterna raciocínio e ação, escrevendo o que tenciona fazer, agindo e depois observando o resultado, resolve melhor as tarefas de pesquisa e de decisão do que se apenas raciocinar ou apenas agir. Os trabalhos sobre o Toolformer mostraram em 2023 que um modelo pode aprender quando uma ferramenta lhe é útil.

• Um cálculo confiado a uma ferramenta é exato, enquanto o modelo sozinho se pode enganar num número.
• Uma pesquisa traz uma informação datada e citável, em vez de uma recordação do modelo.
• Cada chamada de ferramenta é visível no plano da tarefa e, por isso, verificável.

Uma ferramenta que lê não representa risco para o mundo exterior. Uma ferramenta que age, ou seja, que envia, publica ou elimina, pode causar danos se for mal chamada ou desviada por um conteúdo armadilhado. É por isso que o Learnya pede a sua aprovação antes de qualquer ação que comprometa, e que o administrador pode reservar estas ferramentas aos assistentes que precisam delas.