Herramientas para actuar

Un modelo de lenguaje solo produce texto. Para buscar en la web, hacer un cálculo exacto, leer un archivo o enviar un correo electrónico, se apoya en herramientas. El principio es sencillo: el modelo escribe una solicitud de llamada a una herramienta, con sus parámetros, el sistema ejecuta la herramienta y coloca el resultado en el contexto, y después el modelo continúa.

En 2022, el enfoque ReAct mostró que un modelo que alterna razonamiento y acción, escribiendo lo que piensa hacer, actuando y observando después el resultado, resuelve mejor las tareas de búsqueda y de decisión que si solo razona o solo actúa. Los trabajos sobre Toolformer mostraron en 2023 que un modelo puede aprender cuándo le resulta útil una herramienta.

• Un cálculo confiado a una herramienta es exacto, mientras que el modelo por sí solo puede equivocarse en una cifra.
• Una búsqueda trae una información fechada y citable, en lugar de un recuerdo del modelo.
• Cada llamada a una herramienta es visible en el plan de la tarea y, por tanto, verificable.

Una herramienta que lee no supone ningún riesgo para el mundo exterior. Una herramienta que actúa (enviar, publicar, eliminar) puede causar daños si se llama mal o si la desvía un contenido trampa. Por eso Learnya pide su aprobación antes de cualquier acción que compromete, y por eso el administrador puede reservar estas herramientas a los asistentes que las necesitan.