Lección 4 de 7 · 3 min

¿Quién es responsable?

Un modelo no puede ser responsable. Una organización debe decir quién decide, quién valida y quién responde.

ObjetivoDefinir un reparto de responsabilidades para un uso de la IA en un equipo.

Cuando una IA prepara una carta, un análisis o una decisión, la responsabilidad sigue siendo humana. Pero hace falta que esté atribuida. Las organizaciones que lo hacen bien ponen por escrito quién puede delegar qué, quién valida antes del envío y quién responde en caso de error.

Una regla sencilla en tres niveles

  • Lo que el agente hace solo: buscar, resumir, preparar borradores.
  • Lo que requiere una aprobación: enviar, publicar, pagar, eliminar, modificar una agenda compartida.
  • Lo que sigue siendo humano: las decisiones que afectan a los derechos de una persona, como una contratación, una sanción o un diagnóstico.

La Recomendación de la UNESCO sobre la ética de la inteligencia artificial, adoptada en 2021 por sus Estados miembros, establece el mismo principio: la responsabilidad final debe poder atribuirse siempre a una persona física o jurídica.

Referencias

  1. UNESCO (2021). Recomendación sobre la ética de la inteligencia artificial. Conferencia General, 41.ª reunión. unesdoc.unesco.org/ark:/48223/pf0000381137_fre