Quem é responsável?

Quando uma IA prepara uma carta, uma análise ou uma decisão, a responsabilidade continua a ser humana. Mas ainda é preciso que seja atribuída. As organizações bem-sucedidas escrevem quem pode delegar o quê, quem valida antes do envio e quem responde em caso de erro.

Uma regra simples em três níveis

• O que o agente faz sozinho: pesquisar, resumir, preparar rascunhos.
• O que exige uma aprovação: enviar, publicar, pagar, eliminar, alterar uma agenda partilhada.
• O que continua a ser humano: as decisões que afetam os direitos de uma pessoa, como um recrutamento, uma sanção ou um diagnóstico.

A Recomendação da UNESCO sobre a Ética da IA, adotada em 2021 pelos seus Estados-Membros, estabelece o mesmo princípio: a responsabilidade final deve poder ser sempre atribuída a uma pessoa singular ou coletiva.