Onde é executado um modelo

Um modelo é um ficheiro de parâmetros e um programa que calcula com eles. Pode ser executado num centro de dados, num computador potente ou nos servidores de uma organização. Os modelos de pesos abertos, cujos parâmetros são publicados, tornam possíveis as duas últimas opções.

Três locais, três compromissos

• Online. Os maiores modelos, sem hardware para gerir. A questão passa a ser a do local de alojamento e do direito aplicável.
• Num posto de trabalho. Os dados não saem do computador. Os modelos têm de ser mais pequenos ou comprimidos, o que reduz as suas capacidades.
• Nos seus servidores. Os dados ficam na sua infraestrutura, inclusive sem Internet. É preciso o hardware e uma equipa para o operar.

A compressão de um modelo, chamada quantização, armazena os parâmetros com menos precisão. Um modelo quantizado ocupa muito menos memória, à custa de uma ligeira perda de qualidade que é preciso medir nos seus próprios casos.