Uma Secretaria de Fazenda estadual implantou um assistente virtual baseado em um modelo de linguagem de grande escala (LLM) para orientar contribuintes sobre obrigações acessórias. Durante a homologação, a equipe de auditoria fiscal solicitou que o sistema respondesse à pergunta: “Qual é o prazo de recolhimento do ICMS devido por substituição tributária nas operações interestaduais destinadas a consumidor final não contribuinte, quando não há convênio ou protocolo entre as unidades federadas?”
O modelo respondeu com segurança: “O prazo é o dia 9 do mês subsequente à saída da mercadoria, conforme o artigo 1º do Ato Declaratório Interpretativo RFB nº 5/2019.” A equipe verificou que o referido ato não trata da matéria e que a resposta foi construída a partir de trechos de documentos distintos, combinados de forma plausível, porém incorreta.
Considerando os conceitos de funcionamento de LLMs, de recuperação aumentada por geração (RAG) e de governança de dados no setor público, a conduta que melhor caracteriza o fenômeno descrito e a medida técnica mais adequada para mitigá-lo são, respectivamente:
Selecione uma alternativa pra criar sua conta e salvar o progresso.