Uma Secretaria de Fazenda estadual implantou um assistente virtual baseado em um modelo de linguagem de grande escala (LLM) para orientar contribuintes sobre obrigações acessórias. Durante a homologação, a equipe de auditoria fiscal solicitou que o sistema respondesse à seguinte pergunta: "Qual é o prazo de recolhimento do ICMS devido por substituição tributária nas operações interestaduais destinadas a contribuinte consumidor final não contribuinte, e qual dispositivo legal o fundamenta?"
O modelo respondeu com um prazo plausível e citou um artigo de lei inexistente, redigido em estilo formal e coerente. Ao ser questionado sobre a fonte, o sistema afirmou que a informação constava da legislação estadual e apresentou uma URL fictícia, porém sintaticamente válida.
Considerando os conceitos de funcionamento de LLMs, de engenharia de prompts e de mitigação de riscos em aplicações de IA generativa no setor público, a conduta técnica mais adequada para evitar a repetição desse tipo de falha é:
Selecione uma alternativa pra criar sua conta e salvar o progresso.