Carregando o concurso…
Uma Secretaria de Fazenda estadual implantou um assistente conversacional baseado em um modelo de linguagem de grande escala (LLM) para orientar contribuintes sobre obrigações acessórias. Durante a homologação, a equipe de auditoria fiscal solicitou que o sistema respondesse à seguinte consulta: “Considerando a legislação vigente, qual é o prazo para recolhimento do ICMS devido por substituição tributária quando o fato gerador presumido não se realiza?”. O modelo respondeu com um prazo plausível, porém incorreto, citando um dispositivo legal que não existe, e manteve o tom de segurança mesmo após ser questionado. A equipe técnica registrou que o modelo foi ajustado apenas com dados internos da Secretaria, sem mecanismo de recuperação de fontes externas em tempo real, e que o prompt de sistema continha a instrução: “responda sempre de forma conclusiva, sem demonstrar dúvida”.
Diante desse cenário, a conduta técnica mais adequada para mitigar o risco de respostas incorretas com aparência de autoridade, sem eliminar a utilidade do assistente, é:
Selecione uma alternativa pra criar sua conta e salvar o progresso.