"[...] parece que sou mais sábio do que ele nesta pequena coisa: aquilo que não sei, também não julgo saber."
PLATÃO, Apologia de Sócrates, 21d (tradução livre)
O entregável certo pela razão errada
Imagine-se um caderno de requisitos redigido com o apoio de um assistente de inteligência artificial. Entraram as notas das entrevistas; saíram quarenta requisitos bem formulados. São coerentes, claros e, depois de revistos, maioritariamente correctos.
Faça-se agora ao analista uma pergunta simples sobre o requisito 14: porque diz ele o que diz? Se a resposta honesta for "foi o modelo que o escreveu e parecia estar certo", o analista não conhece o requisito 14. Tem, sobre ele, uma crença verdadeira.
A distinção parece académica. Não é. É a diferença entre uma especificação capaz de se defender perante um auditor, um comité de direcção ou um cidadão, e uma especificação que está apenas certa até ao dia em que alguém a questiona. Platão traçou esta linha há vinte e quatro séculos, em dois diálogos que qualquer analista que hoje trabalhe com IA deveria conhecer.
Teeteto: o júri que julgou bem e nada sabia
No Teeteto, Sócrates e um jovem matemático procuram definir o conhecimento. Uma das hipóteses é simples: conhecimento é opinião verdadeira. Sócrates desmonta-a com um tribunal (201a–c).
Um orador, diz ele, pode persuadir um júri da verdade sobre um roubo ou uma agressão que só uma testemunha ocular poderia efectivamente saber. Se o orador for hábil e o veredicto acertar, o júri julgou com verdade. Mas não conheceu. Foi persuadido, e teria sido persuadido da mesma forma por um orador melhor que defendesse o contrário.
Teeteto propõe então o refinamento que marcou toda a epistemologia ocidental: conhecimento é opinião verdadeira acompanhada de uma explicação (logos). O logos é aquilo que prende a crença aos seus fundamentos; sem ele, uma crença é verdadeira por sorte ou por persuasão, e não se consegue defender.
Dois pormenores importam aqui. Primeiro, o diálogo termina sem decidir o que é um logos adequado (Platão deixa a questão em aberto). Segundo, a filosofia nunca baixou a fasquia: em 1963, Edmund Gettier demonstrou que mesmo uma crença verdadeira e justificada pode ficar aquém do conhecimento, quando a justificação e a verdade só se ligam por acidente. O critério tornou-se, isto é, ainda mais exigente.
Um assistente de IA é, funcionalmente, um orador muito fluente. O que produz persuade. A questão para o analista é saber se é o júri ou a testemunha.
Apologia: os poetas, os artesãos e o homem que sabia que não sabia
Na Apologia, Sócrates explica aos seus juízes como se tornou odiado (21b–22e). O oráculo de Delfos tinha declarado que ninguém era mais sábio do que ele. Intrigado, foi à procura de alguém mais sábio e interrogou, sucessivamente, três grupos.
Os políticos julgavam saber muito e não conseguiam dar conta de nada. Os poetas eram mais interessantes: produziam obras belas e comoventes, mas quando Sócrates lhes perguntava o que significavam os seus próprios versos, quase qualquer pessoa presente os explicava melhor. Falavam, concluiu, não por sabedoria, mas por uma espécie de inspiração, como os adivinhos que dizem muitas coisas belas sem compreender nenhuma delas.
Os artesãos conheciam de facto o seu ofício, e isso era conhecimento verdadeiro. Mas, precisamente por serem competentes num domínio, julgavam saber também sobre as questões mais importantes, e esse erro pesava mais do que a sua perícia.
A vantagem de Sócrates era modesta: não julgava saber aquilo que não sabia.
Lida hoje, a passagem descreve dois riscos com uma precisão desconfortável. O poeta é o modelo de linguagem: fluente, muitas vezes certo, incapaz de dar conta do que produz. O artesão é o profissional experiente, cuja competência real torna mais fácil confiar num texto fluente fora da área estreita onde o poderia efectivamente verificar. E a posição socrática (um registo disciplinado daquilo que ainda não se sabe) revela-se um método de trabalho.
Onde a crença verdadeira entra na análise de negócio
O ponto filosófico tem uma base técnica. Bender e colegas descrevem os grandes modelos de linguagem como "papagaios estocásticos": sistemas que encadeiam linguagem plausível sem qualquer ancoragem no significado ou na verdade. É exactamente o orador do Teeteto. Muitas vezes certo, nunca ancorado.
A literatura de engenharia de requisitos é mais optimista quanto à utilidade e igualmente clara quanto aos limites. Arora, Grundy e Abdelrazek identificam ganhos reais na elicitação, na especificação e na validação, mantendo o analista humano responsável por avaliar aquilo que o modelo devolve.
No dia-a-dia da análise, a crença verdadeira entra em quatro pontos previsíveis:
Sínteses de elicitação. Um resumo que soa como o interlocutor, mas que funde, sem o dizer, as posições de dois interlocutores numa só.Requisitos redigidos. Uma regra correcta em termos gerais, mas que não é a regra deste regulamento, deste acordo colectivo ou desta circular de processamento salarial.
Descrições de processos. O processo de manual, descrito com fluência, em vez do processo que as pessoas efectivamente seguem.
Valores e cálculos. Um número plausível, possivelmente certo, sem qualquer derivação registada.
Em cada um destes casos o resultado pode ser verdadeiro. O que lhe falta é o logos. E na Administração Pública o logos não é opcional: mais tarde ou mais cedo, alguém perguntará quem decidiu o quê, com que fundamento e quando.
A rastreabilidade é o logos
Platão deixou em aberto a natureza do logos. A análise de negócio tem uma resposta prática: a rastreabilidade. Um requisito ligado à sua fonte, ao seu responsável e à sua justificação contém uma explicação de si próprio. Um requisito sem essas ligações é crença verdadeira, por muito bem escrito que esteja.
Daqui decorrem cinco regras de trabalho para o analista que utiliza IA:
Sem fonte, não há requisito. Cada item redigido com IA indica a sua origem: uma entrevista, um documento, um artigo de lei. Sem ela, fica registado como hipótese e não como requisito.Separar o redigido do verificado. O conteúdo gerado por IA tem um estado visível até que alguém o confirme contra a fonte.
Manter um registo socrático. Uma lista de questões em aberto e de pressupostos por verificar; é o artefacto mais honesto de qualquer projecto.
Refazer as contas. Qualquer valor produzido pelo modelo é recalculado a partir de dados identificados antes de entrar num entregável.
Aplicar o teste do "porquê". Se não conseguir explicar um requisito sem reabrir a conversa que o produziu, ainda não o conhece.
Nada disto é um argumento contra o uso de IA. É um argumento para a usar como orador e nunca como juiz: um primeiro rascunho rápido e fluente que o analista converte depois, linha a linha, de crença verdadeira em conhecimento.
Uma pergunta a quem pratica
Sócrates foi condenado, em parte, por mostrar às pessoas a diferença entre aquilo em que acreditavam e aquilo que sabiam. A IA não será condenada por a esbater. Essa responsabilidade cabe agora ao analista.
Pergunto, por isso, a quem já utiliza IA no trabalho de requisitos: como marca a fronteira entre o que o modelo redigiu e o que verificou? E a sua especificação resistiria à pergunta "porquê", feita a cada linha?
Referências
Textos primários
PLATÃO, Teeteto, 201a–210b (a opinião verdadeira e o júri; o conhecimento como opinião verdadeira acompanhada de logos).PLATÃO, Apologia de Sócrates, 21b–22e (Sócrates interroga os políticos, os poetas e os artesãos).
Artigos
GETTIER, E. L. (1963). "Is Justified True Belief Knowledge?" Analysis, 23(6), 121–123.BENDER, E. M., GEBRU, T., MCMILLAN-MAJOR, A. & SHMITCHELL, S. (2021). "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" Proceedings of FAccT '21, 610–623.
ARORA, C., GRUNDY, J. & ABDELRAZEK, M. (2024). "Advancing Requirements Engineering through Generative AI: Assessing the Role of LLMs". In Generative AI for Effective Software Development, Springer, 129–148.
As opiniões aqui expressas são pessoais e não representam qualquer organização cliente.
