Metodologia

A pesquisa de ponta em avaliação por IA diz: troque o juiz único por um júri de modelos diversos, e não deixe a IA fechar a nota. O Tribunal já nasceu assim.

O Tribunal de Ideias usa a arquitetura que a literatura de avaliação por IA chama de LLM-as-a-Jury (ou PoLL, Panel of LLM evaluators): em vez de um único modelo dar a palavra final, um painel de modelos diversos avalia critério a critério, e a nota final é calculada por fórmula, fora da boca de qualquer modelo.

Esta página explica como o julgamento funciona por dentro e por que cada peça do desenho responde a um viés documentado dos juízes de IA.

O rito

Como o julgamento funciona

  1. 1

    Admissibilidade

    Antes de qualquer gasto, um passo verifica se o texto enviado é mesmo uma ideia julgável. Se a petição for inadmissível, o crédito é devolvido.

  2. 2

    Evidência real

    Buscas na web derivadas da ideia alimentam um analista de evidências, que estrutura dores reais de mercado (cada uma com fonte), concorrentes nomeados e, nos julgamentos em português, um panorama regulatório. As cadeiras citam URLs dessa lista; nenhuma pode inventar fonte.

  3. 3

    Acusação e defesa

    Três modelos de promotoria atacam a ideia e três modelos de defesa respondem, todos obrigados a argumentar sobre a evidência coletada. O formato adversarial não é teatro à toa: sem um lado encarregado de atacar, avaliadores de IA tendem ao elogio.

  4. 4

    Testemunhas

    Seis testemunhas (três a favor, três contra), cada uma um modelo diferente encarnando uma persona (cliente, investidor, especialista cético), depõem citando as dores e os concorrentes encontrados.

  5. 5

    Júri multi-modelo

    Doze jurados, cada um um modelo de IA diferente, votam em nove critérios: relevância, solução, diferencial, mercado, tração, monetização, timing, execução e gestão de risco. As notas devem se ancorar na evidência real, não no entusiasmo do pitch.

  6. 6

    Revisão cruzada anônima

    Cada jurado revê o próprio voto diante das avaliações dos demais, apresentadas de forma anônima (sem saber de qual modelo veio cada uma). Pode manter ou revisar, registrando o que mudou e por quê.

  7. 7

    Veredito calculado

    A nota final não sai de nenhum modelo: é a média normalizada dos nove critérios, com peso igual entre eles, convertida em percentual. De 80 para cima, Inocente; de 60 a 79, Inocente com ressalvas; abaixo de 60, Culpada.

  8. 8

    Sentença e parecer

    O juiz redige a sentença com um plano de ação ancorado na evidência, e o advogado entrega um parecer reservado com riscos e premissas a validar. Um julgamento completo consome em torno de 44 chamadas a modelos de IA.

Segunda instância

A apelação: o direito de resposta

O primeiro veredito mede a ideia como ela foi apresentada. A apelação mede outra coisa, mais valiosa: como a ideia se sustenta depois que você responde às perguntas mais duras do tribunal. Por isso todo julgamento inclui uma apelação, sem custo adicional.

A segunda instância herda o caso completo da primeira (a evidência, a acusação, a defesa e os depoimentos não mudam) e abre com o interrogatório do réu: acusação e defesa formulam perguntas dirigidas aos pontos mais frágeis do caso, apontados no parecer do advogado, e você responde o que quiser, podendo pular qualquer pergunta. As respostas entram nos autos, os dois lados apresentam réplicas, e o mesmo júri re-vota os nove critérios diante do processo inteiro.

Metodologicamente, isso trata a mitigação como evidência: o critério de gestão de risco, por exemplo, dá crédito a respostas plausíveis vindas do réu, e não apenas ao texto original do pitch. E como a nota continua saindo da mesma fórmula, com o mesmo júri, a apelação não é um botão de subir nota: o veredito pode subir, cair ou se manter, e a página mostra a variação.

Na prática, a apelação transforma o julgamento em um ciclo de iteração: o parecer aponta onde a acusação vai atacar, você refina a ideia ou responde ao tribunal, e o júri diz se a resposta convenceu.

Por que esse desenho

Viés documentado, antídoto no design

A pesquisa sobre juízes de IA catalogou vieses recorrentes. Cada um tem uma resposta estrutural no Tribunal, não uma promessa.

Viés documentado

Autopreferência (self-enhancement)

Um modelo tende a avaliar melhor texto gerado por ele mesmo ou parecido com o seu estilo.

Antídoto no design

Júri multi-modelo: nenhum modelo julga sozinho. São 12 jurados de modelos diferentes, e acusação, defesa e testemunhas vêm de outros modelos ainda.

Viés documentado

Bajulação (sycophancy)

Avaliadores de IA tendem a concordar e elogiar, sobretudo diante de um texto que pede aprovação.

Antídoto no design

Papéis adversariais (uma promotoria encarregada de atacar) e notas ancoradas em evidência real da web, com fontes linkadas.

Viés documentado

Viés de posição

A ordem em que as respostas aparecem muda o julgamento: o primeiro ou o último tende a levar vantagem.

Antídoto no design

Revisão cruzada anônima: os jurados reveem os votos diante das avaliações dos demais sem saber de qual modelo veio cada uma.

Viés documentado

Instabilidade da nota

O mesmo juiz, com o mesmo texto, devolve notas diferentes em execuções diferentes; a nota única é subjetiva.

Antídoto no design

Veredito determinístico: os modelos votam critério a critério e a nota final é uma fórmula (média normalizada de 9 critérios com peso igual). A IA não fecha a nota.

Viés documentado

Juiz único gigante

Depender de um único modelo grande herda todos os vieses daquele modelo, além de custar caro.

Antídoto no design

PoLL: a pesquisa da Cohere mostrou que um painel de modelos menores e diversos supera um juiz único grande, com menos viés intra-modelo e custo mais de 7 vezes menor.

Por que confiar no veredito

Não exibimos selo autodeclarado de precisão. O que sustenta o método são os trabalhos que fundaram e refinaram o campo:

Honestidade metodológica

Esses trabalhos dão lastro ao método, não validam este produto especificamente. Júri diverso e veredito determinístico reduzem os vieses documentados; não os zeram. O resultado é uma análise gerada por IA, auditável e ancorada em evidência, e não uma certeza sobre o futuro da sua ideia.

Desambiguação

Perguntas frequentes

Isto é um avaliador de modelos de IA?
Não. Ferramentas de LLM eval (DeepEval, RAGAS, LangSmith, Braintrust, Arize) usam um LLM para dar nota à saída de outro LLM dentro de um pipeline de testes, para engenheiros de IA. O Tribunal usa a mesma técnica por baixo (júri de LLMs votando em rubrica), mas o objeto é outro: a sua ideia de negócio, julgada em um espetáculo ao vivo.
O que é LLM-as-a-Judge? E LLM-as-a-Jury?
LLM-as-a-Judge é usar um modelo de IA como avaliador. A pesquisa mostrou que um juiz único carrega vieses (posição, verbosidade, autopreferência), e a resposta do campo foi o júri: um painel de modelos diversos votando em rubrica, chamado de LLM-as-a-Jury ou PoLL. O Tribunal implementa a versão de júri, com 12 modelos votando em 9 critérios.
A nota final sai de um modelo de IA?
Não. Cada jurado vota critério a critério, com justificativa ancorada na evidência coletada. A nota final é uma fórmula determinística: média normalizada dos 9 critérios, com peso igual. Dá para auditar de onde veio cada ponto.
O veredito é infalível?
Não. O desenho reduz vieses documentados e torna o resultado auditável, mas modelos de IA continuam sujeitos a erro e a variação. Trate o julgamento como uma análise informativa (um espelho duro da sua ideia), não como consultoria profissional nem garantia de sucesso ou fracasso.