Tema

I concetticontrolloNel grafo

Instradamento

Un agente classifica le richieste e le manda allo specialista giusto

Si lega a

è un controllo; aggiunge un punto in cui la classificazione può sbagliare

Da qui ci si arriva

  1. Scelta del modello per passo

    Un modello piccolo per i passi semplici, quello grande riservato ai passi che lo meritano

  2. Miscela di esperti

    L'architettura che sostituisce l'MLP del blocco con una schiera di esperti e un router: i parametri totali crescono, il calcolo per token usa solo gli esperti scelti

Dove se ne parla

  1. Architetture multi-agente: quale scegliere, e quali non sono architetture
  2. Le evoluzioni: MoE e cache di chiavi e valori