Tema

I concettimachine-learningNel grafo

Preaddestramento

La prima fase: predire il prossimo token su un corpus enorme; il modello impara il sapere ma continua il testo invece di rispondere

Si lega a

usa la retropropagazione e il meccanismo del modello di linguaggio; precede l'istruzione supervisionata

Da qui ci si arriva

  1. Istruzione supervisionata

    La seconda fase: riaddestrare il modello su coppie di istruzione e risposta, perché impari a obbedire invece di continuare; è l'inizio dell'allineamento

Dove se ne parla

  1. L'addestramento che fa la differenza: dal rinforzo al ragionamento