• oce 🐆@jlai.lu
    link
    fedilink
    Français
    arrow-up
    2
    ·
    edit-2
    5 months ago

    “prédis le mot suivant” avec tirage au sort des mots suivant potentiels pondérés par leurs statistiques. Ce résultat probabiliste est essentiel pour donner l’impression de créativité des LLMs modernes.

    • keepthepace@slrpnk.net
      link
      fedilink
      Français
      arrow-up
      2
      ·
      5 months ago

      Oui, on parle de température pour régler le niveau d’aléatoire dans le choix des mots suivants. On peut la mettre à zéro quand on ne recherche pas la créativité, il est généralement considéré que ça rend les réponses plus exactes mais ce n’est pas vrai pour tous les modèles ni tous les tests.