Pour référence : https://etudiant.lefigaro.fr/article/bac-philo-2023-qui-de-raphael-enthoven-ou-chatgpt-redige-la-meilleure-copie_a694c010-0a09-11ee-bd34-f2c2eadd1748/
(désolé pour le sponsor de la vidéo qui apparaît dans l’aperçu généré par lemmy)
Pour référence : https://etudiant.lefigaro.fr/article/bac-philo-2023-qui-de-raphael-enthoven-ou-chatgpt-redige-la-meilleure-copie_a694c010-0a09-11ee-bd34-f2c2eadd1748/
(désolé pour le sponsor de la vidéo qui apparaît dans l’aperçu généré par lemmy)
“prédis le mot suivant” avec tirage au sort des mots suivant potentiels pondérés par leurs statistiques. Ce résultat probabiliste est essentiel pour donner l’impression de créativité des LLMs modernes.
Oui, on parle de température pour régler le niveau d’aléatoire dans le choix des mots suivants. On peut la mettre à zéro quand on ne recherche pas la créativité, il est généralement considéré que ça rend les réponses plus exactes mais ce n’est pas vrai pour tous les modèles ni tous les tests.