Le calcul du coefficient de détermination R² est une donnée importante pour valider une methode d'analyse. Il permet d'évaluer la précision d'une droite d'étalonnage.
Principe de la méthode des moindres carrés : Elle consiste à calculer a0 (le blanc) et a1 (la sensibilité) en minimisant la somme S des carrées des distances entre la valeur prédite et la valeur observée. Cette méthode permet de trouver la meilleure droite passant pas les points.
Le coefficient de corrélation r permet de contrôler l'étalonnage ( c'est-à-dire la plus ou moins bonne adaptation de la droite des moindres carrés). Il varie de -1 à 1. Le coefficient de détermination R² est égal au carré du coefficient de corrélation est égal à 1 si tous les points passent par la droite d'étalonnage. Lors de la création de la droite d'étalonnage, on cherchera à s'approcher au maximum de la valeur de 1. En général, une valeur de 0,995 est le minimum à obtenir.