On the effect of logarithmic transformation of data on estimation of the length at first maturity in fishes

Abstract

To characterize fish sexual maturity, such parameter as the length at which 50 % of individuals are sexually mature is widely applied. The conventional practice is to use the fish length values directly, without their preliminary logarithmic transformation. However, based on theoretical considerations, such logarithmic transformation should be expected to improve the quality of approximation of the relationship between the percentage of mature individuals and their length. This study is aimed at the testing of the hypothesis that logarithmic transformation improves the quality of approximation of the data on fish maturity, as well as at the assessment of practicability and expedience of the logarithmic transformation when estimating the length at which 50 % of the individuals are sexually mature. This research is conducted based on the published data. Approximation was carried out using two methods: by the probability integral of a normal distribution and by the logistic function. Following the data analysis involving an original two-level approach, it has been found out that the preliminary logarithmic transformation of the length values statistically significantly improves the quality of approximation. However, this pattern manifests only in the case of analyzing a certain volume of data sets. The difference between the results obtained using transformed and non-transformed length values is not big and, oftentimes, unsubstantial. Nevertheless, in some cases, such a difference is noticeable, which provides a reason to recommend the logarithmic transformation of the fish length values when conducting the analysis. It is also demonstrated that, during the estimation of the length at which 50 % of the individuals are sexually mature, both tested functions are equally suitable for approximation.

Для характеристики полового созревания рыб широко используется значение длины, при которой 50 % особей являются половозрелыми. При расчетах обычно применяются непосредственно значения длины рыб без их предварительного логарифмирования. Однако, исходя из теоретических соображений, следует ожидать, что логарифмирование значений длины должно приводить к улучшению качества аппроксимации зависимости доли половозрелых рыб от их длины. Целью данного исследования является проверка гипотезы о том, что логарифмирование способствует улучшению качества аппроксимации данных по созреванию рыб, а также определение практической целесообразности логарифмирования при оценке длины, при которой 50 % особей являются половозрелыми. Исследование проведено по опубликованным данным. Аппроксимация осуществлялась двумя способами: интегралом вероятностей нормального распределения и логистической функцией. При анализе данных с использованием оригинального двухуровневого подхода установлено, что предварительное логарифмирование значений длины статистически значимо улучшает качество аппроксимации. Однако указанная закономерность проявляется лишь при анализе некоторого множества наборов данных. Разница между результатами, полученными при использовании преобразованных и непреобразованных значений длины, невелика и зачастую несущественна. Тем не менее, в некоторых случаях такое различие заметно, что и дает основание рекомендовать логарифмирование значений длины рыб при анализе. Кроме того, показано, что при расчете длины, при которой 50 % особей являются половозрелыми, обе использованные функции подходят для аппроксимации в одинаковой степени.