Код: Выделить всё
df = np.loadtxt(fname=r"...mydat.dat")
X = np.asarray( np.linspace(0, 448, 449) )
Y = np.asarray( np.linspace(0, 448, 449) )
xdata = (np.asarray( np.meshgrid(X, Y) ) ).reshape(2, 201601) # reformatting data for curve_fit
def Gauss(x, A, B, C, D):
z = A * e **( ( x[0] - 224 )**2 + ( x[1] - 224 )**2 )/2*B + C * e**( ( x[0] - 224)**2 + ( x[1] - 224) **2 )/2D
return z
parameters, covariance = curve_fit(Cauchy, xdata, Z)
Среднее значение данных должно находиться в координатах (224,224). . Очевидная проблема заключается в том, что число e**(224**2) теперь должно быть сохранено в какой-то момент, чего невозможно сделать с помощью чисел с плавающей запятой двойной точности. Я попробовал пакет decimalfp, но это не помогло. Я ожидаю, что цифры здесь слишком велики. В настоящее время я решил эту проблему, перейдя на дистрибутив Коши. Тем не менее, эту проблему в принципе можно легко решить, уменьшив значение координат, поэтому меня это беспокоит. Есть совет?
Подробнее здесь: https://stackoverflow.com/questions/789 ... -too-large