Когда я использую torch.nn.functional.linear, я иногда обнаруживаю, что выходные данные отличаются от результатов умножения каждой строки A и W. Например, если A.shape равен [1,2048,4096], W.shape — [4096,4096], res0 = F.linear(A, Weight=B,bias=None), res0[0,0,0]=59598184. , но (A[0,0]*B[0]).sum() = 59598136.
Я пытался изменить тип A и B, но результаты всегда разные.
Подробнее здесь: https://stackoverflow.com/questions/785 ... -of-each-l