Зачем менять арифметику

В p-адической метрике близость чисел определяется совпадением младших разрядов их разложения. Это другая геометрия вычислений: сумма не может иметь p-адическую норму больше максимальной нормы слагаемых.

Такое свойство мотивирует поиск способов контролировать рост промежуточных значений, в том числе градиентов. Но ограничения нужны и на производные: само изменение числового типа не гарантирует устойчивости. Более того, ограниченность в p-адической метрике не означает ограниченности восстановленного вещественного значения. В этой работе контроль взрывающихся градиентов — мотивация, а эксперимент проверяет более базовое условие: совместимость арифметического модуля с исходной моделью.

Минимальная проверка

Идея модуля проста: преобразовать входы и коэффициенты в p-адическое представление, выполнить вычисление, затем восстановить рациональный результат. Данные и остальная часть системы должны сохранить исходный формат.

Для проверки я обучил линейную регрессию с одним признаком на Diabetes из scikit-learn. Использовался признак с индексом 2, последние 20 наблюдений составляли тестовую выборку. Базовая модель дала MSE 2548,07 и R² = 0,47. Эти метрики описывают исходную регрессию; главный критерий эксперимента — совпадение восстановленных ответов с её предсказаниями.

В основном опыте с pyAdic использовались p = 2, точность 50 и абсолютный допуск 10⁻⁶. Успешно восстановлено 0 из 20 предсказаний.

Базовая линейная регрессия и результаты рациональной реконструкции для 20 тестовых наблюдений
Исходная регрессия и проверочный запуск pyAdic (p = 2, точность 50). Ни одно из 20 предсказаний не восстановлено с абсолютным допуском 10⁻⁶.

Где возникли расхождения

ПроверкаНаблюдение
pyAdic и линейная регрессияБольшинство показанных реконструкций вернуло False вместо рационального числа; остальные не воспроизвели базовые предсказания.
Изменение точностиВосстановленные значения существенно менялись, иногда меняя знак.
SageMath, 80 значащих p-адических разрядовПрямое преобразование прошло, но восстановленные предсказания отличались от исходных.
Обращение порядка цифрОбычное сложение не сохранило соответствие из-за направления переносов между разрядами.

Проблема проявилась даже без регрессии: при p = 2 и абсолютной точности 40 преобразование числа 0,04716281 туда и обратно в pyAdic дало значение другого знака и порядка величины.

Конечное p-адическое приближение само по себе не определяет единственное рациональное число: для реконструкции нужны дополнительные ограничения. Точное представление входного float дробью также может потребовать больших числителя и знаменателя. Поэтому точность и условия восстановления — часть устройства модуля, а не вспомогательные настройки.

Что следует из результата

В проверенных реализациях и настройках схема «преобразование → вычисление → реконструкция» не сохранила ответы даже линейной модели. Этого недостаточно для включения такого модуля в более сложную нейронную сеть.

Вывод ограничен испытанной схемой и не распространяется на все p-адические методы машинного обучения. Следующие направления — данные и операции, изначально определённые над p-адическим полем, явные гарантии восстановления, выбор простого p и точности под заданный критерий. Для нейросетевой постановки отдельно потребуются определения архитектуры, функции потерь и правил обновления весов.