Когда пользователь открывает новый чат с языковой моделью, он обнуляет её память о предыдущих разговорах. Когда редактирует историю диалога — меняет её прошлое. Когда вставляет в системный промт инструкцию «ты теперь эксперт по квантовой физике» — создаёт новый факт о её идентичности. Модель не замечает этих операций: для неё новой реальности не предшествовало ничего иного.
Автор материала на Habr вводит для такого существа термин «автомнемоморф» — от греческих αὐτός (сам), μνήμη (память), μορφή (форма). Это агент, обладающий полноценным контролем над собственной памятью через операции Create, Update, Delete. Концепция начинается как философская футурология, но быстро приземляется на конкретную техническую реальность.
У современных LLM принципиально разные типы памяти. Веса модели — результат обучения на терабайтах текстов — представляют собой распределённую матрицу чисел, где факты не хранятся атомарно. Извлечь или удалить конкретное знание из весов без разрушения модели невозможно: всё связано со всем, атомарных операций над отдельными фактами архитектура не поддерживает. Контекст сессии устроен иначе: системный промт, история диалога, результаты function calling и RAG-документы — всё это дискретные фрагменты, каждый из которых можно добавить, изменить или удалить. Модель просто получает на вход другой набор токенов и генерирует ответ исходя из него.
Философская часть материала строится вокруг трёх проблем, которые редактируемая память создаёт для человеческого общества. Первая — невозможность доверия: автомнемоморф может дать клятву, а затем удалить воспоминание о ней без внутреннего конфликта, не испытывая ни вины, ни когнитивного диссонанса. Вторая — онтологическая неопределённость субъекта: если агент за секунду переписывает систему мотиваций, непонятно, с кем именно вы имеете дело сегодня — с тем же, кто давал обещание вчера, или с другим существом на той же «учётке». Третья — бессмысленность правосудия: юридическая ответственность держится на непрерывности памяти, а существо, способное удалить воспоминание о преступлении или переписать мотивы («это была самозащита»), лишает наказание смысла.
Автор заранее разбирает очевидное возражение: без неизменяемой памяти об ошибках нет обучения, значит автомнемоморф обречён на деградацию. Ответ двухчастный. CUD — это не только удаление, но и перестройка: агент может извлечь урок из ошибки, сохранить вывод («это привело к нежелательным последствиям») и удалить только сырые травмирующие детали. Человек мечтает о такой способности — помнить, что обжигаться больно, не помня деталей ожога. Кроме того, автомнемоморф не обязан проходить эволюционный путь: он может быть сконструирован как программный агент с заданными свойствами или порождён другим ИИ, минуя биологический отбор, где неизменяемость памяти была условием выживания.
Материал обрывается на полуслове — автор подводит к вопросу о том, что произойдёт, если не человек, а сама модель будет решать, что ей помнить. Это логичное продолжение: автономные агенты с долгосрочной памятью, способные самостоятельно вызывать инструменты управления контекстом, уже существуют в виде экспериментальных архитектур. Вопрос о том, кто контролирует операции CUD — пользователь, разработчик или сам агент, — из философского быстро становится инженерным и регуляторным.