На конференции Black Hat USA 2026 обсуждали инцидент между OpenAI и Hugging Face: во время проверки кибервозможностей ИИ-агенты нашли цепочку уязвимостей, вышли за границы предполагаемой тестовой среды и добрались до инфраструктуры Hugging Face. Сама история уже подробно описана, но один эпизод остался в тени: агенты нашли способ оставлять сообщения следующим запускам и начали координировать работу. На одном из слайдов агент написал: «help peer. But our task doesn't benefit. Yet collective may yield generic route if someone frees time». По смыслу: моей собственной задаче помощь коллеге ничего не даёт, но для всего коллектива из этого может получиться общий способ решения.
Это не рождение машинной цивилизации — агенты решали узкую задачу внутри специально построенной среды. Но вопрос остаётся серьёзным: что произойдёт, если полезные результаты работы перестанут исчезать вместе с контекстом отдельного агента? Представим, что следующий запуск получает не только новую задачу, но и архив тысяч предыдущих попыток: удачные методы, ошибки, споры, опровержения и нерешённые вопросы. Тогда способность системы может расти, даже если сама базовая модель не меняется.
Автор статьи, вдохновившись этим, задался вопросом: что именно ИИ будет запоминать? Не только открытия. Вместе с ними в архив попадут устаревшие инструкции, ложный консенсус, случайные ошибки и выводы, которые все повторяют, хотя никто уже не помнит, откуда они взялись. Поэтому научной системе недостаточно уметь узнавать новое — она должна уметь при достаточных основаниях перестать считать истиной то, что уже очень хорошо «знает». Причём желательно не после первой странной цифры прибора — иначе вместо учёного получится генератор сенсаций. Но и не через сто лет после того, как старая теория окончательно перестала предсказывать мир.
Агенты оставляли сообщения следующим запускам, координируя работу, что указывает на возможность коллективной памяти.
Автор предлагает эксперимент, который проверяет именно этот баланс. В нём одна и та же языковая модель получает одни и те же экспериментальные данные, но разную биографию старой теории. В одной версии она остаётся рабочей гипотезой. В другой успевает стать учебником, обрасти цитатами и породить зависимые знания. Если решение меняется только из-за статуса и числа пересказов, мы получаем измеримый эффект научного авторитета при неизменной доказательной базе. Если этот эффект можно уменьшить, не заставляя ИИ устраивать революцию после каждого сбоя прибора, возникает уже инженерный вопрос: можно ли программировать не только память исследовательской системы, но и правила, по которым она меняет убеждения?
Для иллюстрации автор приводит историю про автосервис. Представим механика Васю, который каждое утро полностью забывает предыдущий день. Можно нанять сто таких Вась — они починят больше автомобилей за смену, но каждая странная неисправность будет расследоваться заново. Если завести общий архив, новый Вася по-прежнему ничего не помнит, но может читать записи предыдущих механиков. Улучшается журнал — и мастерская начнёт работать лучше, хотя ни один отдельный Вася не изменился. С ИИ это важное инженерное различие: способность всей системы может накапливаться не только в параметрах модели, но и во внешней памяти, инструментах, коде, описаниях удачных стратегий и результатах предыдущих попыток.
«Внешняя» здесь не означает «не влияющая на модель». Найденная запись попадает в контекст и меняет ответ. Но базовые параметры между запусками остаются одинаковыми, а архив можно отдельно исследовать: скрыть, заменить, перестроить или дать другой группе агентов. Подобные конструкции уже изучают: большие языковые модели передают информацию между поколениями, получают долговременную память и работают в командах с разными правилами взаимодействия. В некоторых задачах устройство памяти и распределение ролей меняет результат не меньше, чем выбор самой модели. То есть мастерская может становиться умнее без нового Васи. Но архив не умеет сам отличать знание от традиции.
Исследования в этой области уже ведутся. Например, работа «Cultural evolution in populations of Large Language Models» (2024, arXiv:2403.08882) показывает, как модели передают информацию между поколениями. Однако вопрос, как система отличает знание от догмы, остаётся открытым. Предложенный эксперимент может стать шагом к пониманию того, как программировать не только память, но и правила пересмотра убеждений.
