Amazon, начинавшая как онлайн-книжный магазин, теперь скупает редкие книги, чтобы использовать их для обучения своих языковых моделей. Как сообщает 404 Media, журналисты вложили трекер в редкое издание и проследили его путь до складского комплекса Amazon VGT3 в Лас-Вегасе, который идентифицирует себя символом динозавра с книгой в когтях. В ответ на запрос Amazon заявила, что «покупает книги через коммерческие каналы, чтобы улучшить продукты и услуги, которыми пользуются клиенты».
Практика уничтожения книг для оцифровки не нова: так делают Google Books и Internet Archive, но обычно речь идет о массовой литературе. Редкие книги, особенно вышедшие из печати или отсутствующие в интернете, представляют особую ценность для обучения ИИ. Дело в том, что современные LLM уже поглотили практически весь доступный текст из открытых источников, включая, как в случае с Anthropic, пиратские копии книг. Редкие издания — это нетронутый пласт данных, который к тому же гарантированно создан человеком: всё, что опубликовано до 2022 года, не могло быть написано нейросетью.
Почему это так важно? Когда модель обучается на текстах, сгенерированных другой моделью, возникает риск так называемого «model collapse» — деградации качества выходных данных. Это происходит, когда ИИ начинает генерировать текст, основанный на собственном же выводе, что приводит к зацикливанию и потере разнообразия. Поэтому компании ищут источники «чистого» человеческого текста, и редкие книги — один из немногих оставшихся резервуаров.
Журналисты 404 Media отследили трекер в книге до склада Amazon VGT3 в Лас-Вегасе.
Пока неясно, какие именно книги скупает Amazon и какова их судьба после сканирования. Однако сам факт того, что крупнейший ритейлер готов уничтожать редкие издания ради данных, поднимает вопросы об этике и сохранении культурного наследия. В то же время это отражает общую тенденцию в индустрии: спрос на качественные данные для обучения ИИ растет, и компании вынуждены искать новые источники, даже если это сопряжено с уничтожением физических носителей.
