Гарри Тан, CEO акселератора Y Combinator, в интервью CNBC на этой неделе высказался против регулирования distillation — метода, при котором одна модель обучается на ответах другой. По его мнению, запрет на такую практику был бы превышением полномочий: лаборатории не вправе диктовать клиентам, как использовать информацию, которую им выдают модели. «Я бы ничего не делал», — сказал он, добавив, что можно было бы ввести «американский режим distillation».
Distillation — это когда разработчик модели многократно запрашивает другую модель, чтобы понять, как она рассуждает, и использует эти данные для обучения собственной системы. Метод легитимен и широко применяется в отрасли для создания компактных и дешёвых моделей. Однако на этой неделе Anthropic выпустила второй отчёт, в котором утверждает, что китайские лаборатории ведут «нелегальные distillation-атаки»: скрывают свою личность, используют мошенничество и украденные учётные данные. Ранее CEO Anthropic Дарьо Амодеи публично призывал американских регуляторов ужесточить контроль над distillation.
| Сторона | Позиция по distillation |
|---|---|
| Гарри Тан (Y Combinator) | Не регулировать; разрешить американским open-weight лабораториям легально дистиллировать фронтирные модели |
| Anthropic | Ужесточить контроль; китайские лаборатории ведут «нелегальные distillation-атаки» с использованием украденных данных |
Тан не согласен с такой позицией. Он подчёркивает, что не призывает американские лаборатории использовать украденные данные — речь о том, чтобы они могли «войти через парадную дверь». Его аргумент двойной. Во-первых, контроль над тем, что клиенты делают с API закрытых моделей, ограничивает свободу. Во-вторых, проприетарные лаборатории сами обучались на общедоступных данных, включая защищённые авторским правом материалы, не спрашивая разрешения. «Доступ к интеллекту, обученному на широкодоступных публичных данных, должен быть скорее общественным благом, чем чем-то запертым за ограничительными условиями обслуживания», — сказал он TechCrunch.
Anthropic на этой неделе выпустила второй отчёт, в котором обвинила китайские лаборатории в «нелегальных distillation-атаках» с использованием украденных учётных данных.
Тан известен как активный пользователь ИИ-инструментов. Он выступает за баланс между open-weight и фронтирными лабораториями. «Они на переднем крае и двигают его вперёд. Мы хотим, чтобы это финансировалось и оставалось отличной бизнес-моделью. А open-weight модели должны давать людям свободу и доступ», — сказал он CNBC. По его мнению, «думерский» сценарий — не распространение открытых моделей, а сосредоточение всей мощи фронтирного ИИ в руках одной проприетарной компании. «Кошмарный сценарий — когда есть только одна компания. У неё лучший доступ к капиталу, лучшие исследователи, и она убегает вперёд. Внезапно появляется монополия. Это было бы плохо».
Контекст: distillation стал предметом спора между сторонниками открытых и закрытых моделей. Anthropic настаивает на защите интеллектуальной собственности и безопасности, тогда как Y Combinator и часть open-source сообщества видят в ограничениях угрозу инновациям и конкуренции. Пока регуляторы США не приняли окончательных правил, но дискуссия задаёт тон для будущей политики в отношении ИИ-лабораторий.
