Ведущие компании в сфере искусственного интеллекта, такие как OpenAI и Anthropic, активно борются с практикой, известной как "дистилляция". Этот процесс подразумевает обучение новых ИИ-моделей сторонними разработчиками путем систематического использования их общедоступных чат-ботов и API-интерфейсов. В центре внимания этой дискуссии чаще всего оказывались китайские фирмы, создающие модели с открытым кодом, которые по своим возможностям почти не уступают американским аналогам, но при этом значительно дешевле. Однако в технологическом сообществе давно предполагалось, что американские лаборатории также применяют эти методы друг против друга, чтобы не отставать от конкурентов.
Признание Илона Маска в суде
Теперь это предположение получило подтверждение как минимум в одном случае. В четверг на заседании федерального суда Калифорнии Илону Маску был задан вопрос, использовала ли его компания xAI методы дистилляции моделей OpenAI для обучения своего чат-бота Grok. В ответ Маск заявил, что это общепринятая практика среди ИИ-компаний. На уточняющий вопрос, означает ли это "да", он ответил: "Частично".
Маск в настоящее время судится с OpenAI, её генеральным директором Сэмом Альтманом и Грегом Брокманом, утверждая, что они нарушили первоначальную некоммерческую миссию OpenAI, преобразовав организацию в коммерческую структуру. Судебный процесс начался на этой неделе с дачи показаний технологическим лидером.
Последствия и правовые аспекты
Признание Маска является важным, поскольку дистилляция подрывает преимущество крупных ИИ-компаний, которое они получили благодаря огромным инвестициям в вычислительную инфраструктуру. Этот метод позволяет другим разработчикам создавать почти столь же мощные модели с минимальными затратами. В этом присутствует определённая ирония, учитывая предполагаемые нарушения авторских прав ведущими лабораториями в их поиске достаточных данных для обучения своих моделей. Неудивительно, что xAI Маска, основанная в 2023 году, спустя годы после OpenAI, стремится перенять опыт лидера отрасли. Пока неясно, является ли дистилляция прямо незаконной, однако она может нарушать условия предоставления услуг, установленные компаниями для пользователей их продуктов.
Борьба с "дистилляцией"
По сообщениям, OpenAI, Anthropic и Google запустили инициативу через форум Frontier Model Forum для обмена информацией о том, как противодействовать попыткам дистилляции, особенно из Китая. Эти попытки обычно включают систематические запросы к моделям для понимания их внутреннего устройства. Чтобы остановить эти действия, ведущие лаборатории работают над предотвращением подозрительных массовых запросов со стороны пользователей. К моменту публикации OpenAI не ответила на запрос о комментарии относительно признания Маска.
Рейтинг ИИ-компаний от Маска
Позднее в своих показаниях Маску задали вопрос о его прошлогоднем заявлении, что xAI скоро значительно опередит все компании, кроме Google. В ответ он оценил ведущих поставщиков ИИ в мире, назвав Anthropic лидером, за которым следуют OpenAI, Google и китайские модели с открытым кодом. xAI он охарактеризовал как значительно меньшую компанию, насчитывающую всего несколько сотен сотрудников.