ТехноСводка

ИИ

Xiaomi выпустила табличную ИИ-модель TabLDM, работающую без дообучения

Xiaomi-TabLDM решает задачи классификации и регрессии по размеченным примерам как контексту и без отдельного обучения под каждую задачу; модель открыта под лицензией Apache 2.0.

Вышли два варианта: классификатор на 70 млн параметров и регрессор на 71 млн. Модель рассчитана на таблицы от сотен до десятков тысяч строк и от нескольких до более чем ста столбцов. По умолчанию прогноз объединяет результаты восьми прогонов с разным перемешиванием признаков и предобработкой.

Архитектура включает три этапа: кодирование групп столбцов через Set Transformer, сборку вектора строки и обработку строк в контексте обучающих примеров. В последних восьми блоках применяется смесь экспертов, для ускорения повторных запросов есть KV-кэш.

В регрессионной части TabArena (13 наборов) модель набрала 1900 Elo и уступила только TabFM (2019). В общем рейтинге из 51 набора она на четвёртом месте с 1659 очками, рядом с AutoGluon 1.5 (1662) и TabPFN-3 (1650). По данным разработчиков, fit быстрее, чем у TabFM, на 82%, предсказание — на 68%. Ограничение: время инференса квадратично растёт с числом строк и столбцов.

  • 70 млн параметров у классификатора, 71 млн у регрессора
  • 2-е место в регрессии TabArena, 4-е в общем рейтинге
  • Лицензия Apache 2.0

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.