Объяснение принципов работы больших табличных моделей: понимание новой формы генеративного ИИ

Крупная табличная модель — это тип системы генеративного ИИ, которая может анализировать крупномасштабные таблицы и другие виды организованных наборов данных, такие как миллиарды платежных транзакций, аккуратно хранящихся в фиксированных строках и столбцах. Он может искать закономерности и делать прогнозы, используя эти наборы данных. Таким образом, он помогает выявлять тенденции и типы поведения, которые людям или другим видам программного обеспечения было бы сложно обнаружить. 

Большие языковые модели, которые обеспечивают работу ChatGPT от OpenAI и Gemini от Google, обучаются на тексте, изображениях и видео, также известных как неструктурированные данные. Они особенно хороши в создании контента аналогичных типов, например коротких рассказов или изображений, а также могут использоваться для разработки программного кода.

LTM обучается на структурированных данных, таких как строки и столбцы записей транзакций. LTM эффективны в поиске закономерностей, прогнозировании поведения и потенциальном улучшении систем изнутри.

Оба типа моделей генеративного ИИ обучаются на огромных объемах данных — будь то текст для LLM или организованные наборы данных для LTM. Оба типа моделей могут затем использовать это обучение для анализа и прогнозирования.

Для LLM это может означать прогнозирование следующего слова в предложении после анализа миллионов и миллионов предложений. Именно так она способна писать новый рассказ или тексты песен.

Для LTM это может означать прогнозирование следующей платежной транзакции пользователя после анализа миллиардов предыдущих транзакций. Таким образом, она может информировать модели предотвращения мошенничества о том, что, вероятно, является законной транзакцией, а что может быть мошенничеством.

Хотя LLM не так эффективны при работе со структурированными данными, LTM прекрасно справляются с обработкой и анализом информации такого рода. Поскольку LTM и LLM обучаются на разных типах данных, они не заменяют друг друга. Напротив, они выполняют разные функции и могут дополнять друг друга. 

Модели большой длины контекста (LTM) можно использовать для анализа различных наборов данных и структурированных данных, что позволяет пользователям находить новые связи и получать новые аналитические данные из больших и разнородных таблиц с большим количеством строк данных.

В сфере финансовых услуг и платежей крупная языковая модель (LTM) может помочь обнаруживать подозрительную активность раньше и точнее, анализируя закономерности на основе больших объемов данных о транзакциях. Она может распознавать типичные модели расходов и быстро определять, когда что-то внезапно не вписывается в эту модель. Поскольку LTM узнает, как выглядит нормальное поведение в самых разных ситуациях, она также может помочь системам предотвращения мошенничества избегать ложной маркировки законных покупок как мошеннических, сокращая количество ненужных отклонений карт и одновременно выявляя реальные риски.

Mastercard начала разрабатывать собственные LTM, обученные на миллиардах анонимизированных транзакций, для исследования именно таких сценариев и вариантов использования. Мы верим, что наши LTM можно использовать для кибербезопасности, программ лояльности и вознаграждений, моделей персонализации, оптимизации портфеля и инструментов анализа данных. Кроме того, поскольку модель LTM более гибкая, чем существующие традиционные системы искусственного интеллекта на основе машинного обучения, мы можем использовать всего несколько LTM вместо того, чтобы создавать и поддерживать тысячи более традиционных моделей машинного обучения.

Помимо платежей и финансовых услуг, LTM могут использоваться в любой отрасли, управляющей большими объемами структурированных данных — от фармацевтики до энергетики, транспорта и логистики, — чтобы организации могли находить новые инсайты в своих данных.

Исходя из общедоступных данных на дату публикации этой статьи, в настоящее время в производстве находится лишь незначительное количество LTM (или их вовсе нет). Тем не менее многие компании уже сообщили о положительных результатах исследований и разработки собственных LTM, а многие, судя по всему, движутся к этапу производства. Новости о возможностях генеративного ИИ появляются ежедневно, поэтому следует ожидать стремительных изменений и новых открытий, связанных с LTM.

Пока что кажется, что, в отличие от LLM, LTM чаще работают в фоновом режиме, совершенствуя системы предотвращения мошенничества, анализируя большие наборы данных и расширяя возможности анализа данных в организациях.

Мы пока не знаем, как LTM могут взаимодействовать с агентами ИИ. Сегодня LLM используются в качестве основы для работы многих видов агентов ИИ, таких как ChatGPT, однако для LTM подобные сценарии применения не столь очевидны, поскольку они чаще используются для улучшения и оптимизации операций и систем организаций. Тем не менее мы можем представить будущее, в котором агент сможет работать с LTM для решения реальных задач аналогично тому, как это делается сегодня с LLM.

Например, со временем агент сможет использовать анализ из LTM для формирования персонализированных рекомендаций для пользователя, совершающего покупки через чат-бота на базе генеративного ИИ. Таким образом, в перспективе LTM могут использоваться для обеспечения работы агентной коммерции — нового и развивающегося формата розничной торговли, в котором такие агенты используются для поиска, выбора и покупки товаров.