https://peertube.lightnode.ru/videos/watch/d6d9fa99-c025-4d0f-8466-83fad479e2c9 How to inference: от стандартных подходов до экспериментов Владислав Попов ML Engineer, Action.Tech С недавнего времени большинство компаний начали внедрять языковые модели в свои процессы, чтобы решать различные задачи: от копайлотов для разработчиков до ИИ-агентов, решающих пул сложных задач. Однако инференс моделей ставит множество вызовов перед разработчиками: нужно поддерживать низкую задержку, масштабируемость и при этом стараться уместиться в бюджеты компании. В этом докладе я рассмотрю реальные кейсы из моей практики, расскажу как про используемые инструменты, подходы, которые были проверены временем, так и про экспериментальные. Tue, 28 Jul 2026 20:02:54 GMT https://validator.w3.org/feed/docs/rss2.html PeerTube - https://peertube.lightnode.ru https://peertube.lightnode.ru/client/assets/images/icons/icon-96x96.png https://peertube.lightnode.ru/videos/watch/d6d9fa99-c025-4d0f-8466-83fad479e2c9 All rights reserved, unless otherwise specified in the terms specified at https://peertube.lightnode.ru/about and potential licenses granted by each content's rightholder.