-
TinyML — запуск нейросетей на микроконтроллерах
Искусственный интеллект традиционно ассоциируется с мощными серверами, графическими ускорителями и крупными дата-центрами. Однако за последние годы появилась новая технологическая тенденция, которая меняет представление о возможностях машинного обучения. Речь идет о направлении TinyML — подходе, позволяющем запускать нейронные сети на крайне маломощных устройствах, таких как микроконтроллеры. Эти чипы используются в бытовой электронике, датчиках, носимых устройствах и…
-
Как малые языковые модели (SLM) запускаются прямо на смартфонах
В последние годы искусственный интеллект стремительно перемещается из облачных дата-центров прямо в карман пользователя. Если еще недавно генеративные нейросети требовали мощных серверов и дорогостоящих графических ускорителей, то сегодня все чаще обсуждается запуск языковых моделей непосредственно на мобильных устройствах. Ключевую роль в этом процессе играют малые языковые модели — Small Language Models (SLM). Эти компактные версии…