How to AI

Awara IT значительно улучшила производительность нашего колл-центра. Внедрение AI Assistant повысило качество обслуживания клиентов и оптимизировало внутренние процессы". — Сергей Чернов, руководитель контакт-центра Home Credit Bank.

💬 Поделитесь, какие рутинные задачи вы бы доверили ИИ для автоматизации?

Слышали, что Центральная Азия может стать следующим глобальным хабом для стартапов? Собрали для вас самые важные инсайты с Central Asian StartupForum:

«Самое интересная для меня новость за последнее время одновременно и «железная», и «айтишная», и биологическая. Достаточно давно существуют проекты по выращиванию клеток человеческого мозга. Для этого нужны определенные платы. И в начале этого года американская лаборатория сообщила о новой более продвинутой технологии.
На чип высаживается колония клеток человеческого мозга, им дают какое-то время разрастись, а затем начинается процесс обучения. То есть они используют для вычисления клетки вместо нейросети. Подход называется Brainoware.
Преимущества очевидны: технология энергоэффективна и очень быстро обучается. Исследователи за несколько часов обучили модель распознаванию человеческого голоса.
Понятно, что на данном этапе технология еще не идеальна, но кажется, что за этим будущее и, наверное, NVIDIA стоит забеспокоиться. С одной стороны, изобретается новое аппаратное обеспечение, с другой стороны меняются сами нейросети.
Как вы знаете, ChatGPT и прочие модели, которые сейчас генерируют почти все деньги для NVIDIA, строятся на архитектуре трансформеров. Технология трансформеров — это то, на чём работают все современные LLM (самый известный пример - ChatGPT) и на это тратятся миллиарды долларов.
Трансформер – это нейросеть, которая предполагает огромное количество операций матричного перемножения. Это очень тяжёлая вычислительная операция, которая требует много специфичных ресурсов, поэтому все современные крутые видеокарты, которые выпускает NVIDIA, изначально заточены под матричное умножение.
И тут очередная команда университетских исследователей публикует статью и через 2 недели после этого показывает решение, которое может всё изменить. Учёные просто заменили все слои, где происходит матричное перемножение, на чуть более простую операцию, тем самым сокращая операции на вычисление и количество электроэнергии больше, чем в 10 раз. Теперь вычисления можно с успехом запускать на старых видеокартах.
Если технология получит развитие, это будет переворот. Если мы сможем перейти к более эффективной технологии, тогда чипы NVIDIA будут неэффективны в текущей конфигурации».

«Скоро можно будет более чем в 10 раз снизить потребление энергоресурсов, которые необходимы для работы ИИ. Ребята из университета Санта-Круз фактически убрали очень ресурсоёмкий блок вычислений и теперь достаточно 100 Втч, как яркая лампочка. Например, вычислительная машина с графическими адаптерами, которую мы используем в работе, потребляет 1200 кВтч. Это повлечет значительное удешевление оборудования, потому что во многом энергоёмкость видеокарт и всего остального определяла высокую стоимость.
Близкая новость пришла от компании Geely, которые очень сильно наступают на пятки Tesla Motors. Они представили новый твердотельный аккумулятор военного уровня для следующих поколений электротехники. Он компактнее, не возгорается при повреждении, его можно бросать. Но главное, что плотность энергии в нём гораздо выше, чем в существующих аккумуляторах.
Почему это интересно? Аккумулятор выпустили не только в формате для автомобиля, но и для других устройств. Фактически это значит, что в будущем у нас телефон сможет работать не одни сутки, а неделю. Это будет новая эра, потому что сейчас смартфон вроде беспроводной, но всё равно привязан к зарядке и приходится ходить с пауэрбанками.
Таких новостей за последние два года было довольно много, в том числе от Panasonic Chemical, но важное отличие в том, что раньше были научно-исследовательские работы. А сейчас это новость от производственного подразделения.
У меня есть опыт работы с Китаем и я знаю, как они умеют быстро и качественно дорабатывать устройства и устранять недостатки. Можно предположить, что довольно скоро новинки выйдут на рынок и совершат революцию».